Le documentaire « Coded Bias » est « Une vérité qui dérange » pour les algorithmes de Big Tech

Le documentaire de la réalisatrice Shalini Kantayya, « Coded Bias », dévoile comment les préjugés sexistes et raciaux inhérents s’intègrent dans les algorithmes qui régissent nos vies.

Les documentaires couvrant les dangers de la grande technologie ne manquent pas. Plus récemment, The Social Dilemma de Netflix a fait des vagues, pour le meilleur ou pour le pire, en s’appuyant sur des initiés pour déballer les conceptions manipulatrices des algorithmes des médias sociaux.

Aujourd’hui, la cinéaste Shalini Kantayya étudie plus en profondeur l’impact des médias sociaux et des algorithmes de Big Tech sur les groupes les plus marginalisés de la société dans son nouveau documentaire Coded Bias.

Coded Bias dévoile comment un groupe homogène de personnes est responsable du développement rapide de l’IA et comment les préjugés inhérents à leur vision du monde sont intégrés dans le code.

De l’outil de recrutement d’Amazon qui a peut-être éliminé les femmes candidates aux pratiques discriminatoires des propriétaires et des institutions bancaires, en passant par le code utilisé par les forces de police et le gouvernement, Coded Bias s’appuie sur un large éventail de cas pour construire un argument en faveur de plus de contrôles et d’équilibres sur les algorithmes qui régissent essentiellement nos vies.

C’est une conversation qui a pris de l’ampleur grâce à Joy Buolamwini, assistante de recherche au Media Lab du MIT et fondatrice de l’Algorithmic Justice League, dont la découverte révolutionnaire et les études ultérieures sur les préjugés des logiciels de reconnaissance faciale à l’encontre des personnes et des femmes à la peau plus foncée ont conduit certaines des plus grandes entreprises, dont Amazon et IBM, à repenser leurs pratiques.

C’est en fait le discours de Buolamwini sur le TED de 2016 qui a conduit Kantayya dans le terrier du lapin sur la façon dont les grandes technologies peuvent avoir un impact sur les droits civils.

« J’espère que [Coded Bias] nous aidera à comprendre en termes simples comment un biais peut être codé et nous incitera à remettre en question la Big Tech », déclare M. Kantayya. « Le film est raconté du point de vue de la moitié de la population qui est négligée dans les documentaires scientifiques et techniques, à savoir les femmes et les personnes de couleur – et il se trouve que c’est aussi elle qui mène la lutte pour des utilisations plus éthiques et plus humaines des technologies du futur ».

Coded Bias présente une richesse rafraîchissante de sources et d’experts féminins, notamment Cathy O’Neil, auteur de Weapons of Math Destruction ; Zeynep Tufekci, professeur de sociologie et collaboratrice du New York Times ; Silkie Carlo, directrice de l’organisation britannique de défense des droits de l’homme Big Brother Watch ; Safiya Umoja Noble, professeur et auteur de Algorithms of Oppression ; et bien d’autres encore.

Dans ce processus de recherche et d’entretiens rigoureux, il y a eu un moment où je me suis dit : « Wow, c’est surtout des femmes », explique M. Kantayya. « Coded Bias a le même ratio hommes/femmes que la plupart des films technologiques – c’est juste un retournement de situation. Et je pense que les gens sont toujours aussi surpris et étonnés d’entendre des femmes parler avec autant d’autorité et de perspicacité ».

Le ton unanime de Coded Bias est qu’il faut davantage de réglementation dans le domaine des grandes technologies, en particulier pour freiner les abus algorithmiques et les défauts qui perpétuent les préjugés. Alors que ces grandes variations de la législation se jouent dans les tribunaux, M. Kantayya souhaite également que Coded Bias ait un impact plus immédiat sur les téléspectateurs.

« J’espère que les gens commenceront à s’interroger sur ce léger coup de pouce du pouvoir, qu’il s’agisse de nous pousser à écouter une chanson ou de nous demander quelles informations nous sont transmises », déclare M. Kantayya. J’espère que Coded Bias sera une sorte de « An Inconvenient Truth« , un film qui fera date et qui traitera de quelque chose qui a une importance vitale pour notre avenir ».

Via Fastcompany

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.