La façon dont les moteurs de recherche fonctionnent est loin d’être impartial, un nouveau livre argumente.

Internet peut sembler égalitaire, mais ce n’est pas le cas. Safiya Umoja Noble s’est retrouvée face à ce fait un jour où elle a utilisé le moteur de recherche Google pour chercher des sujets que ses nièces pourraient trouver intéressants. Elle a entré le terme « filles noires » et s’est retrouvée avec des pages dominées par la pornographie.

Noble, professeur de communication à l’USC Annenberg, a été horrifiée mais pas surprise. Depuis des années, elle fait valoir que les valeurs du Web reflètent celles de ses bâtisseurs – pour la plupart des hommes blancs et occidentaux – et ne représentent pas les minorités et les femmes. Son dernier livre, Algorithms of Oppression: How Search Engines Reinforce Racism, détaille la recherche qu’elle a commencée après cette recherche de Google fatidique, et explore les structures cachées qui façonnent la façon dont nous obtenons l’information par Internet.

Le livre, ce mois-ci, soutient que les algorithmes des moteurs de recherche ne sont pas aussi neutres que Google voudrait vous le faire croire. Les algorithmes favorisent certains résultats par rapport à d’autres, et même un morceau de code apparemment neutre peut refléter les préjugés de la société. De plus, sans aucune idée de la façon dont les algorithmes fonctionnent ou du contexte plus large, les recherches peuvent injustement façonner la discussion d’un sujet comme les filles noires.

Noble a parlé à MIT Technology Review des problèmes inhérents au système actuel, comment Google pourrait faire mieux, et comment l’intelligence artificielle pourrait aggraver les choses.

Est-ce que les gens se trompent sur le fonctionnement des moteurs de recherche?

Si nous recherchons le Starbucks le plus proche, une citation précise ou quelque chose de très précis qui est facilement compréhensible, cela fonctionne bien. Mais quand nous commençons à entrer dans des concepts plus compliqués autour de l’identité, autour de la connaissance, c’est là que les moteurs de recherche commencent à nous faire défaut. Ce ne serait pas vraiment un problème, si ce n’est que le public compte vraiment sur les moteurs de recherche pour leur donner ce qu’ils pensent être la vérité, ou quelque chose de vérifié, ou quelque chose qui est crédible. C’est là, je pense, que nous avons le plus grand malentendu du public sur ce que sont les moteurs de recherche.

Pour corriger la distorsion, Google supprime normalement certains résultats. Y a-t-il une meilleure approche?

Nous pourrions songer à nous retirer d’un projet aussi ambitieux d’organisation de toute la connaissance du monde, ou nous pourrions recadrer et dire: « C’est une technologie qui est imparfaite. Il est manipulable. On va vous montrer comment on la manipule. Nous allons rendre ces dimensions de notre produit plus transparentes pour que vous sachiez la nature profondément subjective de la production. »Au lieu de cela, la position de nombreuses entreprises – et pas seulement Google – est qu’elles fournissent quelque chose en quoi vous pouvez avoir confiance et sur quoi vous pouvez compter, et c’est là que cela devient très difficile.

Comment l’apprentissage automatique peut-il perpétuer une partie du racisme et du sexisme qui existe?

J’ai fait valoir que l’intelligence artificielle, ou les systèmes décisionnels automatisés, deviendront une question de droits de la personne au cours de ce siècle. Je crois fermement que c’est parce que les algorithmes et les projets d’apprentissage machine utilisent des données qui sont déjà biaisées, incomplètes, imparfaites et [nous] enseignons aux machines comment prendre des décisions basées sur cette information. Nous savons que cela va mener à divers résultats disparates. Permettez-moi simplement d’ajouter qu’il sera de plus en plus difficile d’intervenir dans l’IA parce qu’il deviendra moins clair de savoir quelles données ont été utilisées pour éclairer l’élaboration de cette IA ou de ces systèmes. Il existe de nombreux types d’ensembles de données, par exemple, qui ne sont pas normalisés et qui se combinent pour prendre des décisions.

Depuis que vous avez cherché pour la première fois des « filles noires » en 2010, avez-vous vu les choses s’améliorer ou empirer?

Depuis que j’ai commencé à écrire et à parler publiquement sur les filles noires, en particulier sur le fait d’être associées à la pornographie, les choses ont changé. Maintenant, la pornographie et le contenu hypersexualisé n’est pas sur la première page, donc je pense que c’était une amélioration discrète qui n’a pas été réalisée avec beaucoup de fanfare. Mais d’autres communautés, comme les filles latines et asiatiques, sont encore très sexualisées dans les résultats des recherches.

2018 semble être une sacrée année pour dénoncer l’ignoble monde sexiste et raciste dans lequel on vit : et cela détruira ces rapports dans les 2 sens, pas seulement la « majorité contre la minorité ». Une véritable guerre mondiale va se produire à ce niveau-là.
Il risque simplement d’y avoir un grand nombre de victimes qui ont accepté la situation soit prises au dépourvu par la société qui va nécessairement changer.

 

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.