Pinterest a une réponse parfaite à la désinformation nocive

Depuis le début de la prise en compte des réseaux sociaux en 2016, un genre de contenu populaire a émergé que Casey Newton, journaliste pour The Verge, aime appeler Hey, These Search Results Are Bad. Ce genre d’histoire comprend trois parties :

  • Le journaliste cherche quelque chose à l’aide du moteur de recherche d’un réseau social.
  • Les résultats de la recherche sont mauvais.
  • Le journaliste écrit un article sur la façon dont les résultats de recherche sont mauvais.

Les histoires représentatives de ce Hey, These Search Results Are Bad incluraient Voici comment YouTube répand des théories de conspiration au sujet de la fusillade de Las Vegas, par Charlie Warzel ; Comme une vidéo de théorie de conspiration s’est répandue après le tournage au Texas, YouTube travaille pour ajuster son algorithme, par Hamza Shaban ; et YouTube a promu une vidéo qui s’en prend à un étudiant Parkland. Comment c’est arrivé ? Par Abby Ohlheiser.

Vous avez peut-être remarqué que YouTube figure en bonne place dans ces histoires. Comme Kevin Roose l’a fait remarquer hier, YouTube et le complot sont liés au phénomène. Et bien que Google accorde plus d’attention que jamais aux résultats de recherche sur YouTube, il y a encore beaucoup de mal à y trouver.

De toute évidence, certains sujets – en particulier les fusillades de masse et les vaccins – donnent lieu à plus d’articles sur les mauvais résultats de recherche que d’autres. C’est pourquoi il est rassurant de voir que Pinterest avait pris note de ce phénomène et avait pris une mesure étonnamment audacieuse pour s’en protéger. Voici Robert McMillan et Daniela Hernandez dans le Wall Street Journal :

Pinterest a cessé de retourner les résultats des recherches liées aux vaccinations, une mesure radicale, selon l’entreprise de médias sociaux, qui vise à freiner la diffusion de la désinformation, mais qui démontre le pouvoir des entreprises technologiques de censurer les discussions sur des sujets brûlants.

La plupart des images partagées sur Pinterest concernant la vaccination ont mis en garde contre ce vaccin, contredisant les directives médicales établies et les recherches montrant que les vaccins sont sûrs, a dit M. Pinterest. La plateforme de recherche d’images a essayé de supprimer le contenu anti-vaccination, a déclaré une porte-parole de Pinterest, mais n’a pas été en mesure de le supprimer complètement.

En d’autres termes, Pinterest s’est rendu compte qu’il avait ce que les chercheurs danah boyd et Michael Golebiewski ont appelé un « vide de données« . La chercheuse Renee DiResta le résume ici :

Une situation où la recherche de réponses à propos d’un mot-clé renvoie un contenu produit par un groupe spécialisé ayant un agenda particulier. Il n’y a pas que les résultats de Google – les vides de mots-clés se produisent aussi sur social. Les articles les plus partagés sur la vitamine K sur Facebook sont anti-vaccination, et la plateforme d’analyse CrowdTangle montre que ces articles atteignent un public de millions de personnes. Les résultats sur YouTube ne sont pas meilleurs ; plusieurs des 10 meilleurs résultats mettent en vedette le célèbre expert en immunologie Alex Jones.

En 2017, BuzzFeed a rapporté que Pinterest était inondé de mauvaise information sur la santé. À son grand mérite, Pinterest s’est rendu compte qu’il y avait un risque de préjudice et, plutôt que de s’en prendre aux droits des groupes anti-vaccination marginaux de s’emparer de leur machine virale, Pinterest les a simplement fait taire. Comme le fait remarquer l’histoire, les utilisateurs peuvent toujours épingler des images marginales sur leurs propres tableaux, mais ils ne peuvent plus utiliser Pinterest pour une distribution virale gratuite. C’est une approche que certains appellent « liberté d’expression contre liberté d’accès« . Vous pouvez dire ce que vous voulez, mais Pinterest n’a aucune obligation de le partager avec le reste du monde.

Avec cette citation tirée de l’article paru dans le Journal de Ifeoma Ozoma, responsable des politiques publiques et de l’impact social de Pinterest :

« Mieux vaut ne pas servir ces résultats que d’entraîner les gens dans ce qui est comme un terrier de recommandation. »

Si vous voulez savoir à quoi ressemble la prise en charge de votre communauté – si vous voulez savoir à quoi ressemble la responsabilité sociale d’une plate-forme technique – cela ressemble beaucoup à ce que dit Ozoma.

Mais pour Youtube alors ? Les YouTubers partent en guerre à la simple suggestion que le site pourrait diminuer leur nombre de visites ; l’idée que la compagnie cacherait des catégories entières des résultats de recherche pourrait déclencher une sorte d’apocalypse.

Mais si une sorte d’apocalypse… se produisait déjà sur YouTube ? Julia Alexander a fait la chronique d’une très mauvaise semaine sur le site vidéo, au cours de laquelle la recherche d’un homme à partir de l’expression « bikini haul » l’a mené dans un terrier de lapin menant à une foule de vidéos sur l’exploitation des enfants :

Les vidéos ne sont pas de nature pornographique, mais les sections de commentaires sont pleines de gens qui horodatent des scènes spécifiques qui sexualisent l’enfant ou les enfants dans la vidéo. Des commentaires sur la beauté des jeunes filles se trouvent également dans la section commentaires.

La réaction a été rapide. Epic Games (fabricant de Fortnite), Nestlé et Disney comptent parmi les sociétés qui ont retiré leur publicité de la plate-forme. Les créateurs de YouTube se préparent à ce qui, selon le comte d’Alexander, serait la cinquième « adpocalypse » – une période où les revenus s’épuisent, peut-être pendant plusieurs mois, alors que les annonceurs fuient vers un terrain plus sûr.

Il y a un monde dans lequel YouTube recherche proactivement les mauvais résultats de recherche et les données vides, bloquant l’accès pendant qu’il s’efforce de déloger les contenus à caractère abusif. Une décision aussi radicale inspirerait certainement des cris d’indignation – et des inquiétudes légitimes quant à l’énorme pouvoir dont dispose l’entreprise pour fixer les termes du débat public.

Et pourtant, le geste que Pinterest a posé lorsqu’il a été confronté à la même question est inspirant. Les seuls perdants dans cette décision sont ceux qui, s’ils avaient leur mot à dire, déclencheraient une crise mondiale de la santé.

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.