Publicités

L’algorithme de YouTube recommande des vidéos troublantes aux enfants

L’algorithme de YouTube recommande des vidéos troublantes aux enfants

Dans l’industrie de la vidéo en ligne, l’un des articles les plus discutés du moment est « Quelque chose ne va pas sur Internet« , un examen approfondi du monde insidieux des vidéos d’enfants de YouTube. Dans cet article, l’auteur James Bridle explique comment les créateurs utilisent des processus automatisés pour concevoir des vidéos pour les enfants qui sont parfaitement synchronisées avec l’algorithme de recommandation de YouTube.

Ces vidéos, souvent sombres, bizarres et inappropriées, font partie d’une industrie florissante de contenu pour enfants inhabituel sur YouTube, qui a dessiné des questions pendant des mois, voire des années. Ils contiennent les bons mots-clés, pour le bon temps, et se rapportent aux formats de tendance récents, ainsi ils zippent vers le haut des boîtes de recommandation et jouent devant les yeux des tout-petits curieux. D’un simple clic, les téléspectateurs peuvent aller d’un simple visionnement de contenu traditionnel pour enfants à des vidéos plus étranges, mettant en vedette Bridle. Parfois, il n’est même pas nécessaire d’agir sur l’utilisateur pour accéder à ces clips en raison de la fonction de lecture automatique de YouTube.

L’article de Bridle, paru dans la foulée d’un reportage du New York Times sur la nature salace de certaines vidéos sur l’application YouTube Kids, a suscité des réactions sur Internet. Certains points de vente se sont joints à Bridle pour comparer la diffusion de vidéos inappropriées pour enfants à la prolifération de fausses nouvelles sur des plateformes comme Facebook, et ont exhorté YouTube à aborder les problèmes au sein de sa plate-forme. Pour YouTube, réplique que l’algorithme qu’il a en place est, et a été pendant un certain temps, profondément imparfait « , dit un billet de Polygon.

D’autres lecteurs ont décidé que la présence de contenus dérangeants dans la plus jeune communauté de YouTube rend le meilleur site vidéo au monde inadapté aux enfants. Voici des tweets de deux journalistes bien connus qui conseillent aux parents d’interdire à leurs enfants de regarder des vidéos YouTube adaptées à leur âge:

Faites le tour de Twitter, et vous trouverez beaucoup d’autres suggestions dans ce sens. Il est vrai que les enfants ne seront pas exposés à des contenus dangereux si leurs parents les dirigent vers des sources plus fiables comme PBS Kids. En même temps, il est important de reconnaître le rôle important que jouent les spectateurs dans la  » fixation  » de l’algorithme YouTube. Le site vidéo porte la responsabilité des erreurs de jugement de son moteur, mais un peu de nuance et de prévoyance de la part des parents peuvent aider à nettoyer les recommandations.

Dans son article, Bridle admet qu’il ne sait pas trop comment réparer YouTube. « Je n’ai aucune idée de la façon dont ils peuvent réagir sans couper le service lui-même, et la plupart des systèmes qui lui ressemblent « , écrit-il. « Nous avons construit un monde qui fonctionne à l’échelle, où la surveillance humaine est tout simplement impossible, et aucune forme de surveillance inhumaine ne peut contrer la plupart des exemples que j’ai utilisés dans cet essai. »

En réponse à son article, de nombreux lecteurs ont fait valoir que les parents ne devraient pas permettre aux enfants d’utiliser YouTube sans surveillance sans s’attendre à ce que ces enfants tombent sur quelque chose qu’ils ne devraient pas voir. C’est là une idée intelligente : plutôt que d’enlever YouTube aux enfants, il est important d’encourager leur consommation supervisée et conservatrice. La quantité de contenu YouTube qui convient aux enfants est apparemment infinie. Il y a des centaines d’épisodes de dessins animées, des clips de unboxing en abondance et des rimes de comptines interminables. Beaucoup de ces vidéos sont organisées en playlists sur des plateformes comme YouTube Kids.

YouTube a également pris des mesures pour empêcher les vidéos tordues destinées aux enfants d’accumuler des revenus. Dans une mise à jour de juin, il a annoncé son intention de mettre fin à la monétisation pour tout clip qui met en vedette  » l’utilisation inappropriée de personnages de divertissement familial « :

Si, comme nous l’avons établi, il y a une montagne de bons contenus pour enfants sur YouTube, que le site lui-même favorise, pourquoi les vidéos bizarres sont-elles toujours favorisées dans l’algorithme? Alors que Bridle a raison de dire que l’industrie de la vidéo pour enfants est loin d’être la seule communauté Internet qui lutte contre un moteur qui fait de mauvaises recommandations, le problème est bien pire parmi les vidéos destinées aux enfants que sur la plupart des autres contenus verticaux sur YouTube. Les téléspectateurs adultes se sentent beaucoup plus en sécurité en regardant les vidéos qui apparaissent dans leurs flux à suggestions.

Si les parents établissent des règles de base pour l’utilisation de YouTube, désactivent le jeu automatique et les clips avant de les présenter aux jeunes, ils n’empêcheront pas seulement leurs fils et filles de visionner du contenu répréhensible: ils pourront peut-être aussi aider YouTube à recycler son algorithme. Si les téléspectateurs montrent à la soi-disant « boîte noire » qu’ils veulent regarder des vidéos favorables à la famille par opposition à celle intégrée ci-dessus, la boîte noire pourrait tenir compte de cette préférence.

Cela dit, il est difficile de faire des déclarations concrètes sur l’algorithme de YouTube, qui est guidé par des principes mystérieux. Il est au moins important de noter, cependant, que le « système cassé » décrit dans l’article de Bridle est aussi celui qui est conduit par des consommateurs qui sont trop jeunes pour savoir comment cliquer de façon responsable. Ils alimentent la boîte avec de mauvaises informations, et la boîte génère de mauvaises recommandations. Peut-être, si l’acteur qui faisait les clics était un parent qui en savait plus sur ce qui constitue un contenu approprié, les horreurs bizarres dont parle Bridle deviendraient moins courantes.

C’est de la pure spéculation, mais il semble que ce pourrait être une solution qui aiderait à nettoyer YouTube Kids tout en permettant aux parents de garder leurs enfants divertis gratuitement.

Il y a, bien sûr, des défauts dans cet argument. Pour un parent, le surcroît de travail qu’implique la surveillance du régime de ses enfants sur YouTube peut ne pas valoir la peine, surtout lorsqu’il y a beaucoup de sources fiables auxquelles on peut accéder en quelques clics. Même si une attention scrupuleuse de la part des adultes améliorerait la qualité des vidéos YouTube pour enfants dans leur ensemble, il n’est pas nécessairement dans l’intérêt d’une seule personne de rendre cette communauté plus sûre. C’est la tragédie des biens communs sur fond numérique.

Bridle qualifie le manque d’attention de YouTube aux défauts de son moteur de « méprisable », et il n’ a pas nécessairement tort. L’algorithme semble actuellement favoriser les chaînes qui téléchargent beaucoup de vidéos longues en succession rapide, et comme l’ont noté des observateurs comme Matthew Patrick, ce qui rend difficile pour les créateurs individuels et motivés de suivre les opérations médiatiques bien financées – ou, dans ce cas, les systèmes automatisés qui produisent des prises répétitives sur les mêmes mots-clés pour enfants. Même si les parents aident YouTube à nettoyer son désordre, ils ne peuvent pas annuler sa disposition actuelle envers certains formats vidéo produits en série.

En fin de compte, la consternation suscitée par les vidéos d’enfants obscures et bizarres sur YouTube est le dernier exemple de site vidéo à blâmer pour un problème d’échelle sur lequel il ne peut agir seul. Par exemple, regardons une autre catégorie dans laquelle YouTube a fait les gros titres de ces derniers temps: la musique. Les artistes et les labels ont accusé la plateforme de créer un écart de valeur qui se traduit par des redevances dérisoires. Ils dénoncent le statut de « sphère de sécurité » de YouTube, qui l’empêche d’être légalement coupable pour la musique pirate téléchargée par ses utilisateurs.

Mais la sphère de sécurité existe pour une raison. Dans des affaires judiciaires récentes liées à cette question, les tribunaux ont souligné à maintes reprises que des sites comme YouTube et Vimeo ne peuvent pas contrôler toutes les vidéos qu’ils affichent. Au lieu de cela, on ne peut que leur demander de jouer leur rôle. Lorsqu’on leur présente des exemples de musique piratée, ils doivent agir. Au-delà de YouTube, les labels et les téléspectateurs sont également responsables de l’élimination de tout écart de valeur perçu. Les labels doivent être prêts à moderniser leur offre et les spectateurs doivent être prêts à éviter le piratage, même s’ils doivent regarder des publicités pré-roll avant de regarder des clips vidéo.

YouTube aimerait sans doute exciser l’étrange et violente tumeur qui existe dans la communauté de ses enfants, mais le site vidéo ne peut pas faire ce changement tout seul. Il a besoin de l’aide des parents qui sont prêts à jouer un rôle actif dans l’alimentation médiatique de leurs enfants afin de préserver une plateforme qui a le potentiel d’être un outil de divertissement indispensable.

Le point principal de Bridle est que la force qu’il a appelée « violence infrastructurelle » peut être vue partout sur le web, et il déplore que la conversation autour de ce sujet soit encore quelque peu limitée. Nous nous efforçons encore de trouver un moyen d’en parler, de décrire ses mécanismes, ses actions et ses effets « , écrit-il.

Eh bien, il y a une façon d’en parler. Si nous voulons améliorer les discussions sur la violence infrastructurelle, la première étape devrait être de se rendre compte que des systèmes comme l’algorithme de YouTube sont dérivés de l’entrée du spectateur. Les choses que nous observons, partageons et cliquons sur les choses que nous regardons, forment la base de ce qui nous est recommandé. Pour de bonnes personnes, il est contre-productif d’éviter les systèmes brisés. Au lieu de cela, ils devraient s’efforcer d’améliorer ces systèmes en leur disant qu’ils veulent des chansons mignonnes, une morale forte et de grands sourires – pas des accidents de voiture, des actes violents et des fétichistes sexuels.

Publicités

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

%d blogueurs aiment cette page :