Pourquoi xHamster est bien meilleur que Facebook pour la modération de contenu

Les lois tiennent l’industrie du porno responsable du contenu dangereux – et elle prospère néanmoins.

En octobre, le fondateur de Facebook, Mark Zuckerberg, a comparu devant le Congrès pour témoigner au sujet du projet de cryptomonnaie de son entreprise, Libra. Au début de la procédure, le député Patrick McHenry (R-NC) s’est opposé aux propositions visant à freiner le géant de la technologie, les comparant aux « lois sur les signaux d’alerte » qui visaient à réduire la peur autour des premières automobiles par des mesures agressives (notamment l’obligation pour un piéton brandissant un drapeau rouge avant toute voiture sur la route).

Pour M. McHenry et pour la plupart des pairs de M. Zuckerberg dans la Silicon Valley, l’idée de ralentir l’innovation technologique (la decomputerization)par la réglementation est manifestement ridicule. Dans une industrie bâtie sur une philosophie de « vite faire vite et casser les choses « , l’idée que certains problèmes pourraient nécessiter une navigation prudente est totalement étrangère – surtout pour les entreprises dont la valeur est liée à leur grand nombre d’utilisateurs. Avec des centaines de millions d’utilisateurs (et, sur Facebook, des milliards), on entend souvent dire qu’on ne peut pas raisonnablement s’attendre à ce que les entreprises surveillent tout ce qui se retrouve sur leurs plateformes.
Mais il y a un autre secteur du monde numérique, dont le siège n’est qu’à quelques centaines de kilomètres de la Silicon Valley, où cette attitude d’innovation technologique incontrôlée et de croissance à tout prix ne volerait jamais.

Dans la Porn Valley de Los Angeles, la capitale mondiale du divertissement pour adultes, les entreprises se déplacent beaucoup plus lentement que leurs homologues de la Silicon Valley parce qu’elles sont accablées par une combinaison de réglementation légale et de stigmatisation sociale qui rend le coût des actions imprudentes potentiellement dévastateur. Et malgré les affirmations de la Silicon Valley selon lesquelles la réglementation nuirait gravement à leur capacité de faire de réels progrès, les pornographes parviennent toujours à innover – tout en évitant certains des pièges désordonnés qui ont accablé la Big Tech.
Prenons l’exemple de la Silicon Valley et de la Porn Valley, qui traitent différemment le contenu généré par les utilisateurs. Sur les principaux sites de médias sociaux, l’affichage instantané est considéré comme la norme – que vous affichiez un lien vers un article du New York Times, une mise à jour personnelle ou une invective raciste, vos pensées apparaîtront sur le site dès que vous les partagerez. Bien que certains liens et mots déclenchent un algorithme de modération de base qui empêche la mise à jour d’être publiée, la plupart des modérations se font après coup, souvent après que les utilisateurs aient signalé un contenu problématique.
Avant que quoi que ce soit puisse être affiché sur un site pour adultes, il doit faire l’objet d’un filtrage rigoureux.
Lorsque des entreprises comme Facebook et Twitter ont été appelées à héberger du contenu illégal ou abusif, elles ont généralement réagi en reconnaissant le problème et en promettant une solution dans l’avenir. Une récente enquête de CNN a fait état des nombreuses fois où M. Zuckerberg a reconnu les problèmes de sa plate-forme et a promis de faire mieux, notamment dans des déclarations faites en janvier 2018, novembre 2018 et mai 2019. Pourtant, comme l’indique le rapport, le contenu qui viole directement les conditions d’utilisation du site continue de demeurer sur la plateforme.

Dans le cas des sites pornographiques, il est difficile d’imaginer une situation semblable, en grande partie parce que de nombreuses entreprises pour adultes adoptent l’approche complètement opposée pour surveiller leur contenu. Avant de pouvoir afficher quoi que ce soit sur un site pour adultes, il faut s’assurer qu’il n’ouvre pas le site à une responsabilité légale. « Nous sommes un peu différents des autres sites de médias sociaux « , déclare Alex Hawkins, vice-président du site de partage de clips pornographiques xHamster. « Nous ne permettons pas que n’importe quoi soit soit téléchargé et apparaisse immédiatement sur le site. Notre I.A. révise le contenu pour certaines violations ou le réfère à notre équipe pour une révision supplémentaire. Nous avons eu une légion de bénévoles… qui examinent les téléchargements en échange de récompenses sur place, ainsi que la santé de la communauté. » Ce processus de révision signifie qu’il peut s’écouler plusieurs heures – sinon plus – avant que les téléchargements n’apparaissent sur xHamster, un modèle significativement différent de la gratification instantanée que l’on trouve sur Facebook ou YouTube.

La modération agressive du contenu n’est pas la seule façon dont xHamster contrôle ce qui atterrit sur le site. Comme les conditions d’utilisation l’indiquent clairement, les discussions entre utilisateurs sont également surveillées périodiquement pour s’assurer qu’elles sont conformes aux politiques du site. Cela peut sembler extrême, mais il y a une bonne raison : des sites comme xHamster ne peuvent littéralement pas se permettre d’avoir du contenu qui viole leurs politiques apparaissant sur leurs plateformes, même momentanément. Les sanctions imposées par le gouvernement, les agents de facturation et les banques – qui peuvent aller de l’interdiction de traiter les paiements des utilisateurs à l’emprisonnement pour des années – signifient que même la moindre erreur peut entraîner la faillite définitive d’une entreprise de porno, ou pire.

Il existe quatre grands règlements juridiques qui régissent la façon dont les entreprises pour adultes font des affaires. En plus des lois interdisant l’utilisation d’interprètes mineurs, il existe également des lois sur l’obscénité, des règlements 2257 (une série de règlements sur la tenue de registres qui exigent des entreprises qu’elles maintiennent des documents détaillés prouvant que quiconque se présente sur place a plus de 18 ans) et la loi anti-trafic FOSTA-SESTA, qui pénalise sévèrement les entreprises qui permettent la conduite sur leur plateforme de la prostitution de tout acte ou d’un acte qui pourrait être lu comme tel.
« Parce que nous sommes très agressifs dans notre patrouille de contenu, les criminels savent qu’ils ne doivent pas nous utiliser. »

En plus de ces lois, les entreprises de divertissement pour adultes font face à d’importantes pressions de la part des banques et des agents de facturation, qui peuvent, à tout moment, retirer leurs clients adultes de leurs services – même si le travail de ce client est entièrement conforme à la loi. Lorsqu’une seule erreur peut entraîner une perte de revenu catastrophique, vous ne pouvez pas vous permettre d’agir rapidement et de casser les choses.

Le résultat est que des sites comme xHamster sont très bons pour empêcher le contenu illégal d’apparaître sur leurs sites. Les utilisateurs de xHamster téléchargent environ 7 000 vidéos par jour, et Hawkins estime qu’environ une vidéo sur 20 000 d’entre elles sont signalées et bloquées avant de pouvoir apparaître sur le site. « Parce que nous sommes très agressifs dans notre patrouille de contenu, les criminels savent qu’ils ne doivent pas nous utiliser « , dit-il.
Peu de membres de l’industrie du porno soutiendraient que des lois comme FOSTA-SESTA, 2257 ou les lois sur l’obscénité – tous des règlements qui sont rédigés de façon confuse, difficiles à respecter et extrêmement punitifs – sont une bonne chose pour l’industrie, du moins dans leur forme actuelle.
Mais comme la Big Tech s’oppose même aux actes de surveillance les plus minimes, il convient de noter que l’examen minutieux de l’industrie des adultes n’a pas éradiqué l’industrie ou ne l’a pas rendue incapable d’innover. Ce qu’il a fait, cependant, c’est de rendre les membres de l’industrie des adultes prudents et d’envisager d’appliquer des mesures de sécurité dont la Big Tech a longtemps fait preuve de cavalerie.

Si un site porno faisait l’objet d’une enquête qui révélait qu’il contenait des millions d’images d’abus pédosexuels, sa société mère ne serait probablement pas restée en affaires plus longtemps. Pour Facebook, cependant, un article du Times qui alléguait une épidémie d’abus envers les enfants sur sa plateforme n’était qu’une mauvaise nouvelle. C’est une différence frappante en réaction à la même infraction, et cela devrait tous nous faire réfléchir.

Il est vrai qu’un site comme Facebook ne pourrait pas atteindre un milliard d’utilisateurs, ou leur offrir la même expérience, s’il adoptait le même modèle de modération de contenu qu’un site comme xHamster. Mais étant donné certaines des horreurs que la version actuelle de Facebook a déclenchées, il vaut la peine de se demander si une version du site qui s’était davantage axée sur la modération et moins sur la croissance rapide n’aurait pas été meilleure pour nous tous.
Après tout, si le porno peut survivre – voire prospérer – au milieu d’un paysage aussi difficile, il semble probable que la Silicon Valley serait capable de résister à ses propres « lois du drapeau rouge » et que nous serions tous mieux lotis dans un monde où les géants de la technologie sont encouragés à ralentir, à prendre un rythme et à prendre des mesures actives pour s’assurer que le contenu dont ils font la promotion ne cause activement aucun mal à personne.

Via OneZero sur Medium

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.