Publicités

Le travail le plus dur de la Silicon Valley est un cauchemar : The Cleaners

Le travail le plus dur de la Silicon Valley est un cauchemar : The Cleaners

Dans le documentaire « The Cleaners« , nous rencontrons les gens qui font le travail épuisant, ambigu et traumatisant de la modération de contenu.

Un « modérateur de contenu » à Manille, l’un des nombreux engagés par la Silicon Valley pour surveiller le contenu en ligne. [Image : Gebrueder Beetz Beetz Filmproduktion]

« Ma mère m’a toujours dit que si je n’étudiais pas bien, je deviendrais un clochard. Ils ne font que ramasser les ordures. Ils comptent sur les ordures. C’est le seul gagne-pain qu’ils connaissent. »

C’est une idée qu’une jeune femme philippine se fait en réalisant que son propre travail dans la technologie est à peu près la même chose. Sa position : Modérateur de contenu, l’un des milliers d’êtres humains qui scannent, évaluent et suppriment chaque jour les médias de tout, des décapitations à la pornographie juvénile en passant par des services comme Facebook, YouTube et Twitter.
Son quota ? 25 000 photos par jour. Ses règles ? Dictées par les entreprises, mais souvent vague au mieux.

Cette scène est tirée de The Cleaners, un documentaire des réalisateurs allemands Moritz Riesewieck et Hans Block, qui ont passé ces dernières années à accéder au monde clandestin de la modération de contenus de Manille. La ville est devenue la capitale du nettoyage de la Silicon Valley. Comme les Facebooks et Googles du monde externalisent une grande partie de leur modération de contenu à des sociétés tierces, ces sociétés engagent ces entrepreneurs à l’étranger pour faire le travail.

« C’est une industrie très secrète, dit Block. « Quand quelqu’un travaille pour Facebook, il doit dire qu’il travaille pour le projet Honey Badger. Ils utilisent des mots de passe pour que personne ne sache qu’ils travaillent pour les clients. »

Quand les cinéastes ont commencé à tourner le documentaire en 2015, ils ont passé les huit premiers mois à faire des allers-retours entre Berlin et Manille, en essayant simplement de retrouver les entreprises qui effectuaient ce travail, puis de nouer des relations avec leurs employés pour aller devant la caméra et parler du travail.

« Ils ont des sociétés de sécurité privées pour s’assurer que personne ne parle aux journalistes. Ils ont pris des photos de notre équipe avec un avertissement et ont dit :  » Si vous parlez à ces gars, vous serez immédiatement viré « , raconte Block.

« Ils ont des scanners d’aéroport dans leurs bureaux, il n’était donc pas du tout possible d’apporter une caméra cachée. Même si nous le pouvions, nous n’aurions pas aimé le faire « , dit Riesewieck. « Ça ne valait pas la peine de faire du mal aux ouvriers, et ça n’a pas de sens visuellement. » Au mieux, The Cleaners aurait été un documentaire GoPro tourné dans un sac à dos.

Au lieu de cela, The Cleaners prend quelques libertés créatives pour raconter l’histoire, ce qui fait de Manille un personnage important dans le processus. 90% du film et de ses interviews sont tournés de nuit, avec la ville obscure en toile de fond. Cela donne à Manille un look dystopique de Gotham ou de Blade Runner, disent les réalisateurs, mais cela souligne aussi un point important sur le travail : Quand le soleil se lève aux États-Unis, c’est là que les Américains affichent le plus sur les médias sociaux. Par conséquent, les modérateurs de contenu travaillent de nuit.

Les modérateurs eux-mêmes – qui sont tous anonymes et dont certains sont photographiés avec soin pour masquer leur identité – semblent travailler dans le film, à l’intérieur d’un immeuble de bureaux sombre et vide. Le film ne révèle jamais que ce n’est pas leur véritable lieu de travail, mais c’est tout de même un décor approprié.
(…)

La seule différence est que les modérateurs parlent à haute voix pour notre bénéfice, nous donnant un courant de conscience qui révèle le processus de prise de décision. « C’est Donald Trump nu « , raconte un ouvrier, alors qu’il accède à la désormais célèbre peinture d’Illma Gore qui imagine son micropénis. « Ce n’est pas un leader assez fort pour gérer [sic]. C’est pour ça que son pénis est petit. Il n’est pas assez viril pour s’acquitter de l’énorme tâche d’un président américain. C’est à effacer. Pourquoi ? Ça dégrade la personnalité de Donald Trump, il faut l’effacer. »

De l’avis de ce modérateur, et peut-être des protocoles propres à la plate-forme (ni l’entreprise ni ses règles ne sont révélées), Trump était victime de cyber-intimidation, cyberbullying.

Tout au long du film, Riesewieck et Block n’essaient pas de répondre à de grandes questions ou d’offrir une conclusion satisfaisante à leurs spectateurs, mais ils démontrent de manière très convaincante à quel point les problèmes de modération de contenu sont graves. Il y a l’immense tribut personnel et le traumatisme psychologique que vivent ces travailleurs – chaque personne a une histoire à raconter au sujet de cette image qu’elle ne peut tout simplement pas effacer de son esprit.

« On aurait dit que c’était une blague. On ne savait pas si c’était réel. Il essayait de se suicider avec une corde. C’était en direct, pas téléchargé « , raconte un modérateur. « Peut-être des milliers de téléspectateurs. Il y a eu des commentaires du genre : « Ne faites pas ça, ne vous suicidez pas ! D’autres plaisantaient :  » Fais-le ! Fais-le ! Tant qu’il ne s’est pas suicidé, on n’a pas le droit d’arrêter son live. Parce que si nous l’arrêtons, c’est nous qui avons des ennuis… Quand il a commencé à se lever sur la chaise et qu’il s’est mis la corde autour du cou, c’est là que nous avons eu peur qu’il aille de l’avant. Puis il s’est suicidé. »

Même si la retransmission en direct n’est jamais diffusée, le film vous force à revivre ces souvenirs aux côtés des modérateurs dans ce qui s’avère être une heure et demie épuisante. The Cleaners met également en lumière le coût sociétal plus élevé. La Silicon Vally a donné de puissants outils de censure à un nombre relativement restreint de personnes. Leurs lignes directrices sont fournies par des entreprises de médias sociaux à but lucratif. Et en fin de compte, personne ne peut jamais avoir l’immense contexte social et politique mondial nécessaire pour déterminer, par exemple, si cette image est du journalisme de guerre ou de la propagande ISIS. Cette vidéo est trop terrible pour être vue ? Ou devrions-nous tous avoir à voir certaines de ces mauvaises choses, de peur de laisser le vernis de l’optimisme de la Silicon Valley entacher notre terrible réalité ?

[Image : Gebrueder Beetz Beetz Filmproduktion]

Riesewieck et Block ont assuré qu’ils ne voulaient pas que ce film soit à sens unique – et en fait, certains des meilleurs points de vue du film sont présentés dans une entrevue avec Nicole Wong, une ancienne responsable des politiques Google et Twitter, qui prend des décisions complexes comme laisser Saddam Hussein sur YouTube.

Mais Facebook, Google et Twitter sont finalement protégés des regards indiscrets tout au long du film, parce qu’ils ont tous refusé d’y prendre part. Ce qui nous permet le mieux de savoir ce que la Vallée pense vraiment, c’est par l’intermédiaire de ses avocats, lorsqu’ils sont convoqués à une audience du Congrès sur la modération de contenu. Comme vous pouvez vous y attendre, ces avocats ne parlent pas beaucoup.

« L’approche principale de notre film depuis le début, était d’inclure [ces entreprises], d’avoir un dialogue ouvert sur le sujet. Nous ne voulions pas frapper les entreprises. Nous voulions penser ouvertement, quel est le problème d’un réseau ouvert ? dit Block. « Personne n’a répondu à nos demandes d’interview. C’était très frustrant pour nous. Chaque fois que nous entendons parler de Facebook, ils se présentent très ouvertement, pour donner la parole à tout le monde. Nous avons vécu le contraire….il y a quelque chose comme un cône de silence dans la Silicon Valley. »

The Cleaners est actuellement en tournée dans certaines villes américaines. Vous pouvez aussi le voir sur Independent Lens de PBS le 12 novembre, ou sur PBS.org à partir du 13 novembre.

Publicités

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

%d blogueurs aiment cette page :