Facebook est une machine infernale

Je suis assez fatiguée de Facebook,mais voici un article de fond d’Adrienne LaFrance vraiment bon dans la façon dont il encadre le sujet et dans le mélange d’un dossier accablant contre la société, avec un retour sur l’idée de la machine infernale, Herman Kahn, RAND, le futurisme et les scénarios. LaFrance admet volontiers que la comparaison est imparfaite, mais l’idée d’échelle, mais aussi de méga échelle et de l’impact de cette taille unique sur la société est utile.

J’ajouterais que lorsque les gens réfutent ce type d’accusation, ou disent que le message est « alarmiste », ils déploient souvent les recherches montrant que Cambridge Analytica n’a pas eu autant d’impact. À mon avis, il s’agit là de deux types d’influence différents. Il n’y a pas de preuve que quiconque puisse influencer un grand nombre de personnes vers un comportement précis, mais je pense qu’il est assez clair à présent que FB et d’autres ont une influence pour changer la croyance des gens à l’échelle, ce n’est « simplement » pas précis ou même orienté de manière intentionnelle, autre que pour l’engagement. C’est un instrument brutal, mais de grande envergure.

La machine du Jugement dernier n’était pas censée exister. Elle était censée être une expérience de pensée qui se déroulait ainsi : Imaginez un appareil construit dans le seul but de détruire toute vie humaine. Supposons maintenant que cette machine soit enfouie profondément sous terre, mais qu’elle soit connectée à un ordinateur, lui-même relié à des capteurs dans des villes et des villages des États-Unis.

Ces capteurs sont conçus pour détecter les signes de l’apocalypse imminente, non pas pour empêcher la fin du monde, mais pour la mener à bien. Si les niveaux de radiation suggèrent des explosions nucléaires dans, disons, trois villes américaines simultanément, les capteurs avertissent la Machine du Jugement dernier, qui est programmée pour faire exploser plusieurs ogives nucléaires en réponse. À ce moment-là, il n’y a pas de retour en arrière. La réaction de fission en chaîne qui produit une explosion atomique est déclenchée suffisamment de fois pour éteindre toute vie sur Terre. Il y a un terrible flash lumineux, un grand bruit d’explosion, puis un rugissement soutenu. Nous avons un mot pour décrire l’ampleur de la destruction que la machine du Jugement dernier déclencherait : megadeath.

Il a pris le concept de « communauté » et l’a dépouillé de toute signification morale. La montée de QAnon, par exemple, est l’une des conclusions logiques du web social. En effet, Facebook – avec Google et YouTube – est parfait pour amplifier et diffuser la désinformation à la vitesse de l’éclair à un public mondial. Facebook est un agent de propagande gouvernementale, de harcèlement ciblé, de recrutement de terroristes, de manipulation émotionnelle et de génocide – une arme historique mondiale qui ne vit pas dans la clandestinité, mais dans un campus inspiré de Disneyland à Menlo Park, en Californie. […]

Les gens ont tendance à se plaindre de Facebook comme si quelque chose avait récemment tourné. Il y a une notion selon laquelle le web social était autrefois utile, ou du moins qu’il aurait pu être bon, si seulement nous avions tiré quelques leviers : un peu de modération et de vérification des faits par-ci, un peu de réglementation par-là, peut-être un procès fédéral antitrust. Mais c’est une vue bien trop ensoleillée et à courte vue. Les réseaux sociaux d’aujourd’hui, Facebook en tête, ont été construits pour encourager les choses qui les rendent si nuisibles. C’est dans leur architecture même.

Megascale est presque la menace existentielle qu’est Megadeath. Aucune machine ne devrait pouvoir contrôler à elle seule le sort de la population mondiale – et c’est pour cela que la Doomsday Machine (machine infernale) et Facebook sont tous deux conçus. […]

Le cycle de préjudice perpétué par le modèle économique de Facebook, qui est à l’échelle de tout ce qui coûte, est évident. L’échelle et l’engagement sont précieux pour Facebook parce qu’ils sont précieux pour les annonceurs. Ces incitations conduisent à des choix de conception tels que des boutons de réaction qui encouragent les utilisateurs à s’engager facilement et souvent, ce qui à son tour encourage les utilisateurs à partager des idées qui provoqueront une forte réaction. Chaque fois que vous cliquez sur un bouton de réaction sur Facebook, un algorithme l’enregistre et affine son portrait de qui vous êtes. L’hyperciblage des utilisateurs, rendu possible par une multitude de données personnelles, crée un environnement parfait pour la manipulation par les annonceurs, les campagnes politiques, les émissaires de la désinformation et bien sûr par Facebook lui-même, qui contrôle en fin de compte ce que vous voyez et ce que vous ne voyez pas sur le site. Facebook a recruté un corps d’environ 15 000 modérateurs, des personnes payées pour regarder des choses innommables – meurtres, viols collectifs et autres représentations de violence graphique – qui se retrouvent sur la plateforme. Même si Facebook a insisté sur le fait qu’il s’agit d’un véhicule neutre pour le matériel que ses utilisateurs choisissent de publier, la modération est un levier que l’entreprise a essayé de tirer encore et encore. Mais il n’y a pas assez de modérateurs parlant assez de langues, travaillant assez d’heures, pour arrêter le flot de merde biblique que Facebook déverse sur le monde, car 10 fois sur 10, l’algorithme est plus rapide et plus puissant qu’une personne. À grande échelle, cet environnement informationnel personnalisé, déformé par l’algorithme, est extraordinairement difficile à modérer de manière significative, et par conséquent extraordinairement dangereux.

Ces dangers ne sont pas théoriques, et ils sont exacerbés par la méga échelle, ce qui fait de la plateforme un lieu attrayant pour faire des expériences sur les gens. Facebook a mené des expériences de contiguïté sociale sur ses utilisateurs sans leur en parler. Facebook a agi comme une force pour le colonialisme numérique, en essayant de devenir l’expérience de facto (et la seule) de l’internet pour les gens du monde entier. Facebook s’est vanté de sa capacité à influencer le résultat des élections. Des groupes militants illégaux utilisent Facebook pour s’organiser. Des responsables gouvernementaux utilisent Facebook pour tromper leurs propres citoyens et pour truquer les élections. Des responsables militaires ont exploité la complaisance de Facebook pour perpétrer un génocide. Par inadvertance, Facebook a généré automatiquement des vidéos de recrutement pour l’État islamique, avec des messages antisémites et des drapeaux américains en feu.

Il n’y a pas assez de modérateurs qui parlent assez de langues, travaillent assez d’heures, pour arrêter le flot de merde biblique que Facebook déverse sur le monde, car 10 fois sur 10, l’algorithme est plus rapide et plus puissant qu’une personne. […]

En d’autres termes, si le nombre de Dunbar pour gérer une entreprise ou maintenir une vie sociale cohésive est de 150 personnes, le nombre magique pour une plateforme sociale fonctionnelle est peut-être de 20 000 personnes. Facebook compte aujourd’hui 2,7 milliards d’utilisateurs mensuels. […]

Si l’âge de la raison a été, en partie, une réaction à l’existence de la presse à imprimer, et le futurisme des années 1960 une réaction à la bombe atomique, nous avons besoin d’un nouveau cadre philosophique et moral pour vivre avec le web social – un nouveau siècle des Lumières pour l’ère de l’information, et qui nous ramènera à la réalité et à l’empirisme partagés.

Lire l’article entier sur The Atlantic.

1 commentaire sur “Facebook est une machine infernale”

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.