Les mauvais algorithmes n’ont pas ébranlé la démocratie

Et les meilleurs ne la sauveront pas. Pour dépasser la désinformation et la rancune tribale en ligne, nous devons faire face à pourquoi les gens veulent vraiment de la désinformation et de la rancune.

Au cours des cinq dernières décennies, la guerre des États-Unis contre la drogue a été motivée et organisée par le fantasme que la prolifération de l’abus de substances est fondamentalement un problème d’approvisionnement. Le remède a donc consisté à restreindre la production et la distribution de stupéfiants : Briser les cartels, cautériser les routes du trafic, arrêter les dealers. Cette approche s’est, comme on pouvait s’y attendre, transformée en un jeu autonome de « whack-a-mole ».

Depuis 2016, la panique suscitée par la désinformation en ligne est alimentée par un fantasme similaire. Les arguments fondés sur ce point de vue sont devenus familiers, presque passe-partout. Un exemple récent est un discours prononcé en novembre par le comédien Sacha Baron Cohen.

« Aujourd’hui, dans le monde entier, les démagogues font appel à nos pires instincts. Les théories de conspiration autrefois confinées à la périphérie se généralisent », a déclaré l’acteur, dans une rare représentation en personnage comme lui.  » C’est comme si l’âge de la raison – l’ère de l’argumentation probante – s’achevait, et que maintenant le savoir est de plus en plus délégitimé et le consensus scientifique est rejeté. La démocratie, qui dépend de vérités partagées, est en recul, et l’autocratie, qui dépend de mensonges partagés, est en marche. » Comme l’a dit le Baron Cohen, c’est « assez clair » ce qui se cache derrière ces tendances : « Toute cette haine et cette violence sont facilitées par une poignée de sociétés Internet qui constituent la plus grande machine de propagande de l’histoire. »

Comme pour la guerre contre la drogue, les principaux méchants de ce bilan sont les vecteurs : les sociétés de médias sociaux et leurs algorithmes de recommandation, qui alimentent la profusion virale de contenus grotesques. Les personnes qui sont à l’origine des mèmes, comme les paysans qui cultivent le pavot ou la coca, ne sont pas dépeintes comme étant irréprochables, exactement, mais leur comportement est considéré comme reflétant des incitations qui ont été conçues par d’autres. Facebook, Google et Twitter sont les cartels.

Et les utilisateurs ? Ils font leurs affaires en ligne sans savoir, comme le dit Roger McNamee, « que les plateformes orchestrent tout ce comportement en amont ». Les critiques de la Tech proposent diverses solutions : briser complètement les plateformes, les tenir responsables de ce que les utilisateurs publient ou exiger qu’ils filtrent le contenu pour sa valeur de vérité.

Il est facile de comprendre pourquoi ce récit est si attrayant. Les grandes entreprises de médias sociaux jouissent d’un pouvoir énorme ; leurs algorithmes sont impénétrables ; elles semblent ne pas comprendre correctement ce qui sous-tend la sphère publique. Leurs réponses aux critiques sérieuses et généralisées peuvent être grandioses et mesquines. « Je comprends les préoccupations des gens quant à la centralisation du pouvoir des plates-formes technologiques, mais je crois que le plus gros problème est de savoir à quel point ces plates-formes ont décentralisé le pouvoir en le mettant directement entre les mains des gens « , a déclaré Mark Zuckerberg dans un discours prononcé en octobre à l’Université de Georgetown. « Je suis ici aujourd’hui parce que je crois que nous devons continuer à défendre la liberté d’expression. »

Si ces sociétés parlaient ouvertement de leurs propres intérêts financiers dans les mèmes contagieux, elles sembleraient au moins honnêtes ; quand elles se défendent dans le langage de la libre expression, elles se laissent accuser de mauvaise foi.

Mais la raison pour laquelle ces entreprises – Facebook en particulier – parlent de liberté d’expression n’est pas simplement pour dissimuler leur intérêt économique dans la reproduction de la désinformation ; c’est aussi une façon polie pour elles de suggérer que la véritable culpabilité de ce qui pullule sur leurs plateformes repose sur leurs utilisateurs. Facebook s’est toujours présenté, contrairement aux gardiens de l’héritage, comme une infrastructure neutre ; les gens peuvent afficher ce qu’ils aiment et accéder à ce qui leur plaît. Quand Zuckerberg parle de  » libre expression « , il décrit le caractère sacré d’un marché où l’offre est libérée pour rechercher le niveau de la demande. Ce qu’il dit, par implication, c’est que l’affliction de la propagande partisane reflète non pas un problème d’offre mais de demande – une expression profonde et transparente du désir populaire.

C’est peut-être une défense exaspérante, mais ce n’est pas un argument trivial à contrer. Au cours des dernières années, l’idée que Facebook, YouTube et Twitter ont en quelque sorte créé les conditions de notre rancœur – et, par extension, la proposition que de nouveaux règlements ou des réformes algorithmiques pourraient rétablir une certaine ère arcadienne d' » argument probatoire  » – n’a pas bien résisté à l’examen. Immédiatement après l’élection de 2016, le phénomène des  » fake news  » diffusées par les adolescents macédoniens et l’Agence de recherche Internet russe est devenu un raccourci pour désigner la perversion généralisée de la démocratie par les médias sociaux ; un an plus tard, des chercheurs du Berkman Klein Center de l’université Harvard ont conclu que la diffusion de nouvelles abjectes et fausses  » semble avoir joué un rôle relativement faible dans l’ensemble de la situation « . Une étude récente menée par des universitaires au Canada, en France et aux États-Unis indique que l’utilisation des médias en ligne diminue en fait le soutien au populisme de droite aux États-Unis. Une autre étude a examiné quelque 330 000 vidéos récentes de YouTube, dont beaucoup sont associées à l’extrême droite, et a trouvé peu de preuves de la solide théorie de la  » radicalisation algorithmique « , qui tient le moteur de recommandation de YouTube responsable de la diffusion de contenus de plus en plus extrêmes.

Quelle que soit la manière dont une étude ou une autre se termine, les entreprises technologiques ont des raisons de préférer les arguments abstraits sur les valeurs de l’expression non encadrée. Elles ont choisi d’adopter le langage du libéralisme classique précisément parce qu’il met leurs détracteurs libéraux dans une position inconfortable : Il est inacceptable de prétendre qu’un sous-ensemble de nos voisins doit être protégé de leurs propres exigences. C’est encore pire de mettre en doute l’authenticité de ces exigences en premier lieu – de suggérer que les désirs de nos voisins ne sont pas vraiment les leurs. Les critiques doivent s’appuyer sur des idées toutes faites comme l' » astroturfing  » pour expliquer comment il se fait que de bonnes personnes en viennent à exiger de mauvaises choses.

En tout état de cause, il est sans doute plus opportun de blâmer les entreprises qu’il n’est empirique. Il est beaucoup plus facile d’imaginer comment nous pourrions exercer un effet de levier sur une poignée d’entreprises que de répondre aux préférences de milliards d’utilisateurs. Il est toujours tentant de chercher nos clés là où la lumière est meilleure. Une meilleure solution exigerait que les critiques de la technologie prennent les demandes des gens aussi au sérieux que les entreprises, même si cela signifie regarder dans le noir.

Le premier pas vers une prise en compte honnête de la réalité de la demande est d’admettre que la polarisation politique est bien antérieure à l’essor des médias sociaux. Au moment où Facebook a ouvert son verger clos à tous en 2006, les États-Unis avaient déjà passé 40 ans à se diviser en deux grands camps, comme le souligne Ezra Klein dans son nouveau livre Why We’re Polarized.

Au début des années 1960, les partis démocrate et républicain comptaient tous deux des libéraux et des conservateurs qui se décrivaient comme tels. Puis l’adoption de la législation sur les droits civiques et la stratégie de Richard Nixon pour le Sud ont mis en route la coalescence de chaque parti autour d’un ensemble consensuel de vues  » correctes « . La race était la ligne de faille initiale, et elle est restée prépondérante. Mais les constellations des autres points de vue se sont souvent déplacées et sont devenues de plus en plus secondaires par rapport à la simple question de l’appartenance à un groupe.

Alors que de nombreux critiques de la technologie considèrent la montée des médias sociaux, il y a une quinzaine d’années, comme un vaste changement qui a inauguré l’ère des  » bulles filtrantes  » et du tri tribal, Klein la décrit moins comme la cause première que comme un accélérateur – surtout dans la mesure où elle a encouragé les individus à voir toutes leurs croyances et préférences, ne serait-ce que dans des moments brefs mais puissants de menace perçue, comme des expressions potentielles d’une seule identité politique sous-jacente. Facebook et Twitter ont attribué à chaque utilisateur un personnage, avec un profil, un historique et un appareil de signalisation d’une portée sans précédent. Les utilisateurs ont dû faire face à des pressions publiques nouvelles et aiguës – pour être cohérents, par exemple – et ne pouvaient que se tourner vers les autres membres de leurs communautés pour trouver des indices de ce qui pourrait constituer de manière viable la cohérence.

Hors ligne aussi, les gens étaient entraînés, subtilement ou non, dans des identités partisanes de plus en plus exiguës. Klein s’appuie sur les travaux de la politologue Lilliana Mason pour décrire comment la polarisation politique a entraîné l' » empilement  » d’identités par ailleurs sans rapport les unes avec les autres sous la rubrique de l’affiliation politique. Là où nous aurions pu autrefois exprimer notre solidarité les uns avec les autres selon des axes qui n’avaient pas de valeur politique évidente – en tant que membres d’une même confession, résidents d’une même ville, fans d’une même musique -, de plus en plus de ces affiliations ont été, dans les années 2000, étiquetées et subsumées sous les deux  » méga-identités  » phares proposées par la politique américaine.

Aucun de ces deux camps ne pouvait exister sans l’autre : Il est très difficile de donner aux gens un sens fort de « qui nous sommes » sans définir « qui nous ne sommes pas ». Nous n’aimons peut-être pas tout ce que fait notre camp, mais nous préférons être morts plutôt que de nous identifier à nos adversaires. La construction et le maintien de l’ordre à la frontière entre les camps, qui est si importante, sont devenus l’un des fardeaux quotidiens de la vie à l’ère des médias sociaux.

Et quant au rôle des médias sociaux, rien de tout cela n’était délibéré ou inévitable, comme le voit Klein : « Peu de gens ont compris, dès le début, que la façon de gagner la guerre pour attirer l’attention était d’exploiter le pouvoir de la communauté pour créer l’identité », écrit-il. « Mais les vainqueurs sont apparus rapidement, utilisant souvent des techniques dont ils ne comprenaient pas les mécanismes. »

Cependant, l’idée que les médias sociaux favorisent et reposent à la fois sur des mouvements d’appartenance semble insuffisante pour expliquer leur contribution à la polarisation manichéenne. Les médias sociaux auraient pu produire un monde riche en affiliations autarciques et bousculées – un bazar animé de plusieurs camps – et c’est un trope standard des nostalgiques d’Internet qui aspirent au temps où les identités en ligne pourraient être fragmentées. Un individu, à l’époque antédiluvienne, pouvait aisément contenir une gamme d’identités, chacune exprimée dans son propre contexte. Le fait que les médias sociaux n’ont pas connu cette évolution – le fait que, comme le note Klein, les plateformes ont encouragé un alignement plus total – est l’une des raisons pour lesquelles de nombreux critiques soupçonnent que l’appareil est truqué, qu’on ne nous donne pas ce que nous voulons mais plutôt ce qu’une force malveillante veut que nous voulions. Il est beaucoup plus facile, une fois de plus, d’invoquer l’éternel bogue de  » l’algorithme  » que de considérer l’idée que le tri social lui-même pourrait être notre préférence la plus durable.

C’est une des mes intuitions pour le monde de demain, dont je vous parle dans mes Contes de Skuld, Jeux d’identité : je suppose qu’à l’avenir nous aurons des plateformes dédiées à un univers, sur lequel nous aurons une identité propre : Isthmia, Jotunheim, Arqist et Taoui.

Dans un article récent du New York Times, Annalee Newitz a exprimé la notion familière que « les médias sociaux sont cassés« . Mais, au moins d’après une lecture, il fonctionne exactement comme prévu. Facebook a été fondé – ou du moins financé – sur une théorie de la demande sérieuse, bien qu’ésotérique, qui tient compte de l’origine et de la culture du désir.

En juillet 2004, l’investisseur et cofondateur de PayPal Peter Thiel a aidé à organiser une petite conférence à l’Université de Stanford pour discuter de l’actualité avec son ancien mentor, le critique littéraire français et anthropologue autoproclamé René Girard. Thiel a proposé  » un réexamen des fondements de la politique moderne  » dans le sillage du 11 septembre et le symposium s’est déroulé dans un registre résolument apocalyptique. « Aujourd’hui, écrit-il dans son essai, la simple conservation de soi nous oblige tous à regarder le monde d’un œil nouveau, à penser à des choses nouvelles et étranges, et à nous réveiller de cette très longue et profitable période de sommeil intellectuel et d’amnésie que l’on appelle si faussement le Siècle des Lumières « . Thiel a écrit que  » toute la question de la violence humaine a été effacée  » par une culture politique fondée sur John Locke et le concept vénéneux d’un contrat social ; il croyait que nous devions nous tourner vers Girard pour obtenir un compte rendu plus satisfaisant de l’irrationalité et de la vengeance humaines.

Comme Girard l’a dit, nous sommes définis et constitués en tant qu’espèce par notre dépendance à l’imitation. Mais nous ne sommes pas de simples imitateurs de premier ordre : Quand nous imitons ce que quelqu’un d’autre fait, ou convoite ce que quelqu’un d’autre a, nous essayons en fait de vouloir ce qu’il veut. « L’homme est la créature qui ne sait pas quoi désirer, et il se tourne vers les autres pour se faire une idée », a écrit Girard. « Nous désirons ce que les autres désirent parce que nous imitons leurs désirs. » Incapables de nous engager dans nos propres désirs arbitraires, nous cherchons à ressembler à d’autres personnes – des personnes plus fortes et plus décisives. Une fois que nous avons identifié un modèle que nous aimerions imiter, nous nous entraînons à faire nôtres les objets de leur désir.

La signature émotionnelle de toute cette imitation – ou mimésis – n’est pas l’admiration mais l’envie dévorante. « Dans le processus de « suivre les Jones », écrit Thiel, la mimésis pousse les gens à une rivalité croissante. » Nous en voulons aux gens que nous émulons, à la fois parce que nous voulons les mêmes choses et parce que nous savons que nous lisons le scénario de quelqu’un d’autre. Comme Girard l’aurait dit, la viabilité de toute société dépend de sa capacité à gérer cette acrimonie, de peur qu’elle n’éclate régulièrement en violence du « tous contre tous ».

Au moment de ce symposium de 2004, Thiel faisait un investissement de 500 000 $ dans une start-up appelée The Facebook. Il a par la suite attribué sa décision de devenir son premier investisseur externe à l’influence de Girard.

« Les médias sociaux se sont avérés plus importants qu’il n’y paraissait, car ils concernent notre nature « , a-t-il déclaré au New York Times à l’occasion du décès de Girard en 2015. « Facebook s’est d’abord répandu par le bouche à oreille, et c’est à propos du bouche à oreille, donc c’est doublement mimétique. » Comme les gens aiment, suivent et se dilatent sur certains messages et profils, l’algorithme de Facebook est formé pour reconnaître le genre de personnes que nous aspirons à être, et nous oblige à suggérer des améliorations. Les plateformes ne font pas que répondre à la demande, comme le voudrait Zuckerberg, mais elles ne la créent pas vraiment non plus. En un sens, elles la réfractent. Nous sommes divisés en ensembles de désirs distincts, puis regroupés en cohortes selon des critères de signification statistique.

Les types de communautés que ces plateformes permettent sont celles qui ont simplement été trouvées, plutôt que celles qu’il a fallu forger.

Les plateformes de médias sociaux sont intervenues pour remplacer la violence réelle par un nouveau substitut symbolique.

Comme l’a souligné le critique Geoff Shullenberger, la culture de ces communautés par Facebook – structurée par un renforcement mimétique constant et simple – n’est que la moitié d’une histoire qui s’assombrit considérablement. Girard a passé les dernières décennies de sa carrière à élaborer comment, dans le mythe et l’histoire ancienne, les sociétés humaines ont acheté la paix et la stabilité en remplaçant le mauvais sang de la rivalité mimétique par la violence contre un bouc émissaire. « La guerre de tous contre tous culmine non pas dans un contrat social mais dans une guerre de tous contre un », écrit Thiel, « alors que les mêmes forces mimétiques poussent progressivement les combattants à se liguer contre une personne en particulier. »

Les religions anciennes, argumentait Girard, ont avancé des rituels et des mythes pour contenir ce processus sanguinaire. Et le christianisme, une religion centrée sur la crucifixion d’un bouc émissaire innocent, promettait la transcendance de toute la dynamique avec la révélation de sa cruauté. (Girard était un chrétien déclaré, tout comme Thiel.)

Le problème, selon Thiel, c’est que nous vivons maintenant dans une époque désenchantée :  » Les rituels archaïques ne fonctionneront plus pour le monde moderne « , écrivait-il en 2004. Le danger d’une escalade de la violence mimétique est, selon lui, à la fois évident et négligé. À l’époque, il se préoccupait du terrorisme mondial dans le sillage du 11 septembre, mais il semble qu’il en soit venu plus tard à s’inquiéter aussi du ressentiment envers la classe des investisseurs à une époque où les inégalités s’accentuent. Dans une série de notes publiées en ligne en 2012 par le coauteur de son livre Zero to One, Thiel identifie les fondateurs de la technologie comme des boucs émissaires naturels au sens Girardian :  » Le 99% contre le 1% est l’articulation moderne de ce mécanisme classique de bouc émissaire « .

L’investissement visionnaire de Thiel dans Facebook pourrait être interprété comme un geste de foi dans le pouvoir des plateformes de médias sociaux (Shullenberger les appelle  » machines à faire des boucs émissaires « ) d’intervenir et de remplacer la violence réelle par un nouveau substitut symbolique. Autrement dit, les médias sociaux pourraient servir à focaliser et à organiser le chaos de nos désirs indomptables et, en même temps, à focaliser et à organiser la violence potentielle de notre animosité indomptée.

La possibilité de se défouler sur les médias sociaux et, à l’occasion, de se joindre à une foule en ligne indignée, pourrait nous soulager de notre désir latent de faire du mal aux gens dans la vraie vie. Il est facile de rejeter beaucoup de rhétorique très en ligne qui assimile le désaccord sur les médias sociaux à la violence, mais dans un compte-rendu de Girardian, la confusion pourrait refléter une perception exacte des enjeux symboliques : De ce point de vue, notre tendance à vivre l’hostilité en ligne comme une « vraie » violence est une étape évolutive à encourager. La raison pour laquelle cela ne s’est jamais produit dans l’histoire de l’humanité est que nous manquions d’une infrastructure de signalisation omniprésente et gratuite. Maintenant, nous l’avons.

Shullenberger fait valoir que Thiel aurait pu pressentir tout cela : que les médias sociaux, avec leurs voies de moindre résistance, pourraient fournir non seulement ce genre de tri symbolique bon marché, mais aussi une version finalement symétrique de celui-ci. Ce n’est pas le 99 % contre le 1 % qui est en jeu, mais une vaste impasse virtuelle dans un univers symboliquement bipolaire. Les affinités basées sur le tri algorithmique intelligent des désirs réfractés ne sont que faiblement liées. En l’absence d’une grande vision substantielle de qui « nous » sommes, nous tirons notre force et notre certitude de la dépravation cohérente de « eux ».

C’est facile à comprendre : Alors que la plupart d’entre nous sont rarement entièrement satisfaits de la bonté et de la pureté de notre propre équipe, avec son hétérodoxie et son manque de discipline, nous sommes profondément satisfaits de ce que nous interprétons comme la méchanceté uniforme de nos adversaires. Pensez, par exemple, à l’assurance avec laquelle les libéraux incluent parmi les  » méchants  » une personne aussi stupide que le gourou canadien de l’enseignement et de l’entraide Jordan Peterson aux côtés d’un néo-nazi comme Richard Spencer.

Nous recherchons et apprécions la solidarité intelligible chez nos ennemis avec beaucoup plus de plaisir que dans notre propre camp. Comme le dit Shullenberger dans l’un de ses essais sur Thiel,  » pour quelqu’un qui se préoccupe ouvertement de la menace que représentent de telles forces pour ceux qui sont en position de pouvoir, un avantage crucial semble résider dans la possibilité de détourner la violence des personnalités éminentes qui sont les cibles potentielles les plus évidentes du ressentiment populaire, et de l’orienter vers des conflits internes avec d’autres utilisateurs « . L’objectif est un antagonisme virtuel équitablement réparti dans la perpétuité stable d’un jeu très vivant.

Si c’était vraiment l’idée de Thiel – que Facebook pourrait détacher le monde du conflit symbolique permanent du monde réel de la politique réelle – alors c’était, ou c’est devenu, une idée entièrement cynique. Sur la base de ses doutes publics sur la démocratie, de sa vénération pour l’élitisme occulte du philosophe Leo Strauss, et de sa relation avec Trump, il est assez clair comment il pense que la réalité devrait être administrée : par des gens comme lui et Zuckerberg, pendant que le reste d’entre nous est distrait par les jeux vidéo en ligne de nos vies. (Selon le Wall Street Journal, Thiel exerce encore une  » influence démesurée  » en tant que membre du conseil d’administration de Facebook). Et en rétrospective, l’idée que les médias sociaux puissent rediriger nos pires impulsions mimétiques est non seulement cynique mais aussi terriblement fausse. On ne sait pas comment elle pourrait même commencer à rendre compte de la violence très peu symbolique qui s’est déversée de Facebook dans le monde réel du Myanmar et du Sri Lanka – et, selon votre point de vue, des États-Unis aussi.

En fin de compte, comme il devient de plus en plus intenable de blâmer le pouvoir de quelques fournisseurs pour les demandes malheureuses de leurs utilisateurs, il incombe aux critiques de la technologie de prendre le fait de la demande – que les désirs des gens sont réels – encore plus au sérieux que les entreprises elles-mêmes. Ces désirs exigent une forme de réparation qui va bien au-delà de « l’algorithme ». S’inquiéter de la véracité d’une déclaration particulière, comme le font les vérificateurs de faits publics et les projets d’éducation aux médias, c’est passer à côté de l’essentiel. Cela a autant de sens que de demander si le tatouage de quelqu’un est vrai. Un compte rendu approfondi de la demande permettrait de constater qu’il pourrait en fait s’agir de tribalisme jusqu’au bout : que nous avons nos désirs et nos priorités, et qu’ils ont les leurs, et que les deux camps chercheront l’offre qui répond à leurs demandes respectives.

Ce n’est pas parce que vous acceptez que les préférences sont enracinées dans l’identité du groupe, cependant, que vous devez croire que toutes les préférences sont égales, moralement ou autrement. Cela signifie simplement que notre fardeau a peu à voir avec la limitation ou la modération de l’offre de messages politiques ou avec le fait de convaincre ceux qui ont de fausses croyances de les remplacer par de vraies. Le défi consiste plutôt à persuader l’autre équipe de modifier ses exigences – de la convaincre qu’il serait préférable qu’elle ait des aspirations différentes. Il ne s’agit pas d’un projet technologique, mais d’un projet politique.

Via Wired

Publicités

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.