Le monde moderne est enfin devenu trop complexe pour qu’aucun d’entre nous ne le comprenne

Première d’une nouvelle série de Tim Maughan sur « comment comprendre un monde régi par des systèmes et des technologies qui échappent à tout contrôle« . Cette série sera certainement fascinante, instructive et un peu effrayante. Celle-ci fixe les objectifs, fournit quelques chiffres vertigineux pour donner aux lecteurs une idée de la portée et de l’ampleur de certains de ces systèmes, et se termine en encadrant joliment le fossé entre notre compréhension de ces systèmes et l’importance qu’ils ont dans nos vies, ainsi que la façon dont cela affecte notre évaluation des hommes politiques, et comment certains d’entre eux comblent ce vide par le chaos et les conspirations.

Note : Maughan écrit que « la réalité avec ces réseaux est beaucoup plus proche du concept d’intelligence distribuée ou de connaissance distribuée« .

La plupart d’entre nous ne passent pas beaucoup de temps à penser aux systèmes énormes et complexes qui font fonctionner notre société technologiquement dépendante. Et pour cause. Il faut une certaine foi et une certaine croyance – en nous-mêmes, dans le capitalisme, dans les plates-formes numériques qui servent de support à nos interactions avec lui et dans les infrastructures qui soutiennent tout ce qui précède – pour se réveiller et s’en sortir chaque jour. Mais prendre son petit-déjeuner, enfiler sa chemise de travail Zoom – tous ces actes banals sont rendus possibles par une chaîne d’approvisionnement mondiale d’une complexité presque insondable, calibrée par des algorithmes, en partie automatisée et en partie dépendante des ateliers clandestins.

Il y a actuellement plus de 17 millions de conteneurs en circulation dans le monde, et à tout moment, environ 5 ou 6 millions de conteneurs traversent la mer. Les États-Unis importent à eux seuls plus de 20 millions de conteneurs de produits par an. S’il est courant de parler d’iPhones et de baskets haut de gamme lorsque l’on évoque les importations de Chine et d’Asie, la vérité est que la grande majorité de ces conteneurs sont remplis de marchandises beaucoup plus banales : chaussettes, parapluies, crayons, papier, matériaux d’emballage, draps de lit, fruits, pièces détachées de voiture, aliments surgelés, produits pharmaceutiques – l’inventaire sans fin d’articles physiques qui rendent notre vie moderne possible.

Tout aussi vaste et complexe, et intrinsèquement lié à la chaîne d’approvisionnement, se trouve un autre système tentaculaire mais pour la plupart invisible : les marchés financiers mondiaux. Il s’agit d’un vaste réseau hautement technologique qui relie les banques, les agences gouvernementales, les fonds spéculatifs, les organismes de réglementation, les marchés boursiers, les dark pools, les bourses, les services d’information et des millions de commerçants et d’analystes individuels. Il a atteint un niveau de complexité qui le rend inconnaissable pour toute intelligence humaine – tout évolue à une vitesse et à une échelle bien trop grandes.

Le volume quotidien moyen des transactions à la Bourse de New York se situe généralement entre 2 et 6 milliards d’actions, la valeur quotidienne moyenne des transactions en 2013 étant d’environ 169 milliards de dollars. Et la seule façon de traiter un marché de cette taille et de cette complexité a été d’adopter sans relâche l’automatisation – et de confier de plus en plus l’analyse et la prise de décision quotidiennes à des logiciels. Et dans un secteur comme la finance, qui se préoccupe entièrement de la croissance, ces systèmes ont entraîné une augmentation exponentielle de la complexité – alors que les opérateurs humains effectuent traditionnellement en moyenne cinq transactions par jour, les algorithmes de négociation à haute fréquence peuvent effectuer 10 000 transactions par seconde.

Et ces plates-formes technologiques et logicielles qui collent tous ces énormes réseaux ensemble sont devenues elles-mêmes un système complexe. L’internet est peut-être le système avec lequel nous interagissons de la manière la plus directe et la plus intime, mais la plupart d’entre nous ne comprennent pas ce qui se cache derrière nos écrans tactiles maculés de doigts, que peu de gens comprennent vraiment. Composé de centres de données, d’échanges sur Internet, de grandes entreprises, de minuscules start-ups, d’investisseurs, de plateformes de médias sociaux, d’ensembles de données, de sociétés de technologie de l’information et de milliards d’utilisateurs et de leurs appareils connectés, c’est un vaste réseau dédié à l’extraction, à la création et au déplacement de données à des échelles que nous ne pouvons pas comprendre. Les utilisateurs de YouTube téléchargent plus de 500 heures de vidéo chaque minute, ce qui représente 82,2 ans de vidéo téléchargée sur YouTube chaque jour. Au 30 juin 2020, il y a plus de 2,7 milliards d’utilisateurs Facebook actifs chaque mois, avec 1,79 milliard de personnes en moyenne qui se connectent chaque jour. Chaque jour, 500 millions de tweets sont envoyés, soit 6 000 tweets par seconde, et une journée de tweets remplit un livre de 10 millions de pages. Chaque jour, 65 milliards de messages sont envoyés sur WhatsApp. D’ici 2025, on estime que 463 millions de téraoctets de données seront créés chaque jour, soit l’équivalent de 212 765 957 DVD.

(…)

Mais la réalité de ces réseaux est beaucoup plus proche du concept d’intelligence distribuée ou de connaissance distribuée, où de nombreux agents différents disposant d’informations limitées au-delà de leur environnement immédiat interagissent d’une manière qui conduit à la prise de décision, souvent sans même qu’ils sachent que c’est ce qu’ils font.

Tout d’abord, et c’est le plus évident, des parties ou la totalité de ces systèmes peuvent tout simplement tomber en panne. Comme nous le savons tous, plus quelque chose est compliqué, plus quelque chose peut mal tourner. Nous avons eu récemment quelques occasions de voir des exemples de ce genre. Cette année encore, nous avons vu les chaînes d’approvisionnement se débattre sous la pression de la pandémie de Covid-19, ce qui a entraîné des pénuries et des erreurs d’affectation de tout, des masques de protection à la farine en passant par le papier toilette.

Les retombées de Covid ont eu un effet encore plus dévastateur sur l’économie mondiale, même si nous avons vu les marchés frôler l’effondrement sans l’aide d’une catastrophe mondiale, comme lors de la crise financière de 2008. Et l’internet est certainement sujet à des défaillances, dont l’exemple le plus frappant est sans doute l’attaque de WannaCry contre les logiciels de rançon en 2017, qui aurait touché plus de 200 000 ordinateurs dans 150 pays, causant des milliards de dollars de dommages et de pertes de revenus. Il est intéressant de noter que l’un des secteurs les plus touchés par les attaques de logiciels malveillants cette année-là était celui de l’expédition, qui a paralysé des parties de la chaîne d’approvisionnement, des entreprises comme Maersk ayant été contraintes de regarder leurs réseaux s’arrêter.

Ce qui est inquiétant, c’est que si aucune de ces défaillances n’a été catastrophique et que les réseaux ont fini par se rétablir, dans certains cas, il a fallu des années d’analyse et de débat entre experts pour déterminer ce qui avait vraiment mal tourné, précisément en raison de la complexité de ces systèmes à comprendre. […]

Céder le contrôle à de vastes réseaux non responsables risque non seulement de faire dérailler ces réseaux, mais aussi de menacer la démocratie elle-même. Si nous nous efforçons de comprendre ou d’influencer autre chose que de très petites parties de ces réseaux, cela est également de plus en plus vrai pour les hommes politiques et les dirigeants du monde. […]

Pour paraphraser le cinéaste Adam Curtis, au lieu d’élire des dirigeants visionnaires, nous ne faisons en fait que voter pour des cadres intermédiaires dans un système mondial complexe que personne ne contrôle entièrement. […]

Ce sont des acteurs politiques qui ont vu à quel point les choses sont devenues compliquées et qui peuvent sentir le manque de compréhension du public, mais qui veulent le combler par le chaos et les conspirations plutôt que par des explications.

Via OneZero

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.