La vallée de l’inquiétude et les robots

Amanda Rees revient sur Noema sur le sujet des robots et des machines intelligentes ainsi que les idées sur l’intelligence artificielle, tant à l’Est qu’à l’Ouest, reflètent encore certains clivages culturels essentiels.

(…)

Le « Livre des dispositifs ingénieux » (« Book of Ingenious Devices »), qui décrit les automatesinventés par les frères Banū Mūsā – mathématiciens, ingénieurs et astronomes compétents – circulait alors largement dans le monde musulman. Ces machines, capables de mouvements indépendants et fabriquées sous la forme d’objets naturels, étaient des démonstrations vivantes et indubitables de la supériorité technologique et esthétique de l’Orient.

De nos jours, les idées sur l’intelligence des machines, tant en Orient qu’en Occident, reflètent encore certains clivages interculturels essentiels – et parfois problématiques – qui reposent à leur tour sur un certain nombre d’hypothèses concernant la nature du travail et la valeur de l’individu. Plus important encore peut-être, elles sont aussi profondément influencées par les différentes manières de définir et de comprendre « l’humanité » et l’idée de « l’humain ».

Plus généralement, les cultures issues de traditions monothéistes souffrent beaucoup plus de la pensée dualiste que les autres sociétés, ce qui a des implications critiques pour l’évaluation de l’intelligence des machines. Le binaire corps/esprit et le maintien strict de la division homme/animal, par exemple, contribuent à créer une situation dans laquelle les humains sont considérés comme dominant de manière unique toute la création, une ascendance basée sur des caractéristiques (une âme, une intelligence, un libre arbitre, une création spéciale, un langage) que seuls les humains possèdent. Les machines, elles-mêmes spécialement créées, semblent faire preuve d’une autonomie intelligente et peuvent très facilement être considérées comme une menace pour ce statut unique de l’homme.

« Les idées sur l’intelligence des machines sont profondément influencées par les différentes façons dont l' »humanité » et l’idée de « l’humain » sont définies et comprises ».

Les cultures issues d’autres traditions – shintoïsme, taoïsme, bouddhisme – ne traitent pas le monde de manière aussi binaire. Si un animal ou un lieu peut être doté d’un esprit ou d’une âme, pourquoi une machine ne le pourrait-elle pas ? Au lieu de menacer de supplanter l’occupation humaine d’une niche écoculturelle particulière, l’intelligence des machines ne ferait qu’ajouter un autre aspect au monde complexe, en interaction constante, révélé par ces approches plus holistiques.

Plus précisément, il y a au moins trois façons différentes dont l’Orient et l’Occident sont considérés (du moins par les Occidentaux) comme différant en ce qui concerne le statut social des robots, toutes tournant autour des différentes manières dont le travail – travail de routine, de création ou d’émotion – est compris et exécuté.

Tout d’abord, tout comme les animaux l’ont fait autrefois, les machines peuvent remplacer et améliorer le travail physique des humains. Non seulement elles fournissent une force brute, mais elles peuvent accomplir de manière plus fiable des tâches exigeant rapidité, dextérité et précision. Initialement utilisées dans les usines, elles sont désormais omniprésentes sur les lieux de travail mondiaux. Mais que ce soit au bureau ou à l’usine, sous la forme de machines à tisser ou de puces informatiques, l’automatisation est considérée comme une véritable menace pour les moyens de subsistance et, ironiquement, pour l’autonomie des travailleurs occidentaux.

Comme de nombreux sociologues et économistes l’ont démontré au fil des ans, l’automatisation permet la déqualification des métiers et des professions, permettant ainsi aux dirigeants de traiter les êtres humains eux-mêmes comme des rouages interchangeables d’une machine d’entreprise. En Occident, l’automatisation constitue donc une menace à deux niveaux : non seulement en tant que substitut potentiel du travailleur humain, mais aussi en tant qu’idéal-type, modèle de comportement et d’encadrement pour les travailleurs humains restants. Dans ce contexte, on voit bien comment les robots en viennent à symboliser la perte du libre arbitre et l’élimination de l’individualité.

« Si un animal ou un lieu peut être doté d’un esprit ou d’une âme, alors pourquoi une machine ne le pourrait-elle pas ? ».

Ce qui est intéressant lorsqu’il s’agit de comprendre les visions occidentales et orientales de l’avenir des robots, c’est que cette crainte reflète également certains stéréotypes occidentaux omniprésents concernant l’Est : Le contrôle bureaucratique, qu’il soit technocratique ou totalitaire, restreint radicalement la liberté individuelle par une planification centrale forcée. Il s’agit d’une anxiété profondément spécifique à une culture, où la menace pour l’individu ne provient pas réellement de l’automatisation, mais est enracinée dans le culte occidental (anglo-américain ?) de la compétition individuelle, plutôt que de la responsabilité sociale collective. Dans d’autres sociétés – le Japon et la Corée du Sud, par exemple – où les travailleurs ont été remplacés par des robots, des mesures sont prises pour les recycler et les redéployer, en les aidant à tirer parti des nouvelles opportunités créées par l’automatisation.

Dans le même temps, en Occident, la menace n’est pas seulement que les travailleurs perdent leur emploi au profit des robots, mais qu’ils soient gérés par eux. La surveillance accrue de la main-d’œuvre par le biais de caméras, de claviers et de capteurs de mouvement signifie que, qu’il travaille à domicile ou à l’usine, chaque micro-pause d’un employé peut être surveillée, mesurée et pénalisée, ce qui a des répercussions extrêmement néfastes sur la santé mentale et physique. Les algorithmes et l’automatisation signifient que le système mis au point par Frederick Taylor au début du XXe siècle pour optimiser les performances des travailleurs par une gestion détaillée du temps et des mouvements peut, au XXIe siècle, atteindre un niveau de contrôle phénoménal. Et il est important ici de réaliser que les personnes les plus directement touchées par ces innovations tayloristes appartiennent souvent aux communautés les moins puissantes de nos sociétés. Ces travailleurs ne sont pas remplacés par des machines, mais ils sont traités comme elles d’une manière qui est vécue comme inhumaine.

Les robots remettent également en question la façon dont le travail intellectuel – et en particulier le rôle de la science et du scientifique – est compris. Deux des principales caractéristiques utilisées pour différencier les humains des robots dans la science-fiction occidentale, par exemple, sont la créativité et l’émotion. Le robot Andrew Martin, dans « L’homme du bicentenaire » d’Isaac Asimov, parvient d’abord à affirmer son humanité – ou du moins, sa prétention à être plus qu’un simple robot – en démontrant sa capacité à la fois de créativité artistique et de compassion. Cela reflète (une fois de plus) un autre stéréotype clé de la culture anglo-américaine : en dépit d’efforts acharnés pour démontrer les relations permanentes entre eux, la science, la créativité et l’art sont considérés comme des domaines séparés. La réponse émotionnelle, en particulier, est généralement rejetée comme non pertinente pour l’engagement scientifique.

Les robots – produits des sciences naturelles – sont en ce sens des caricatures des scientifiques occidentaux. Incapables d’appréhender les émotions et de s’engager dans des interactions sociales nuancées – malgré leur intelligence cognitive froidement rationnelle – les robots sont une menace parce qu’ils ont un cerveau mais pas de cœur ni de conscience. L’intelligence des machines (scientifiques ?) est dangereuse parce que sa brillance intellectuelle ne s’accompagne pas d’empathie ou de considération éthique : Frankenstein a créé un monstre en ne s’occupant pas humainement de sa progéniture.

Dans d’autres cultures, la séparation (présumée) entre la science et la société sur laquelle se fonde ce détachement éthique n’est pas aussi profonde. En Corée du Sud, par exemple, au lieu que le gouvernement donne la priorité à l’enseignement des STEM (science, technologie, ingénierie et mathématiques), on insiste sur les STEAM (tout ce qui précède, plus les arts). Comme au Japon, et contrairement à l’Occident, les scientifiques et les ingénieurs sont beaucoup plus étroitement intégrés socialement.

Cela s’explique en partie par le fait que la technoscience industrielle, malgré ses profondes racines historiques dans le monde islamique et en Chine, est arrivée comme une importation impériale du 19e siècle : C’est précisément parce qu’elles étaient initialement étrangères qu’il y avait un besoin et un désir profonds d’assimiler ces compétences et ces pratiques de manière indigène (même, parfois, par le biais d’histoires de science-fiction). Dans la période qui a suivi la Seconde Guerre mondiale, la croissance économique et la confiance culturelle étaient étroitement liées à l’automatisation et à la robotique ; leur avènement était source de fierté régionale et communautaire plutôt que d’anxiété.

À la même époque, cependant, c’est un roboticien japonais, Masahiro Mori, qui a été le premier à identifier la « bukimi no tani » – la « vallée mystérieuse », ou montagnes russes émotionnelles, selon laquelle plus un objet ressemble à un être humain, plus il est troublant. Les objets qui se situent à la frontière des catégories culturelles sont peut-être moins troublants en Orient qu’en Occident, mais les quasi-humains (robots, zombies, vampires… anges ?) peuvent donner la nausée aux humains, quel que soit leur milieu culturel. Le Japon a beau avoir 400 ans d’expérience des machines animées dans les marionnettes Karakuri, la série de mangas Astro Boy démontre que la compassion peut toujours être réduite à un calcul (par l’ingénieur comme par le robot).

Ce que cela montre, c’est que les attitudes interculturelles sont en réalité beaucoup plus nuancées et ambivalentes que les distinctions faciles entre l’Ouest et l’Est ne le laissent entendre. Considérez la façon dont les gens de différentes cultures réagissent à l’utilisation de robots pour le travail émotionnel. Dans les économies développées, il existe un décalage croissant entre le nombre de personnes ayant besoin de soins et le nombre de personnes désireuses ou capables de les fournir. Ce phénomène, associé à une hostilité croissante à l’égard de l’immigration dans certains pays (les immigrants font souvent du travail de soins), signifie que des solutions technologiques sont activement recherchées.

Certains gouvernements et organisations voient la solution dans les robots qui peuvent fournir un soutien physique et social – médecine, garde d’enfants, travail domestique – aux communautés dans le besoin. Il est essentiel que les robots ne se contentent pas de nettoyer les sols et les toilettes, mais qu’ils s’occupent aussi des émotions.

« Les robots reflètent la politique de la division raciale. »

Ce travail émotionnel est l’une des principales justifications de la poursuite de la construction et de l’expérimentation de robots humanoïdes, en dépit de l’uncanny valley. En Occident comme en Orient, des scientifiques et des artistes ont exploré la capacité des robots à s’intégrer dans une relation. La pièce « Sayonara », par exemple, écrite et mise en scène par Oriza Hirata avec la participation d’experts en robotique de l’université d’Osaka, met en scène un robot qui lit à haute voix à une femme mourante. « The Electric Grandmother » (un film réalisé pour la télévision à partir d’un épisode de la « Twilight Zone » écrit par Ray Bradbury) met en scène une famille qui fait face à la perte de ses parents en achetant un androïde en forme de grand-mère pour les materner à leur place.

Ces deux exemples de soutien émotionnel généré par un robot montrent à quel point les humains doivent travailler dur pour le créer. La grand-mère de Bradbury est le miroir (en apparence et en comportement) des enfants orphelins ; la femme mourante de Hirata doit établir le contact avec son infirmière robotisée.

L’universitaire du MIT Sherry Turkle et ses collègues ont étudié des enfants interagissant avec Kismet et Cog, des robots humanoïdes. Ils ont constaté que les gens sont prêts à aller très loin pour donner un sens à la participation d’un robot, même s’il fonctionne mal, à une interaction ou à une relation. Les personnes issues des cultures occidentales et orientales sont manifestement prêtes à accepter certains robots humanoïdes en tant que partenaires relationnels appropriés, mais, pour ce faire, elles doivent fournir un travail émotionnel et interactif important au nom du robot.

Mais pourquoi l’intelligence des machines devrait-elle prendre une forme humaine ? Nous partageons déjà nos vies avec une intelligence non humaine sous la forme des animaux domestiques qui habitent nos maisons et nos espaces de travail. Depuis des millénaires, les animaux sont utilisés pour répondre aux besoins émotionnels et sociaux de l’homme, pour augmenter ses capacités physiques et pour exprimer son identité.

Et si l’intelligence animale servait de modèle à une forme d’IA qui nous permettrait d’accélérer notre navigation dans la vallée de l’inquiétude ? Pendant la pandémie, par exemple, un soutien émotionnel crucial pour les personnes âgées a été fourni non pas par des robots humanoïdes, mais par des animaux robotisés. Un robot thérapeutique appelé Paro, un bébé phoque, est utilisé pour réduire le stress dans les maisons de soins et faciliter les relations entre les résidents et les soignants. Les animaux de compagnie jouent un rôle extrêmement important dans la vie de nombreuses personnes, et leur impact peut être mesuré dans le chagrin exprimé lors de leur perte. Même la famille royale britannique a un cimetière pour animaux à Sandringham. Serait-il important qu’ils soient d’origine robotique plutôt que biologique ? Les funérailles bouddhistes d’animaux domestiques robotisés, « tués » lorsque leur logiciel n’était plus pris en charge par la société concernée, semblent indiquer que non.

Ou peut-être avons-nous plutôt besoin de reconnaître qu’une part importante de la perception occidentale de l’IA et des robots comme troublants et inquiétants est liée à une association profondément ancrée entre les automates et l’Orient, sans parler de l’héritage mutilant de l’esclavage dans une culture ostensiblement engagée dans la liberté et la dignité individuelles.

Du problème éthique des robots d’Asimovmaintenus dans un servage éternel par l’imposition des « trois lois » à la question de savoir comment l’innovation technologique sans jugement moral pourrait changer l’avenir de l’humanité, les robots reflètent la politique de la division raciale. Dans le contexte des débats actuels entre la Chine et les États-Unis sur la militarisation de l’IA et le risque d’une course aux armements sino-américaine, c’est une question difficile que les Occidentaux (blancs) doivent examiner de toute urgence.

Via Noema

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.