Moralité artificielle

Pour la série Provocations, en liaison avec « L’avenir du futur » de l’UCI : L’éthique et les implications de l’IA » de l’UCI.
Il s’agit d’un essai sur les listes de principes moraux pour les créateurs de l’intelligence artificielle. Bruce Sterling* rassemble ces listes, plutôt drôles.

Personne d’autre que les défenseurs de l’IA n’accepterait jamais l’idée de créer des cyber-entités divines qui soient beaucoup plus intelligentes que les gens. Je m’empresse de vous assurer que je prends cette étrange menace au sérieux. Si nous pouvions anéantir la planète avec la physique nucléaire à la fin des années 1940, il doit y avoir plein d’autres moyens originaux pour y parvenir.

Ce que je trouve comique, c’est l’approche de la moralité par un programmeur – l’envie de taper soigneusement un code moral avant d’élever un enfer impie. De nombreuses professions autres que celle de programmeur ont des normes éthiques strictes : les avocats et les médecins, par exemple. Les avocats et les médecins sont-ils mauvais ? Cela dépend. Si un gouvernement est politiquement corrompu, alors les avocats d’une nation n’échappent pas à cette tache morale. Si un système de santé massacre la population avec des analgésiques mal prescrits, alors les médecins ne peuvent pas non plus avoir bonne mine.

Donc si l’IA s’effondre, pour quelque raison que ce soit, les programmeurs sont condamnés à avoir l’air coupable et sinistre. Des listes de principes moraux soigneusement établies n’empêcheront pas ce jugement moral, quels que soient les efforts sérieux qu’ils déploient pour éviter les préjugés, pour construire et tester la sécurité, pour fournir un retour d’information en vue de responsabiliser les utilisateurs, pour concevoir le système dans le respect de la vie privée, pour prendre en compte le potentiel d’abus colossal, et pour éviter toute implication directe dans les armes de l’IA, les logiciels espions de l’IA et les violations des droits de l’homme par l’IA.

Je ne suis pas contrarié par des jugements moraux dans des manifestes bien intentionnés, mais c’est un étrange acte d’orgueil d’un autre monde. Imaginez que les ingénieurs automobiles prétendent pouvoir construire des voitures adaptées à tous les sexes et à toutes les races, tester les voitures pour la sécurité d’abord, mettre en miroir les vitres des voitures et les plaques d’immatriculation pour la protection de la vie privée, et s’assurer que les chars et les demi-tracks militaires et l’Aston-Martin de James Bond ne sont jamais construits du tout. Qui supporterait ce comportement présomptueux ? Pas une âme, pas même les programmeurs.

Dans le monde hermétique de l’éthique de l’IA, il est évident que les voitures automatiques tueront moins de gens que nous, les humains. Pourquoi croire cela ? Il n’y a aucune preuve. Ce n’est qu’une aspiration excentrique. La vie n’est pas chère sur les routes américaines encombrées par le trafic – ce marché social est déjà vieux de cent ans. Si les véhicules à moteur doublaient le taux de mortalité sur les routes, tout en réduisant les coûts de transport de 90 %, ces voitures seraient bien sûr déployées.

Je ne suis pas cynique sur la moralité en soi, mais tout le monde en a. L’armée, les espions, la police secrète et le crime organisé, ils ont tous leur code moral. L’IA militaire est florissante dans le monde entier, tout comme l’IA de la cyberguerre et la répression policière de l’Etat.

Quant aux agences d’espionnage, eh bien, Alan Turing, ce prophète mystique de l’IA, était un espion. Son travail de décryptage était à l’origine de tout ce qui s’est passé depuis lors dans le domaine de l’IA, et Alan Turing n’a jamais travaillé pour la protection de la vie privée, le bénéfice pour l’utilisateur, la sécurité, la prévention des abus potentiels ou la responsabilité publique. Il n’avait pas la moindre trace de ces vertus modernes de l’IA. Si Turing s’était mis en tête de faire l’une de ces choses, il aurait peut-être perdu la Seconde Guerre mondiale.

La prolifération technologique n’est pas une liste de principes. Il s’agit d’un processus historique profond et multivalent, avec de nombreuses parties prenantes radicalement différentes sur de nombreuses échelles de temps différentes. Les personnes qui inventent la technologie n’ont jamais la possibilité de fixer les règles de ce qui en est fait. Un Google « non diabolique », construit par deux marginaux de Stanford, n’est tout simplement pas la même entité que le réseau multinational mondial d’Alphabet moderne, avec ses vastes collections de cloud, de câbles de transmission, de systèmes d’exploitation et de fabrication d’appareils.

Ce n’est pas que Google et Alphabet deviennent mauvais juste parce qu’ils sont grands et riches. Franchement, ils ne sont même pas si « maléfiques » que ça. Ils sont juste intrinsèquement impliqués dans des projets énormes, enchevêtrés, complexes et conséquents, avec des populations beaucoup plus variées qu’on ne l’avait imaginé au départ. C’est comme la différence éthique entre être deux curés de paroisse et devenir pape.

Bien sûr, le vrai Pape sera confronté à l’Intelligence Artificielle. Sa réponse ne sera pas « est-elle socialement bénéfique pour les utilisateurs », mais plutôt « sert-elle Dieu ? Donc, à moins que vous ne soyez prêt à surpasser moralement le Pape, vous devez comprendre que les chefs religieux utiliseront l’Intelligence Artificielle exactement de la même manière que les télévangélistes ont utilisé la télévision.

Donc je ne m’oppose pas à la moralisation de l’IA. Je l’apprécie même en tant que jeu métaphysique, mais j’ai une mise en garde à faire concernant cette activité, quelque chose qui me dérange vraiment. Les praticiens de l’IA ne sont pas francs quant à l’attrait réel de leur entreprise, qui repose sur le charisme de la vieille école de Steve-Jobsian, qui consiste à défoncer l’univers tout en devenant incroyablement grand. Personne ne fait de l’IA pour notre amélioration morale ; tout le monde le fait pour se sentir transcendant.

Les militants de l’IA ne sont pas des programmeurs de tous les jours qui se lancent dans la production de codes d’épicerie. Ce sont des fanatiques visionnaires animés par de puissantes pulsions qu’ils ne semblent pas vouloir affronter. Si vous voulez m’impressionner par votre autorité morale, regardez d’abord dans votre propre âme.

*Bruce Sterling est un auteur futuriste et de science-fiction dont l’anthologie, Mirrorshades, a contribué à définir le genre cyberpunk. Il prononcera le discours d’ouverture de la conférence sur l’intelligence artificielle.

Via BLARB

Publicités

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.