L’intelligence artificielle façonne non seulement notre façon de penser, mais aussi de nous voir nous-mêmes. Serez-vous un jour tenu responsable de quelque chose que votre moi numérique a fait sans que vous le sachiez?

En 1976, le philosophe Julian Jaynes publia la théorie provocatrice selon laquelle les ancêtres récents manquaient de conscience de soi. Au lieu de cela, ils ont confondu leurs voix intérieures avec des sources extérieures – la voix de Dieu, disons, ou les fantômes de leurs ancêtres. Jaynes a qualifié sa théorie de « bicamérisme » (les fans de Westworld se souviendront d’un épisode de la dernière saison appelé « L’esprit bicaméral ») et, dans son récit, cela a persisté chez les premiers humains depuis environ 3 000 ans.

Nous sommes dans un état préconscient similaire maintenant, mais la voix que nous entendons n’est pas l’autre côté de notre cerveau. C’est notre moi numérique – une version de nous qui devient rapidement inséparable de notre moi physique. Plus le Meta Moi utilisera des outils numériques, plus il deviendra conscient – un développement qui aura d’énormes implications sociales, éthiques et juridiques. Certains sont déjà en train de voir le jour.

COMMENT TON MÉTA-MOI FONCTIONNE

On peut penser qu’on a le contrôle, mais nous ne l’avons pas. L’idée que nous avons des versions numériques de nous-mêmes existe depuis que nous avons des comptes sur les réseaux sociaux, mais c’est nous qui avons toujours fait la mise à jour et cliqué sur le bouton Like. Mais les systèmes numériques deviennent de plus en plus intelligents, et ils nous privent de décisions. LinkedIn nous incite à « féliciter » les contacts lorsqu’ils franchissent une étape importante. Facebook fait la même chose avec les anniversaires. Notre interaction a été réduite à un simple clic. C’est très facile de voir un moment où le besoin de ce dernier clic disparaîtra et notre Meta Moi reprendra le devoir de féliciter.

La plupart des gens ne savent pas à quel point ils ont déjà renoncé à leur Meta-Moi. Des thermostats intelligents règlent la température de nos maisons. Les chaînes médiatiques mettent en file d’attente ce que nous devrions regarder ensuite. Nos téléphones naviguent pour nous. Si vous dépendez de Waze pour vous rendre à un restaurant de l’autre côté de la ville, il y a de bonnes chances que vous ne sachiez pas où vous êtes en ville, et vous n’avez pas besoin de savoir. À ce moment-là, ce n’est pas vous qui prenez les décisions. Et plus nous comptons sur les ordinateurs, plus notre Meta-Moi deviendra pleinement réalisé, et plus nous lui céderons nos décisions quotidiennes. Éventuellement, nous le ferons sans le savoir, ou même sans nous en soucier, jusqu’ à ce que notre Meta-Moi nous représente entièrement et indépendamment de notre moi physique.

EN QUOI EST-CE IMPORTANT?

Les systèmes intelligents ne sont pas seulement des assistants personnels qui travaillent pour nous. Les logiciels sont créés par les gens. Il y a des entreprises, des groupes politiques et d’autres acteurs potentiellement mauvais qui essaient d’influencer nos décisions.

Disons que votre Meta Moi prend des dispositions pour qu’une voiture autonome vienne vous chercher au travail et vous ramène à la maison. Cette voiture pourrait être commanditée par une entreprise qui veut vous conduire dans une rue remplie de panneaux publicitaires et de vitrines affichant leurs marques, plutôt que de vous emmener sur le chemin le plus rapide et le plus efficace pour rentrer chez vous.

Le potentiel manipulateur de l’IA est devenu très clair après les élections américaines de 2016, lorsque des armées de bots ont été utilisées pour diffuser des publicités politiques virales. Les algorithmes informatiques ont analysé le comportement des médias sociaux pour développer des prédictions sur les gens, puis personnaliser les publicités en temps réel en fonction de la réponse. Samuel Woolley, un expert en propagande informatique à l’Institut Internet d’Oxford, a expliqué à Vox pourquoi les machines alimentées par l’intelligence artificielle sont un outil si efficace pour la communication politique: »Une personne contrôlant un millier de comptes de robots est capable d’affecter non seulement les gens dans son entourage immédiat, mais aussi potentiellement l’algorithme du site sur lequel son site[ sic] opère ».

Si votre Meta Moi prend des décisions en votre nom – même en recommandant pour qui et pour quoi voter – quelles sont les données sur lesquelles se fonde cette décision?

Vous pourriez penser que vous êtes immunisé contre le pouvoir du Meta-Me – que vous n’accorderiez pas à un ordinateur autant de contrôle sur votre vie. Mais songez à la recherche en cours à Arlington, Virginie, à l’Agence de recherche avancée sur la défense (DARPA). Là-bas, les scientifiques explorent la possibilité d’implanter des puces informatiques dans le cerveau humain pour lire leurs ondes cérébrales liées à la parole, permettant ainsi aux gens de « parler » aux autres par le biais d’un ordinateur sans dire un mot. Le projet s’appelle « Silent Talk » et le but est de créer une communication d’utilisateur à utilisateur par la pensée. Oui, une telle technologie ressemble encore à de la science-fiction, mais elle témoigne de notre volonté d’intégrer les systèmes informatiques.

SERAS-TU RESPONSABLE DE QUELQUE CHOSE QUE TON MÉTA MOI A FAIT SANS QUE TU LE SACHES?

Si nous choisissons d’être dépendants des machines et de donner plus d’indépendance à nos avatars numériques, nous devons également être conscients des implications plus larges de ce que cela signifie d’avoir un représentant numérique. Ce n’est pas un avenir lointain. Ce n’est peut-être que le début, mais nous nous heurtons déjà à des situations où notre moi numérique est traité comme notre vrai moi.

Par exemple, cette année, le ministère de la Sécurité intérieure a confisqué les appareils mobiles d’un couple américain et a exigé leurs mots de passe à la frontière canadienne, en prétendant que le gouvernement avait le droit de fouiller les biens s’il avait des motifs probables de le faire. L’ACLU a intenté une poursuite au nom du couple, affirmant qu’un téléphone est un objet beaucoup plus personnel qu’un sac ou une valise, et que la vie numérique d’une personne (telle qu’elle est représentée sur son téléphone) devrait être incluse dans les droits à la vie privée prévus par le quatrième amendement.

De même, cet automne, la Cour suprême entend l’appel d’un homme qui prétend que sa vie privée a été violée après que la police a utilisé les dossiers de localisation de son téléphone cellulaire pour le condamner pour vol qualifié. Son argument, c’est qu’il est en prison parce que le procureur a prouvé où se trouvait son téléphone cellulaire au lieu d’où il se trouvait. Mais y a-t-il une différence? Serons-nous un jour tenus responsables de quelque chose que notre Meta-Moi a dit ou fait sans que nous le sachions?

De toute évidence, le Meta Moi n’est pas seulement une curiosité passagère. C’est l’avenir de qui nous sommes. C’est une pensée troublante quand vous considérez à quel point nous sommes horribles pour réguler notre comportement numérique existant. Pour que le Meta Me vive harmonieusement dans le monde, nous devons adopter de nouvelles constructions sociales. Fait important, nous devons également poursuivre les mêmes protections juridiques qui ont été durement gagnées sur notre corps.

Publicités

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.