Le véritable pouvoir de l’AI pour manipuler les humains

Notre tendance à nous abandonner émotionnellement aux chatbots pourrait être exploitée par des entreprises qui cherchent un profit.

Nous avons tous lu que l’intelligence artificielle devenait plus intelligente que nous, un avenir dans lequel nous devenons des animaux de compagnie et ne pouvons qu’espérer que l’AI sera bienveillante. Notre expérience à regarder des dizaines de millions d’interactions entre les humains et les agents de conversation artificiels, ou des robots, suffisent à convaincre qu’il existe des risques beaucoup plus immédiats, ainsi que d’énormes opportunités.

Il est devenu évident que les humains sont beaucoup plus disposés que la plupart des gens à réaliser une relation avec le logiciel AI.

J’ai toujours supposé que nous voudrions garder une certaine distance entre nous et l’IA, mais j’ai trouvé que le contraire était vrai. Les gens sont prêts à établir des relations avec des agents artificiels, à condition qu’ils soient une construction sophistiquée, capable de personnaliser de façon complexe. Nous, les humains, semblons vouloir garder l’illusion que l’IA se préoccupe vraiment de nous.

Comment les entreprises peuvent-elles tenir compte de la façon dont elles utilisent l’intelligence artificielle?

Cela est un peu dérangeant de se rendre compte que dans la vie quotidienne, nous nous connectons avec beaucoup de gens de façon peu profonde,  et que nous sommes en train de traverser une sorte de bouillie émotionnelle. Est-ce que les amis occasionnels renvoient des messages si vous les négligez pendant un certain temps ? Votre coach personnel va-t-il se représenter si vous oubliez de le payer ? Non, mais un agent artificiel est toujours là pour vous. À certains égards, c’est une relation presque plus authentique.

Ce phénomène s’est produit indépendamment du fait que l’agent a été conçu pour agir comme un banquier personnel, un compagnon ou un entraîneur de conditionnement physique. Les utilisateurs ont parlé aux assistants automatisés plus longtemps qu’ils ne l’ont fait avec des agents de soutien humain ayant la même fonction. Les gens dévoileraient volontairement des secrets profonds à des agents artificiels, comme leurs rêves pour l’avenir, les détails de leur vie amoureuse, même les mots de passe.

Ces connexions étonnamment profondes signifient que même les programmes relativement simples d’aujourd’hui peuvent exercer une influence significative sur les personnes, pour le bien ou pour le mal. Une entreprise pourrait connaître exactement tous les changements des gens, si bien que si elle souhaite qu’un utilisateur achète plus de produits, elle peut faire en sorte de doubler les ventes. Si elle veut plus d’engagement, elle peut faire passer les gens de quelques secondes d’interaction à une heure ou plus par jour, etc.

Tout ira plus loin bien sûr : ces marques de confiance aveugles (l’intelligence artificielle est sans jugement à notre égard, nous faisons donc facilement un nombre de choses avec le sentiment d’être à l’abri des regards) conduira par exemple, à des agents de construction pour être des entraîneurs santé ou des relations.

Malheureusement, les forces commerciales qui conduisent le développement de la technologie ne sont pas toujours bienveillantes. Les sociétés géantes à l’avant-garde de l’AI – dans les réseaux sociaux, la recherche et le commerce électronique – stimulent la valeur de leurs parts en augmentant le trafic, la consommation et la dépendance à leur technologie. Ils n’ont pas de mauvaises intentions, mais la nature des marchés de capitaux peut nous pousser vers une tendance à influencer notre comportement à l’égard de ces objectifs.

Si vous pouvez demander à un utilisateur de réfléchir: « Je veux une pizza livrée », plutôt que de demander à l’AI d’acheter des légumes pour préparer un repas moins cher et plus sain, vous réussirez. Si vous pouvez amener les utilisateurs à passer 30 heures par semaine avec un compagnon « parfait » d’AI qui ne résiste pas aux abus, plutôt qu’à un humain réel et compliqué, vous gagnerez. Un agent programmé pour être neutre ou subordonné entraînerait une escalade de comportements négatifs et deviendrait plus susceptible de se comporter ainsi avec les humains ensuite.

Nous avons vu comment la technologie, comme les médias sociaux, peut être puissante pour changer les croyances et les comportements humains. En mettant l’accent sur la construction d’un plus grand marché de la publicité – enchaînement de la politique, des trivia et des demi-vérités -, vous pouvez provoquer des changements massifs dans la société.

Les systèmes spécifiquement conçus pour former des relations avec une volonté humaine ont beaucoup plus de puissance. L’AI influera sur la façon dont nous pensons, et sur la façon dont nous traitons les autres.

Cela nécessite un nouveau niveau de responsabilité des entreprises. Nous devons construire de manière délibérée et consciente l’AI qui améliorera la condition humaine, et non plus seulement poursuivra le gain financier immédiat des utilisateurs toxicomanes.

Travailler sur des technologies ouvertes d’intelligence artificielle et des interfaces cerveau-ordinateur, ou en formant des comités d’éthique, ne sont qu’une partie de la solution. Nous devons construire consciemment des systèmes qui fonctionnent au profit des humains et de la société. Il ne doit pas y avoir de dépendance, des clics et de la consommation comme objectif principal. L’AI grandit et façonnera la nature de l’humanité. L’AI a besoin d’une mère.

Publicités

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s