Pouvons-nous construire une machine avec une conscience ?

Que nous, humains, soyons influencés et influençables, par notre conscience du bien et du mal (que nous avons appris), il y a une forme de contrôle possible : la justice fonctionne sur la conscience morale des individus (je vous conseille de lire cet article génial sur le Mythe d’infaillibitilité de la Justice). Mais qu’en est-il de faire apprendre le bien et le mal à une machine, et lui donner une conscience : est-ce seulement possible ?

Pas encore, mais la recherche en neurosciences nous donne quelques indices sur la façon dont cela pourrait être possible dans un avenir pas trop lointain.


Dans un article paru dans Science, un trio de neuroscientifiques, dirigé par Stanislas Dehaene du Collège de France à Paris, tente d’identifier exactement ce que nous entendons par « conscience » afin de déterminer si les machines pourraient jamais en posséder.

Selon eux, il existe trois types de conscience – et les ordinateurs n’en ont maîtrisé qu’une seule jusqu’ à présent.
L’une est la subconscience, l’immense gamme de processus dans le cerveau où se trouve la plupart des intelligences humaines. C’est ce qui nous permet de déterminer un coup d’échecs ou de repérer un visage sans vraiment savoir comment nous l’avons fait. Selon les chercheurs, cela est largement comparable au type de traitement auquel les IA modernes, tels que DeepMind AlphaGo ou les algorithmes de reconnaissance faciale de Face++, sont bons.
Quand il s’agit de conscience réelle, l’équipe la divise en deux types distincts. La première est la façon dont nous maintenons une vaste gamme de pensées à la fois, toutes accessibles à d’autres parties du cerveau, ce qui rend possible des capacités comme la planification à long terme. La seconde est la capacité d’obtenir et de traiter l’information à notre sujet, ce qui nous permet de faire des choses comme réfléchir sur les erreurs. Ces deux formes de conscience, disent les chercheurs, ne sont pas encore présentes dans l’apprentissage machine.

Mais des lueurs commencent à se faire jour dans certaines pistes de recherche.

L’an dernier, par exemple, DeepMind a mis au point un système d’apprentissage profond qui permet de conserver certaines données à portée de main pour les utiliser pendant ses ruminations, ce qui constitue un pas vers la disponibilité mondiale de l’information.

Et les réseaux neuronaux antagonistes imaginés par Ian Goodfellow (un des 35 innovateurs de moins de 35 ans de 2017), qui peuvent évaluer si les données générées par l’IA sont réalistes, vont dans le sens de la conscience de soi.

Ce sont, il est vrai, de petits progrès vers les types de processus qui, selon les chercheurs, donneraient naissance à la conscience humaine. Mais si une machine pouvait être dotée de versions plus fonctionnelles, concluent les chercheurs, elle « se comporterait comme si elle était consciente… elle saurait qu’elle voit quelque chose, y exprimerait sa confiance, la rapporterait à d’autres… et pourrait même connaître les mêmes illusions perceptuelles que les humains.

2 commentaires sur “Pouvons-nous construire une machine avec une conscience ?”

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.