L’histoire sombre de l’intelligence et sa domination

L’intelligence a toujours la feuille de vigne pour cacher et justifier la domination et la destruction. Pas étonnant que nous craignons l’arrivée des robots hyper-intelligents…

Dans la seconde moitié du 20e siècle, le concept de l’intelligence pèse lourd. Il a inspiré, sujet à débat et – le plus important de tous – a été mesurée. Dans les années 80, des dizaines de milliers de personnes à travers le pays ont été amenés dans des salles pour passer un test de QI connu sous le nom de Eleven-Plus. Les résultats de ces quelques heures détermineraient qui irait au lycée, qui se préparerait pour l’université et à quelles professions être destiné ; qui irait en école technique, pour se destiner à un travail manuel.

L’idée que l’intelligence pouvait être quantifiée, comme la pression artérielle ou la taille de chaussure, avait à peine un siècle, au moment ù des générations décidaient de leur place dans le monde. Mais l’idée que l’intelligence pourrait déterminer sa position dans la vie était déjà bien avancée. Elle fonctionne comme un fil rouge à travers la pensée occidentale, de la philosophie de Platon à la politique du Premier ministre britannique Theresa May. Dire que quelqu’un est ou non intelligent n’a jamais été simplement un commentaire sur ses facultés mentales. Ca a toujours été aussi un jugement sur ce qu’il était autorisé à faire avec. L’intelligence, en d’autres termes, est politique.

Parfois, ce genre de classement est raisonnable: nous voulons des médecins, des ingénieurs et des dirigeants qui ne sont pas stupides. Mais il y a un côté sombre. En plus de déterminer ce qu’une personne peut faire, leur intelligence – ou l’absence présumée de celle-ci – a été utilisée pour décider de ce que les autres pouvaient faire pour eux. Tout au long de l’histoire occidentale, ceux qui étaient jugés moins intelligents ont, à la suite de cet arrêté, été colonisés, asservis, neutralisés et assassinés (et même mangés, si l’on inclut les animaux non humains dans ces calculs).

En effet l’histoire est ancienne. Mais le problème a pris une intéressante torsion au 21e siècle avec la montée de l’intelligence artificielle (AI). Ces dernières années, les progrès réalisés dans la recherche AI ont permis de reprendre le sujet de manière significative, et de nombreux experts estiment que ces avancées conduiront bientôt à voir plus loin. Les experts sont tour à tour terrifiés et excités, abreuvant leur flux Twitter avec des références à la Terminator. Pour comprendre pourquoi nous nous faisons du souci et que nous avons des craintes, nous devons comprendre l’ intelligence comme un concept politique – et, en particulier, sa longue histoire en tant que justification de la domination.

Le terme « intelligence » elle-même n’a jamais été populaire auprès des philosophes. Elle n’a pas non plus de traduction directe en grec ancien ou en allemand, deux des autres langues dans la tradition philosophique occidentale. Mais cela ne signifie pas que les philosophes ne s’y ont pas intéressés. En effet, ils étaient obsédés par elle, ou plus précisément une partie de celle-ci: la raison ou la rationalité. Le terme « intelligence » a réussi à éclipser sa plus ancienne relative dans le discours populaire et politique, avec la montée de la discipline, relativement nouvelle, de la psychologie, qui a revendiqué l’intelligence pour elle-même. Bien qu’aujourd’hui de nombreux chercheurs préconisent une compréhension beaucoup plus large de l’intelligence, la raison reste une partie essentielle de celle-ci. Alors, quand on parle du rôle que l’ intelligence a joué historiquement, on devrait inclure cette aïeule.

L’histoire de l’intelligence commence avec Platon. Dans tous ses écrits, il attribue une valeur très élevée à la pensée, déclarant (par la bouche de Socrate) que la vie sans examen ne vaut d’être vécue. Platon a émergé d’un monde ancré dans le mythe et la mystique revendication de quelque chose de nouveau : que la vérité sur la réalité pourrait être établie par la raison, ou ce que nous pourrions considérer aujourd’hui comme l’application de l’intelligence. Cela l’a amené à conclure, dans La République, que le souverain idéal est « le roi philosophe », car seul un philosophe peut travailler sur l’ordre des choses. Et il a lancé l’idée que le plus habile devrait régner sur le reste – une méritocratie intellectuelle.

Cette idée était révolutionnaire à l’époque. Athènes avait déjà expérimenté la démocratie, la règle du peuple – mais en comptant sur ces « gens » que vous venez d’avoir comme citoyens, qu’ils ne soient pas nécessairement intelligent. Ailleurs, les classes dirigeantes ont été constituées avec des élites héréditaires (l’aristocratie), ou par ceux qui ont cru qu’ils avaient reçu une instruction divine (la théocratie), ou tout simplement par le plus fort (la tyrannie).

A l’aube de la philosophie occidentale, l’intelligence a été identifiée par le mâle Européen instruit.

L’idée nouvelle de Platon est tombée dans les oreilles avides des intellectuels, y compris celles de son élève Aristote. Aristote a toujours été le plus pratique, et taxonomique des penseurs. Il a pris la notion de la primauté de la raison et l’a utilisée pour établir ce qu’il croyait être une hiérarchie sociale naturelle. Dans son livre Le Politique , il explique: « certains devraient gouverner et être à la tête et les autres être jugés, c’est une chose non seulement nécessaire, mais utile ; à la naissance, certains sont marqués pour la sujétion, d’autres pour régner ». Ce qui marque la règle est la possession de « l’élément rationnel ». Les hommes instruits l’ont plus, et devraient donc naturellement régner sur les femmes et les hommes, dont l’activité est d’utiliser leur corps », ceux-là donc « sont esclaves par nature ». Au plus bas de l’échelle il y a les animaux, les non humains, qui sont si stupides qu’ils s’améliorent « quand ils sont gouvernés par l’homme ».

slide_11 1200px-taxonomic_hierarchy-svg

Donc, à l’aube de la philosophie occidentale, nous avons l’intelligence identifiée par le mâle Européen instruit. Il devient alors un argument pour son droit de dominer les femmes, les classes inférieures, les peuples non civilisés et les animaux non-humains. Alors que Platon a plaidé pour la suprématie de la raison et l’a placée dans une utopie plutôt disgracieuse. A peine une génération plus tard, Aristote présente la règle de l’homme de pensée comme évidente et naturelle.

Inutile de dire, plus de 2000 ans plus tard, le train de cette pensée des hommes mis en mouvement n’a pas encore déraillé. Le regretté philosophe et écologiste australien Val Plumwood a fait valoir que les géants de la philosophie grecque ont mis en place une série de dualismes liés qui continuent d’informer notre pensée avec des catégories opposées telles que : intelligent / stupide, rationnel / émotionnel et corps / esprit, qui sont liées, implicitement ou explicitement, à d’autres telles que mâle / femelle, civilisé / primitif, et humain / animal. Ces dualismes n’ont pas de valeur neutre, mais se situent dans un dualisme plus large, comme Aristote le précise: celui de dominant / subordonné ou maître / esclave. Ensemble, ils forment des rapports de domination, comme le patriarcat ou l’esclavage, qui semblent faire partie de l’ordre naturel des choses.

La philosophie occidentale moderne, a souvent pris pour commencer cette arche dualiste : René Descartes. Contrairement à Aristote, il n’a même pas permis le continuum d’une intelligence inférieure chez les autres animaux. La cognition, selon lui, était l’affaire de l’humanité. Il y a réfléchit avec plus d’un millénaire de théologie chrétienne, qui a fait de l’intelligence une propriété de l’âme, une étincelle du divin réservée uniquement pour ceux assez chanceux d’être à l’image de Dieu. Descartes a rendu la nature littéralement aveugle, et donc dépourvue de valeur intrinsèque – ce qui légitimait ainsi l’oppression sur les autres espèces sans culpabilité.

L’idée que l’intelligence définit l’humanité a persisté durant les Lumières. Elle a été adoptée avec enthousiasme par Emmanuel Kant, sans doute le philosophe moral le plus influent depuis les anciens. Pour Kant, seules les créatures raisonnantes avaient une autorité morale. Les êtres rationnels devaient être appelés « personnes » et étaient avaient une « finalité en elles ». Les êtres qui ne sont pas rationnels, d’autre part, n’avaient « qu’une valeur relative en tant que moyen, et étaient donc appelés choses ». Nous pouvions faire d’ eux ce que nous voulions.

Selon Kant, le raisonnement – aujourd’hui, nous dirions être intelligent – a une valeur, une dignité infinie, que l’irraisonnée ou l’inintelligente personne n’a pas. Ses arguments sont plus sophistiqués, mais essentiellement, il arrive à la même conclusion que Aristote: il y a des maîtres naturels et des esclaves naturels, et l’intelligence est ce qui les distingue.

Depuis plusieurs décennies, l’avènement des tests formels de renseignement avaient tendance à exacerber plutôt qu’à remédier à l’oppression des femmes.

Cette ligne de pensée a été étendue pour devenir une partie de base de la logique du colonialisme. L’argument a valu longtemps ainsi : les peuples non-blancs étaient moins intelligents ; ils étaient donc qualifiés pour régner sur eux-mêmes et leurs terres. Il était donc tout à fait légitimes – même en devoir, « ce fardeau de l’homme blanc » – de détruire les autres cultures et de prendre les autres territoires. En outre, parce que l’intelligence définit l’humanité, en vertu d’être moins intelligents, les autres, ces peuples, étaient moins humains. Ils ne bénéficiaient donc pas de la pleine autorité morale – et il était donc parfaitement logique de les tuer ou de les asservir.

La même logique a été appliquée aux femmes, qui ont été considérées comme trop volages et sentimentales pour jouir des privilèges accordés à « l’homme rationnel ». Au 19ème siècle, en Grande-Bretagne, les femmes étaient moins bien protégées par la loi que les animaux domestiques, comme l’historienne Joanna Bourke de l’Université Birkbeck de Londres l’a montré. Peut-être pas étonnant, alors, que pendant de nombreuses décennies, l’avènement des tests formels d’intelligence avaient tendance à exacerber plutôt qu’à pallier à l’oppression des femmes.

Sir Francis Galton est généralement considéré comme l’initiateur de la psychométrie, la « science » de la mesure de l’esprit. Il a été inspiré par L’Origine des espèces (1859) écrit par son cousin Charles Darwin. Elle a conduit Galton à croire que la capacité intellectuelle était héréditaire et pouvait être améliorée par l’élevage sélectif : l’eugénisme. Il a décidé de trouver un moyen d’identifier scientifiquement les membres les plus capables de la société et de les encourager à se reproduire – prolifiquement, et les uns avec les autres. Les moins « intellectuellement capables » devaient être dissuadés de se reproduire pour le bien de l’espèce. Ainsi l’eugénisme et le test d’intelligence sont nés ensemble. Dans les décennies suivantes, un grand nombre de femmes à travers l’Europe et l’Amérique ont été stérilisées de force après avoir été mal notés sur de tels essais – 20.000 en Californie.

Les échelles de renseignement ont été utilisées pour justifier certains des plus terribles actes de barbarie dans l’histoire. Mais la règle de la raison a toujours eu ses détracteurs. De David Hume à Friedrich Nietzsche et Sigmund Freud grâce au postmodernisme, beaucoup de traditions philosophiques ont remis en question l’idée que nous sommes aussi intelligents que nous aimerions le croire, et que l’intelligence est la plus haute vertu.

La méritocratie de l’intelligence a toujours été un seul compte de la valeur sociale – même si elle est très influente. L’entrée dans certaines écoles et l’accès à certaines professions, telles que la fonction publique au Royaume-Uni, est basée sur des tests d’intelligence, mais d’autres domaines mettent l’accent sur des qualités différentes, telles que la créativité ou l’esprit d’entreprise. Et bien que nous pourrions espérer que nos fonctionnaires soient intelligents, nous ne choisissons pas toujours d’élire les politiciens semblant être les plus intelligents. (Pourtant, il est révélateur que même un homme politique populiste, comme Donald Trump a ressenti le besoin d’affirmer, en parlant de son administration, que « nous avons de loin les plus hauts QI jamais réunis »).

Plutôt que de contester la hiérarchie de l’intelligence en tant que telle, de nombreux critiques ont mis l’accent sur l’attaque des systèmes qui permettent aux blancs, des élites d’hommes, d’atteindre le sommet. L’examen Eleven-Plus est un exemple intéressant, profondément équivoque d’un tel système. Il était destiné à identifier les jeunes talents de toutes les classes et de toutes les croyances. Mais, en réalité, ceux qui sont réussis sont apparus de manière disproportionnée être les mieux dotés en ressources, issus des classes moyennes blanches, des membres qui se sont retrouvés ainsi réaffirmés dans leur position et les avantages.

Ainsi, lorsque nous réfléchissons à la façon dont l’idée de l’intelligence a été utilisée pour justifier le privilège et la domination durant plus de 2000 ans d’histoire, est-il étonnant que la perspective imminente de robots super-intelligents nous remplisse d’effroi ?

De 2001: A Space Odyssey aux films Terminator, les écrivains ont fantasmé sur les machines se dressant contre nous. Maintenant , nous pouvons comprendre pourquoi. Si nous sommes habitués à croire que les premières places dans la société devraient revenir aux plus intelligents, alors bien sûr nous devrions nous attendre à être licenciés par des robots avec de plus grands cerveaux et redescendus sur l’échelle d’Aristote au plus bas niveau . Si nous avons absorbé l’idée que le plus intelligent peut coloniser le moins intelligent de plein droit, alors il est naturel que nous ayons peur de l’esclavage par nos créations super-smart. Si nous justifions nos propres positions de pouvoir et de prospérité en vertu de notre intelligence, il est compréhensible que nous voyons en l’AI supérieure une menace existentielle.

La stupidité naturelle, plutôt que l’intelligence artificielle, reste le plus grand risque.

D’autres groupes ont connu une longue histoire de domination par des supérieurs auto-proclamés, et se battent encore contre de vrais oppresseurs. Les hommes blancs, par ailleurs sont habitués à être au sommet de la hiérarchie. Ils ont plus à perdre si de nouvelles entités arrivent et excellent exactement dans les domaines qui ont été utilisés pour justifier la supériorité masculine.

Toute notre inquiétude à propos de l’AI est sans fondement. Il y a des risques réels associés à l’utilisation de l’AI avancée (ainsi que d’immenses avantages potentiels). Mais être opprimés par des robots dans la façon dont, par exemple, les populations autochtones de l’Australie ont été opprimées par les colons européens n’est absolument pas numéro un sur la liste.

Nous ferions mieux de nous soucier de ce que les humains peuvent faire avec l’AI, plutôt que ce qu’elle pourrait faire par elle-même. Nous, les humains sommes beaucoup plus susceptibles de déployer des systèmes intelligents les uns contre les autres, ou de devenir trop dépendants sur eux. Comme dans la fable de l’apprenti sorcier, si les AI causent des dommages, il est plus probable que ce soit parce que nous leur avons donné de bonnes ou de mauvaises intentionnées, en leur donnant des buts – et non pas parce qu’elles « veulent » nous conquérir. La stupidité naturelle, plutôt que de l’intelligence artificielle, reste le plus grand risque.

Il est intéressant de spéculer sur la façon dont nous aimerions voir la montée de l’AI si nous avions une vue différente de l’intelligence. Platon croyait que les philosophes auraient besoin d’être persuadés et cajolés pour devenir des rois, car ils préfèrent naturellement la contemplation à la maîtrise sur les hommes. D’autres traditions, en particulier celles de l’Est, voient la personne intelligente comme celle qui dédaigne les attributs du pouvoir jugés comme simple vanité, et qui d’elle-même élimine les futilités et les tribulations des affaires quotidiennes.

Imaginez si ces vues étaient répandues: si nous pensions que les gens les plus intelligents n’étaient pas ceux qui ont prétendus au droit de gouverner, mais ceux qui sont allés méditer dans des endroits éloignés, pour se libérer des désirs de ce monde ; ou que le plus habile de tous étaient celui qui revenait répandre la paix et l’illumination. Pourrions-nous craindre encore des robots plus intelligents que nous ?

1 commentaire sur “L’histoire sombre de l’intelligence et sa domination”

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.