Comment Confucius a perdu la face dans le nouveau régime de surveillance de la Chine

Un écran fait la démonstration de la technologie de reconnaissance faciale lors de la Conférence mondiale sur l’intelligence artificielle (WAIC) à Shanghai, en Chine, le jeudi 29 août 2019. Photo par Qilai Shen/Bloomberg via Getty Images

Bien que conçu et fonctionnant différemment dans des contextes divers, le  » visage  » décrit un phénomène qui existe dans chaque société humaine. Son sens le plus fondamental concerne la présentation publique et la perception de soi. Une personne qui a un visage possède quelque chose de valeur sociale positive qui découle de l’approbation sociale du statut, de l’action ou de l’état d’une personne ; une personne qui perd la face a subi une perte de valeur sociale concernant son statut, son comportement ou son état. En plus de la perception publique, le  » visage  » a également un aspect psychologique interne : il capture l’image et l’évaluation de soi-même par rapport aux normes éthiques partagées et aux hiérarchies, attentes et normes sociales.

Le visage est particulièrement important dans les sociétés d’Asie de l’Est comme la Chine, et on le retrouve sous deux formes connexes. La première et la plus populaire, mianzi (面子), concerne principalement la richesse, le statut social, la position, le pouvoir et le prestige ; la seconde, lian (臉), concerne le caractère moral et le comportement. Une personne peut avoir un mianzi – par exemple, le statut, la position, etc. – mais ne pas avoir un niveau de lian correspondant – par exemple, être considérée comme moralement mauvaise. Une absence totale de lian érode et finit par saper son mianzi, tandis qu’une personne ayant un grand lian aura un mianzi considérable.

Dans la société chinoise contemporaine, la question du visage a pris une forme nouvelle et inquiétante qui affecte profondément ces conceptions plus traditionnelles, d’inspiration confucéenne. Le réseau de caméras de surveillance chinois, en pleine expansion, s’appuie de plus en plus sur la technologie de reconnaissance faciale assistée par IA pour accomplir une grande partie de sa mission première : suivre, enregistrer, contrôler et modifier le comportement de ses citoyens. Dans ce système, le  » visage  » n’a vraiment rien à voir avec les conceptions traditionnelles du statut moral ou social – du moins, avec leurs formes idéales ; il ne s’agit pas de la façon dont on se perçoit ou dont les membres de sa communauté le perçoivent. Il doit plutôt être un objet sous le regard d’un système de surveillance gouvernementale systématique établi par le Parti communiste chinois (PCC) et guidé par une IA de plus en plus sophistiquée. L’intérêt principal de Philip Ivanhoe* est de savoir ce que cela fait aux notions traditionnelles de mianzi, de lian et aux idées connexes sur la vertu, mais il note également une implication imprévue que la nouvelle surveillance de masse comporte pour le PCC, une implication qui témoigne d’une préoccupation plus générale concernant l’éthique de l’IA.

Sa principale affirmation est que la nouvelle culture de surveillance élimine en grande partie non seulement la préoccupation mais aussi la possibilité de conceptions traditionnelles, d’inspiration confucéenne, du visage et des conceptions connexes de la vertu. En mettant l’accent sur le visage physique pour l’identification et en évaluant les citoyens uniquement en fonction de leur perception des avantages ou des inconvénients pour l’État – mesurés en fonction du Système de crédit social (社会信用体系) – la nouvelle culture de surveillance modifie fondamentalement les sens et les fonctions de ces concepts traditionnels, éliminant à la fois la dimension interne, morale, du visage et sa dimension externe, socialement constituée. Dans un sens très réel, elle constitue une perte de visage ultime et complète.

En Occident, des questions similaires sont discutées en termes de droit à la vie privée et de nécessité de protéger l’espace personnel, les activités sociales et les institutions, et ce raisonnement a beaucoup de mérite. Ici, cependant, il présente un argument indépendant qui peut compléter ces préoccupations, mais qui découle des idées confucéennes traditionnelles sur la compréhension et l’amélioration du soi. Il est important d’explorer et d’analyser cette perspective, non seulement parce qu’elle offre une alternative morale à la surveillance de masse, mais aussi parce qu’elle est d’une grande importance pour les gens de ces cultures, surtout parce que cette approche de la vertu est souvent détournée par ceux qui cherchent à défendre l’État de surveillance.

Cette tentative d’appropriation fait appel à l’idée que, puisque les Confucius  » collectivistes  » considèrent que tout le monde est capable de devenir moralement noble et devrait viser à le devenir, pourquoi devraient-ils s’inquiéter de la surveillance ? Puisque l’État poursuit cette politique afin de « maintenir l’ordre » et d’éliminer les « éléments perturbateurs », y compris bien sûr les « terroristes », les personnes bien intentionnées et « patriotiques » devraient accueillir et adopter la surveillance étatique guidée par l’IA comme une prothèse contribuant à la culture du soi, ou xiuyang (修養), et qui offre une technologie nouvelle et puissante pour améliorer à la fois le soi et la société.

Cela déforme toutefois les hypothèses, les objectifs et les méthodes fondamentales du confucianisme traditionnel. Bien que le confucianisme englobe un vaste éventail de conceptions différentes de la nature humaine et de la manière de l’améliorer, toutes partagent l’idée fondamentale que la moralité concerne une vision de la nature humaine et de sa culture, visant à améliorer le bien-être de soi et de la société en produisant des personnes de caractère humain et admirable. Le tableau de base commence par un défi pour nous améliorer et pour étendre la portée de notre préoccupation morale – de nous-mêmes et de notre famille immédiate et de nos amis, aux voisins, à la société et finalement au monde entier. Le but ultime est de passer de l’individu à  » tout ce qui est sous le ciel  » et d’apporter la paix, la prospérité et le bonheur à tous.

Un aspect central de ce processus est la nécessité pour les personnes de veiller sur elles-mêmes lorsqu’elles sont seules (君子慎其獨), ce qui est, en gros, un appel à être vigilant sur ses pensées et ses sentiments en vue d’une amélioration morale. Mais sous le regard implacable de la surveillance de masse, nous ne sommes presque jamais seuls ; on nous prive de la possibilité de nous lancer sur la Voie en cultivant la capacité de surveiller nos propres pensées et sentiments, et de les réguler, les ordonner, les augmenter et les améliorer dans un effort permanent de culture de soi. Dans de telles circonstances, les idéaux moraux fondamentaux de Confucius, tels que la « sincérité », ou cheng (誠), et un sentiment de honte, ou chi (恥), ne sont plus possibles.

Au lieu de regarder à l’intérieur de moi pour comprendre, évaluer et façonner mes pensées et mes sentiments dans un effort continu de me cultiver, je suis obligé de m’organiser et d’organiser ma vie autour de l’objectif de plaire à l’État et à son superviseur de l’IA.

Dans de telles conditions, je perds de vue ce que je crois réellement de la bonté et de la vertu, et mes jugements indépendants sur ces questions perdent leur pouvoir de motivation. Notre responsabilité personnelle pour nous-mêmes et notre effort collectif pour comprendre, façonner et améliorer notre vie sociale commune sont externalisés à l’État, en particulier au PCC, et délégués à un algorithme.

Outre les dommages profonds que la nouvelle surveillance de masse cause aux notions traditionnelles sur le visage, il y a une implication imprévue pour la CPC qui témoigne d’une préoccupation éthique générale à l’égard des machines autonomes et intelligentes. Le parti défend vigoureusement son programme de surveillance de masse en faisant appel aux prétendus avantages qu’il apporte à la société, ce qui inclut généralement sa défense contre les menaces imminentes de terrorisme, de criminalité, de troubles sociaux, de dégradation des valeurs et d’atteinte à l' » harmonie  » sociale globale. En tant qu’avant-garde du prolétariat, le parti assume la tâche de déterminer ce qui est le mieux pour la société en ce qui concerne ces biens et d’autres, et de concevoir des politiques pour les réaliser.

Quels que soient les mérites de ces arguments, l’utilisation récente et croissante de l’IA pour gérer la surveillance de masse du parti et le système de crédit social qui y est lié introduit un mécanisme nouveau dans l’appareil d’État ; désormais, les décisions sur ce qui constitue une menace pour l’État et sur ce qui est dans l’intérêt de la société, ainsi que sur la manière d’obtenir des résultats optimaux, sont de plus en plus contrôlées non pas par les membres du parti mais par les machines autonomes et intelligentes qui font fonctionner le système. Il n’est pas du tout clair pourquoi on pourrait croire que ces machines continueront à choisir et à employer des valeurs, des objectifs et des méthodes qui sont alignés sur ceux des membres du PCC au pouvoir. Il semblerait que la trajectoire actuelle non seulement exclut les membres individuels de la société du processus de décision sur le type de vie qu’ils veulent mener, mais qu’elle rendra de plus en plus le parti et sa direction superflus. L’État pourrait effectivement  » dépérir « , comme l’avait prédit le philosophe allemand Friedrich Engels en 1878, mais pas de la manière ou avec les conséquences qu’il a décrites.

*Philip Ivanhoe est professeur distingué de philosophie au Collège d’études confucéennes et de philosophie orientale de l’Université Sungkyunkwan en Corée du Sud, où il est également directeur de l’Institut Sungkyun d’études confucéennes et de philosophie de l’Asie orientale. Son dernier livre s’intitule Three Streams : Réflexions confucianistes sur l’apprentissage et la morale du cœur et de l’esprit en Chine, en Corée et au Japon (2016).

Via Aeon

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.