Démontage nécessaire

Oui, très souvent je fais des liens vers Real Life magazine ! Mais que faire : des trucs géniaux sortent de là. Cette fois-ci, Kelly Pendergrast regarde les robots (et l’IA), comment ils sont présentés, anthropomorphisés et souvent rendus sympathiques, et explique que sous cette présentation superficielle et ces mécanismes et algorithmes, il s’agit de sociétés à but lucratif qui suivent les impératifs du capitalisme et utilisent ces robots pour chercher à faire plus de profit, surveiller les humains et finalement les éliminer.

Trois choses à noter :

1) Cet article n’est pas l’exemple le plus éloquent mais il est adjacent à quelque chose : écrire sur un grand phénomène / domaine de la technologie / du capitalisme comme il en a l’intention (dans ce cas la représentation anthropomorphique des robots), où on peut voir une séquence de décisions indépendantes.

2) Le cadre du « capitalisme IA réellement existant » (de Nick Dyer-Witheford et ses co-auteurs Atle Mikkola Kjøsen et James Steinhoff) pour représenter le fait que la véritable IA n’est pas là mais est utilisée comme si elle l’était, et qu’elle « détient déjà beaucoup de pouvoir en tant que cadre imaginatif pour réorganiser et reconceptualiser le travail ».

3) Enfin, l’idée du coéquipier du robot, « mettant une surface conviviale entre le client ou le travailleur ou l’utilisateur et la fonction sous-jacente de la technologie ». C’est à peu près la même chose que l’idée des emplois en dessous de l’API qui a été utilisée il y a quelques années lorsque le travail sur commande a commencé à apparaître. Abstraire les humains de l’interface, donner aux consommateurs l’accès à ce travail caché dans un ensemble « propre ». Concept important.

Nous ne devons certainement pas être contraints par la mignonnerie du HitchBot ou la démarche malveillante du bipède de Boston Dynamics. Nous devrions plutôt apprendre à voir le robot pour ce qu’il est – la propriété de quelqu’un d’autre, l’outil de quelqu’un d’autre. Et parfois, il doit être détruit. […]

Alors que ces systèmes nécessitent encore une main-d’œuvre humaine abondante, l' »AI » est la phrase magique qui nous permet d’accepter ou d’ignorer le travail caché de milliers de travailleurs mondiaux mal payés et précaires – c’est le rideau mystifiant derrière lequel toutes sortes d’horreurs non automatisées peuvent être cachées. […]

Contrairement à tant de technologues actuels qui sont envoûtés par le Destin manifeste du progrès technologique abstrait, les Luddites et leurs collègues saboteurs ont pu, comme l’écrit Noble, « percevoir les changements du présent pour ce qu’ils étaient, non pas un quelconque déroulement inévitable du destin mais plutôt la création politique d’un système de domination qui entraînait leur perte ». Le luddisme est antérieur au type de déterminisme technologique dans lequel nous nous noyons aujourd’hui, tant de la part des technologues libéraux que des gauchistes du « communisme de luxe entièrement automatisé ». Les métiers à tisser et les machines à filer n’étaient pas considérés comme une passerelle nécessaire vers un avenir potentiel d’androïdes utiles et d’objets intelligents. Une analyse similaire du temps présent peut être appliquée aux technologies d’aujourd’hui. Lorsque nous considérons un robot comme un pair animé qu’il faut aimer ou craindre, nous nous laissons guider par une vision que des futuristes loufoques nous ont concoctée. Pour l’instant, si les robots ont une conscience ou une agence, c’est la conscience de l’entreprise qui les possède ou les a créés.

Le fait est que les robots ne sont pas vos amis. Ils patrouillent les allées des supermarchés pour repérer les vols à l’étalage et les articles mal rangés, ou ils parlent des deux côtés de leur bouche numérique, répondent à vos demandes aboyées de bulletin météo ou à la population de la Mongolie, puis se retournent et partagent vos données et préférences et votre affect vocal avec leurs maîtres chez Google ou Amazon. En mettant des robots anthropomorphiques – trop mignons pour qu’on leur fasse du mal ou trop effrayants pour qu’on les manipule – entre nous et eux, les patrons et les entreprises font ce qu’ils ont toujours fait : protéger leurs biens, créer de la loyauté et de la conformité par l’utilisation de procurations qui attirent la loyauté et détournent les critiques. C’est ainsi que nous arrivons à un moment où des civils armés montent la garde devant une cible pour la protéger du vandalisme et du pillage, et que certaines personnes réagissent à un Whole Foods écrasé comme s’il s’agissait d’une attaque contre leur propre meilleur ami – dupés pour défendre la propriété de quelqu’un d’autre contre des vies humaines.

En mettant des robots anthropomorphiques – trop mignons pour qu’on leur fasse du mal ou trop effrayants pour qu’on leur fasse du mal – entre nous et eux, les patrons et les entreprises font ce qu’ils ont toujours fait : protéger leurs biens, créer de la loyauté et de la conformité par l’utilisation de procurations qui attirent la loyauté et détournent les critiques. […]

Au lieu d’émanciper le robot « vivant », on pourrait peut-être le réorienter afin de nous émanciper, nous les vivants.

Via Realifemagazine.

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.