Pas d’échappatoire à la réalité

Un nouvel article très intéressant de RealLife Magazine.

L’immersivité de la réalité virtuelle alimente un fantasme de collecte de données plus riches.

En 2019, une startup technologique appelée TaleSpin a présenté une démonstration de sa « technologie humaine virtuelle » dans le cadre d’un module de formation managériale. Elle a utilisé la réalité virtuelle pour mettre un stagiaire « dans la peau d’un responsable des ressources humaines chargé de licencier un collègue » – une simulation (ou « humain virtuel ») rendue sous la forme d’un adulte âgé de 60 ans nommé Barry. Grâce à la reconnaissance vocale et à un logiciel d’intelligence artificielle, Barry réagit au comportement du stagiaire. Si le ton du stagiaire est jugé trop agressif, Barry exprimera son désarroi quant à ses chances de trouver un emploi ailleurs. Si son ton est trop doux, Barry pourrait se fâcher de l’indignité d’être licencié par quelqu’un de beaucoup plus jeune que lui.

Dans un communiqué de presse (retiré depuis), TaleSpin a affirmé que ce module permettrait aux stagiaires « d’acquérir une expérience virtuelle qui semble suffisamment réelle pour créer une mémoire musculaire émotionnelle, et d’obtenir des conseils en temps réel sur la manière de licencier un employé avec empathie et efficacité« . Le co-fondateur de TaleSpin, Kyle Jackson, s’est vanté de la sensation d’interaction réelle avec Barry : Il a fait remarquer que certains utilisateurs transpirent des mains, d’autres se mettent à pleurer, d’autres encore retirent leur casque. Plus cette simulation semble réelle, affirment-ils, plus la capacité accrue d' »empathie managériale » des stagiaires sera applicable. Mais pour TaleSpin, et sans doute pour ses clients potentiels, le but de cette réalité n’est pas simplement de rendre la répétition émotionnelle plus convaincante et édifiante. Il s’agit de « rendre mesurable la formation aux « compétences non techniques (soft skills) » ».

Les outils de RV ne sont pas seulement un moyen de simulation immersive, mais aussi de collecte de données dérivées d’un scénario suffisamment « réel » pour inspirer confiance dans la véracité des données

Ailleurs, Walmart utilise déjà la réalité virtuelle dans son processus d’embauche et de promotion « pour simuler les obstacles quotidiens » auxquels un employé potentiel pourrait être confronté. Alors que la société souligne que l’évaluation de la RV n’est qu’un des « points de données » utilisés dans les décisions d’embauche, son partenaire technique STRIVR décrit ce qu’il prétend tirer d’une session de RV, prétendant fournir des prévisions « objectives » et « automatisées » de la capacité d’un stagiaire à traiter avec un client émotionnel. Dans un webinaire, le directeur scientifique de STRIVR, Michael Casale, déclare que les données qu’il collecte – dans ce cas, sur la prise de décision, la performance, l’attention et l’engagement – prédisent « dans presque 80 % ou plus de 80 % des cas comment les gens se comporteraient dans le monde réel ». Il affirme qu’avec seulement 20 minutes de RV, les entreprises peuvent « commencer à faire des prédictions sur les performances dans le monde réel en se basant uniquement sur ce qui se passe dans le casque ».

Les outils de RV sont généralement présentés comme un moyen de simulation plus immersif pour les utilisateurs, mais comme ces exemples le suggèrent, ils sont aussi un moyen de quantification et de collecte de données. Lorsqu’ils sont expliqués à des clients institutionnels plutôt qu’à des consommateurs, ils sont décrits comme des moyens de saisir davantage de données physiologiques d’un utilisateur, dérivées d’un scénario simulé qui est suffisamment « réel » pour inspirer confiance dans la véracité des données et leur applicabilité plus large. Les sociétés de RV sont promptes à louer l’exhaustivité des données qu’elles collectent sur les utilisateurs, comme constaté dans ce projet de recherche sur les implications éthiques des technologies émergentes de réalité mixte : Le co-fondateur de TaleSpin, Kyle Jackson, affirme que « nous pouvons tout mesurer, de votre sentiment à votre regard en passant par ce que vous avez dit et comment vous l’avez dit« . Le co-fondateur d’Immerse.io, Justin Parry, décrit la RV comme « fondamentalement différente » des autres supports d’apprentissage, car elle peut « enregistrer absolument tout ce que l’utilisateur a fait » avec « 30 points de données par seconde ». STRIVR décrit la RV comme fournissant la « prochaine génération de données » qui apportera « des aperçus sur les compétences jamais saisis auparavant par les méthodes d’apprentissage traditionnelles ». Mursion, une société américaine de simulation de RV, affirme que ses « simulations atteignent le réalisme nécessaire pour fournir des résultats mesurables et à fort impact », et la page « ressources scientifiques » de STRIVR affirme que les simulations de RV « activent les mêmes voies neurales dans le cerveau » que les scénarios réels.

Comme l’explique Jeremy Bailenson, le directeur fondateur du laboratoire d’interaction humaine virtuelle de l’université de Stanford, les systèmes de RV actuels « suivent généralement les mouvements du corps 90 fois par seconde pour afficher la scène de manière appropriée, et les systèmes haut de gamme enregistrent 18 types de mouvements de la tête et des mains. Par conséquent, passer 20 minutes dans une simulation de RV laisse un peu moins de 2 millions d’enregistrements uniques du langage corporel ». La prochaine génération d’appareils de RV, avec des capteurs plus orientés vers l’intérieur – suivi du regard, capteurs physiologiques pour mesurer la fréquence cardiaque, surveillance des expressions faciales et interfaces cerveau-ordinateur – permettra aux entreprises d’étendre leur revendication, comme le fait Immerse.io, selon laquelle les données de RV « capturent chaque détail », offrant une représentation sans cadre de l’expérience d’apprentissage qu’elles proposent. Grâce à ce contrôle, les systèmes de RV aspirent à quantifier plus largement les aspects de la formation qualitative, à normaliser cette quantification parmi les employés et les institutions, à établir des points de référence pour l’évaluation normative et à fournir des lacs de données pour l’intelligence artificielle, l’apprentissage machine et la prise de décision automatisée.

Cette fantaisie sur la qualité des données fournies par la RV catalyse la valeur spéculative de plusieurs milliards d’entreprises comme Magic Leap. Elle a également conduit à l’acquisition d’entreprises liées à la RV par des sociétés technologiques massives comme Facebook, qui a intégré le fabricant de matériel de RV Oculus et une série de petites start-ups dans sa division de recherche et développement Facebook Reality Labs. Une mise à jour récente de l’accord de licence d’utilisation d’Oculus de Facebook permet à la société de saisir et de conserver des données biométriques (telles que la taille de la main et les données de mouvement) et de les partager avec ses filiales pour améliorer le marketing.

Mais les données de RV ne sont pas plus « parfaites » ou précises que tout autre système de mesure : comme toute quantification du comportement, elles sont basées sur des hypothèses normatives et d’exclusion qui sont souvent genrées, classées et courues dans leur origine et leurs perspectives. Comme l’a fait valoir Rob Kitchin, les données sont souvent présentées à tort comme « objectives, neutres et sans préjugés », comme s’il s’agissait « d’éléments simplement naturels et essentiels qui sont abstraits du monde de manière neutre et objective ». Mais les données ne sont jamais une représentation neutre. Elles sont toujours collectées dans un but précis, rendant visible quelque chose qui était auparavant caché et construisant une nouvelle vision du monde. En d’autres termes, comme le disent Lisa Gitelman et Virginia Jackson, les données ne sont jamais brutes. Elles sont toujours « cooked », c’est-à-dire collectées, stockées et diffusées dans un but précis et selon une logique particulière. Malgré cela, l’analyse prédictive est de plus en plus utilisée pour façonner nos vies sur la base de la croyance omniprésente dans l’objectivité inhérente des données.

En tant que consommateurs, on nous a déjà demandé d’adopter et de nous adapter aux capteurs extractifs et aux dispositifs de collecte de données : le cookie Internet, le téléphone portable, le haut-parleur intelligent, etc. Mais avec la réalité virtuelle, qui s’appuie sur une intimité incomparable avec le corps pour rendre ses simulations « réalistes », le potentiel d’abus est beaucoup plus important. La RV ajoute encore une autre couche aux dangers existants de la science des données, qui est déjà mobilisée comme outil de surveillance et de discrimination. Lorsque les données sont saisies et classées selon certains paramètres (construits par des personnes, avec leurs propres préjugés et hypothèses), puis utilisées dans des cadres institutionnels qui ont leur propre histoire troublante, elle travaille à obscurcir les logiques sous-jacentes, souvent discriminatoires, de la prise de décision. Dans les forces de police, par exemple, les systèmes de données font plus que refléter les attitudes sociales. Ils les « renforcent et les amplifient », causant généralement le plus de dommages aux populations marginalisées qui ne sont pas couvertes par la vision universalisée et historique des données sur ce que sont les gens (c’est-à-dire ce qui rend les gens lisibles par les machines) – un processus qu’Anna Lauren Hoffmann a appelé « la violence des données« .

La prochaine génération d’appareils de RV, avec des capteurs plus orientés vers l’intérieur – suivi de l’œil et du rythme cardiaque, interfaces cerveau-ordinateur – permettra aux entreprises d’étendre leur revendication

Développant l’argument d’Hoffmann, Os Keyes soutient que la science des données est intrinsèquement « la réduction inhumaine de l’humanité à ce qui peut être compté » et, telle qu’elle est actuellement constituée, « ne répond à la critique qu’en élargissant le degré de surveillance qu’elle exerce sur nous ». En d’autres termes, la science des données considère que la solution aux problèmes de collecte de données doit être une collecte de données plus importante et de meilleure qualité, aspirant en fin de compte à ce que le théoricien Mark Andrejevic appelle « l‘absence de cadre » : une image complète du monde « sous une forme lisible par les machines », posant une « perspective post-subjective de la vue de partout ».

Une telle image n’est pas seulement lointaine, elle est impossible. Les données sont toujours partielles et portent toujours les objectifs et les préjugés des personnes chargées de faciliter leur saisie. Mais cela n’a pas empêché les entreprises technologiques d’essayer. Le compte-rendu du rédacteur en chef fondateur Kevin Kelly sur le « monde miroir » comme prochaine grande plateforme technologique illustre bien cette ambition, que l’on peut également voir dans le projet Aria récemment annoncé par Facebook. Ce projet, dans lequel les employés portent des lunettes de collecte de données, vise à « créer le logiciel – y compris une carte en direct des espaces en 3D – et le matériel nécessaires aux futurs appareils de réalité augmentée », avec l’aspiration explicite de créer une copie 1:1 du monde.

Les superpositions de données de type réalité augmentée offriront aux utilisateurs une aubaine familière de commodité (comme leur dire qu’ils ont oublié leurs clés) ou de perspicacité (informations sur les plantes qu’ils voient dans le parc) pour une vaste quantité de données sur eux et leur environnement. Mais les simulations immersives de la RV poursuivent des objectifs similaires, bien qu’elles semblent transporter les utilisateurs dans des espaces irréels. Le système de vision par ordinateur Oculus Insight de Facebook cartographie constamment l’environnement autour des appareils. Dans le cadre des recherches de Reality Labs, Facebook a utilisé des techniques de vision par ordinateur similaires pour construire des cartes en 3D d’environnements réels (comme la maison d’une personne). Au total, cela signifie que la RV de Facebook peut capturer des données sur les dimensions, la disposition et le contenu de votre salon réel, tout en suivant vos réactions physiologiques à l’espace simulé. La RV peut être invitée dans la maison comme une technologie de divertissement, mais elle pourrait être mieux comprise comme un autre appareil « intelligent » de surveillance.

Comme pour les promesses de la RV de fournir des données en temps voulu quand on en a besoin, les entreprises de RV promettent d’utiliser leurs données pour créer des systèmes d’apprentissage personnalisés qui peuvent suivre et s’adapter à l’engagement d’un utilisateur dans un contenu éducatif, ou des simulations de remise en forme personnalisées qui s’adapteront à notre corps et nous pousseront juste assez pour nous faire continuer. Mais on peut aussi imaginer que ces formes de surveillance de nouvelle génération alimentent de nouvelles formes de publicité ciblée. Comme l’indique le contrat de licence d’utilisation mis à jour de Facebook, le corps et l’environnement de l’utilisateur peuvent être suivis et intégrés dans un système pour alimenter le bras publicitaire de Facebook.

La RV peut être invitée dans les foyers comme une technologie de divertissement, mais elle pourrait être mieux comprise comme un autre appareil « intelligent » de surveillance

L’incorporation des données de RV dans des formes de prise de décision automatisée, dont les corrélations souvent inaccessibles ou inexplicables pourraient devenir encore plus complexes, est peut-être plus préoccupante. Les partisans de la RV affirment que les données de RV pourraient être utilisées pour éviter certains des problèmes de biais algorithmiques en offrant de riches données sur ce que les gens pensent et font qui ne peuvent être récupérées par aucun autre moyen – un chemin direct et sans intermédiaire du cerveau à l’algorithme. Mais le fantasme de données parfaites – que des capteurs plus intensifs peuvent capturer pour une analyse objective, comme un miroir de l’expérience – est basé sur des hypothèses normatives et d’exclusion. Sa formation probable sur des ensembles de données d’ingénieurs masculins neurotypiques valides est une forme de ce que Shea Swauger (empruntant à Lennard J. Davis, spécialiste du handicap) appelle un regard eugénique, codifiant la xénophobie, l’aptitude et la suprématie blanche derrière la boîte noire du biais algorithmique « tout en évitant les critiques fondées sur l’équité en raison de notre croyance en la neutralité des données et de la technologie ». Par exemple, STRIVR utilise ce qu’il décrit comme « l’analyse verbale » pour fournir une évaluation « objective » de la « fluidité verbale », qui se traduit ostensiblement par une idée de la capacité d’un stagiaire à traiter avec les clients. Verizon utilise un tel système pour former les employés de son centre d’appels. Mais le logiciel de reconnaissance vocale fonctionne mieux pour les Américains blancs, très instruits et de la classe moyenne supérieure ; son déploiement dans des scénarios de RV ne fait qu’étendre l’application du biais.

Nos préoccupations ne portent pas seulement sur les données elles-mêmes, mais aussi sur les motifs de leur collecte. Grâce à son partenariat avec Walmart, STRIVR, selon le PDG Derek Belch, dispose « probablement de cent à mille fois plus de données que n’importe qui d’autre. Et nos modèles seront donc d’autant plus avancés lorsqu’ils commenceront à être plus précis et plus raffinés ». Cela montre clairement comment le capitalisme de plate-forme et ses prérogatives d’extraction de données à des fins lucratives façonnent l’avenir de la RV.

La RV n’est pas l’expérience incontestablement émancipatrice que de nombreux évangélistes décrivent comme telle. Son avenir est façonné moins par les possibilités esthétiques ou éducatives du médium lui-même que par l’intérêt spéculatif pour la valeur économique des données qu’il produira. Comme l’écrit Jathan Sadowski, « le capitaliste ne se préoccupe pas de l’utilisation immédiate d’un point de données ou d’une collecte unique, mais plutôt du flux incessant de création de données ». Des utilisations peuvent être inventées pour tout cela à l’avenir. Plus de données, cependant, ne signifie pas de meilleures données. Cela signifie davantage d’extraction et d’intrusion dans la vie privée, des efforts plus poussés pour imposer des analyses prédictives et des résultats plus biaisés pour les personnes piégées dans les systèmes automatisés basés sur les données. La réalité virtuelle, qu’elle soit fictive ou qu’elle soit le fait de promoteurs de l’industrie, est généralement présentée comme une évasion imaginative des limites de la réalité. Mais en pratique, il s’agit d’une réitération de la surveillance : de l’extraction et du profit des données et de la réinscription des inégalités et des préjugés réifiés en son sein. C’est une réalité à laquelle il n’est pas possible d’échapper pour l’instant.

Marcus Carter est maître de conférences à l’Université de Sydney, où il fait des recherches sur les jeux, le jeu et la réalité mixte.

Via RealifeMagazine

 

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.