Que signifiera la première pandémie de l’ère algorithmique pour la gouvernance des données ?

Les crises mondiales constituent pour les institutions sociales des tests de résistance à des enjeux élevés, révélant – pour le meilleur ou pour le pire – les failles des systèmes existants.

Les crises peuvent catalyser une refonte fondamentale des normes, comme les excès de l’expérimentation médicale humaine pendant la Seconde Guerre mondiale qui ont précipité les principes de la bioéthique ; ou la naissance d’infrastructures, de systèmes et de technologies durables, comme les systèmes d’égouts modernes qui ont émergé de l’épidémie de choléra du milieu du XIXe siècle. Les crises constituent des points critiques dans des systèmes complexes, des tournants où le changement peut se produire rapidement et de manière inattendue.

La pandémie de COVID-19 est une crise d’une ampleur et d’une importance que nous n’avons pas vues depuis près d’un siècle. Les changements qu’elle entraînera dans les systèmes existants seront tout aussi sismiques. Le système financier mondial, les systèmes de santé nationaux, les voyages et l’immigration seront tous fondamentalement modifiés par cette pandémie. Mais il en sera de même pour un autre système complexe, qui fait également partie intégrante de tous les aspects de notre vie quotidienne : l’écosystème de la gouvernance des données.

Le coronavirus est la première pandémie de « l’ère algorithmique », ce qui signifie que des analyses de données, des systèmes algorithmiques et des systèmes d’apprentissage automatique avancés sont déployés pour sa détection, son traitement et sa prévention. La propagation du virus est considérablement modifiée par la compréhension de la manière dont les données et l’IA peuvent être utilisées dans la santé publique et l’élaboration des politiques : de l’alerte des autorités sur l’existence d’un virus contagieux à Wuhan au séquençage du code génétique du virus, les données et l’IA servent de base au développement d’outils de diagnostic, de projets de vaccins et de modélisation épidémiologique. La recherche des contacts et des symptômes dans les foules peut également permettre de façonner et de cibler les réponses des gouvernements.

Mais sous le vernis des solutions de haute technologie, la réponse du coronavirus met à nu les failles de l’écosystème de la gouvernance des données. Elle fait apparaître les réalités de deux décennies de ce que Shoshanna Zuboff appelle le « capitalisme de surveillance », qui a laissé les entreprises du secteur privé en possession à la fois de la majeure partie des données mondiales et des moyens d’en tirer profit. Sur les marchés ouverts, les grandes technologies ont montré la voie en matière de marchandisation, de stockage et d’accumulation des données, en construisant de vastes infrastructures numériques qui permettent de suivre, de contrôler et d’accumuler des données personnelles à grande échelle. Profitant d’un sous-investissement à long terme dans les systèmes de santé publique, les entreprises technologiques ont pu tirer parti de l’économie des données pour acquérir une position dominante sur le marché des soins de santé : Google, Facebook, Apple et Amazon se sont tous lancés dans le secteur de la santé ces dernières années.

Ces quatre entreprises ont été convoquées à Downing Street à la mi-mars dans le cadre d’une action d’urgence du gouvernement britannique visant à réquisitionner les ressources des grandes entreprises technologiques pour lutter contre le coronavirus. Le gouvernement aurait imploré les entreprises technologiques de lui céder l’accès aux plateformes de données générées et conservées : pour modéliser la propagation de la maladie sur différentes données démographiques, suivre sa progression, obtenir des informations sur la manière d’allouer les ressources au sein du NHS et cibler des citoyens et des groupes vulnérables spécifiques. D’éminents scientifiques britanniques ont publiquement appelé les entreprises technologiques à « investir dans la société » en donnant aux chercheurs l’accès à des données numériques provenant de « milliards de téléphones portables et d’empreintes de pas provenant de recherches sur Internet et de médias sociaux ».

Le fait que le gouvernement britannique doive supplier l’industrie américaine de lui donner accès aux données sur ses propres citoyens illustre à quel point l’écosystème des données est faussé. Pour ajouter l’insulte à l’injure, la pandémie de coronavirus pourrait en fait renforcer les mains des entreprises qui profitent de la marchandisation du comportement personnel. Comme la plupart des activités humaines et des industries se déplacent en ligne pendant la période de crise, ce sont les entreprises technologiques qui bénéficieront de l’augmentation exponentielle des données numériques. Alphabet a déjà assuré son rôle central dans l’effort de réponse des États-Unis en déployant un site web de dépistage des coronavirus, Verily. Microsoft et Palantir auraient conclu un accord pour fournir au NHS une solution avancée d’analyse des données permettant d’avoir une vue d’ensemble de la capacité du système de santé au fur et à mesure de l’effort de réponse.

Le fait que les données personnelles soient si facilement transmises au secteur privé à un moment où les gouvernements s’efforcent de mettre en place des systèmes de surveillance de la santé publique révèle le compromis délicat qui se trouve au cœur de l’écosystème des données. Les données nous concernant sont incroyablement précieuses, en temps de crise comme en dehors de celle-ci. Mais l’accès aux données n’est pas distribué de manière équitable et l’on n’en profite pas de manière équitable. Nous n’avons qu’un horizon temporel limité pour comprendre ce que signifie un accès monopolisé aux données dans un marché concurrentiel, et peu de modèles positifs sur la façon dont les avantages des données peuvent être gérés pour le bien public, comme nous avons appris à gérer les ressources environnementales.

Cette crise soulève des questions qui perdureront bien au-delà du premier pic de la pandémie : Qui va payer et profiter des innovations fondées sur les données, telles que les vaccins et les outils de diagnostic ? Les investissements publics produiront-ils des biens publics ? Comment pouvons-nous construire des infrastructures de données qui reconnaissent le rôle des données comme un bien public ? Pouvons-nous prévoir un système de gouvernance des données meilleur et plus équitable qui rééquilibre le pouvoir dans l’écosystème ?

Pour que ce moment critique soit significatif, pour que nous tirions parti de ce moment de crise pour apporter un changement fondamental à l’écosystème de la gouvernance des données, la réponse à ces questions ne peut pas être « plus de la même chose ». Il sera tentant pour les États de voir l’immense pouvoir que les grandes technologies ont accumulé grâce à la surveillance omniprésente des personnes en ligne et de conclure que la solution doit être la platformisation de l’État. C’est une chose de puiser dans les ressources du capitalisme de surveillance pour faire face à une crise urgente, et il se peut que l’accès limité et bien géré de l’État aux données du secteur privé dans le strict but de lutter contre les virus soit justifiable. Mais si nous permettons à la pandémie de coronavirus de justifier l’expansion de l’infrastructure de surveillance de l’État, nous ne ferons que colmater les fissures de l’écosystème des données, au lieu de profiter de l’occasion pour les réparer.

Au début de l’année, l’Institut Ada Lovelace a publié Rethinking Data, leur vision d’un écosystème de gouvernance des données qui traite les données comme un bien commun devant être géré dans l’intérêt du public. L’émergence de la crise COVID-19 ne fait que renforcer notre détermination à explorer comment nous pouvons reconcevoir le système de gouvernance des données afin qu’il s’attaque aux déséquilibres de pouvoir, plutôt que de les enraciner.

Les moments critiques offrent une occasion de repenser fondamentalement les systèmes qui régissent notre monde. Ils peuvent être des moments de transformation des attitudes et des normes et contribuer à donner un nouvel élan à la création de nouvelles infrastructures. L’écosystème de la gouvernance des données est mûr pour le changement, et nous devons saisir cette opportunité pour le changer.

Carly Kind  via l‘Institut Ada Lovelace

 

Publicités

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.