La réponse numérique à l’épidémie de COVID-19

Il est indéniable que nous devons utiliser la technologie dans le cadre de la réponse aux catastrophes, mais l’immaturité réglementaire du secteur fait des entreprises technologiques des alliées risquées, même dans les meilleures circonstances, explique Sean McDonald sur Cigionline.

Dans chaque réponse à une catastrophe majeure, il y a une mobilisation d’acteurs pleins d’espoir et bien intentionnés qui essaient de mettre à profit leurs compétences professionnelles dans le cadre de l’effort – et parmi eux, il n’y a sans doute aucune industrie dont le travail est plus potentiellement envahissant ou dangereux lors d’une catastrophe que la technologie :

Il est indéniable que nous devons utiliser la technologie dans le cadre de la réponse aux catastrophes, mais l’immaturité réglementaire de l’industrie a fait des entreprises technologiques des alliées risquées, même dans les meilleures circonstances. Et ce ne sont pas les meilleures circonstances : plus de 200 gouvernements sont confrontés à des cas actifs de COVID-19 et utilisent tous les pouvoirs, ressources et arguments à leur disposition pour faire avancer leurs intérêts – dont certains seulement sont directement liés à COVID-19.

Alors qu’une gamme extraordinaire de propositions et d’idées basées sur la technologie COVID-19 émerge, dans le cadre de la réponse au COVID-19, il existe un groupe spécifique de projets axés sur le contrôle biomédical et social qui demandent de grandes quantités de données de localisation réglementées sur le plan historique et commercial. Ils s’efforcent de répondre à cinq grandes catégories de problèmes :

  • la recherche des contacts ;
  • les tests et la capacité de réponse ;
  • l’alerte précoce et la surveillance ;
  • la quarantaine et le contrôle social ; et
  • la recherche et la guérison.

Ces catégories, et l’analyse qui en découle, sont nécessairement peintes à grands traits. Je choisis de me concentrer sur ces catégories de problèmes – en excluant explicitement les catégories importantes mais secondaires ou tertiaires, telles que les interventions en matière d’infrastructures économiques et sociales et leurs effets, qui méritent une analyse spécifique.
Plus de 200 gouvernements sont confrontés à des cas COVID-19 actifs et utilisent tous les pouvoirs, ressources et arguments à leur disposition pour faire avancer leurs intérêts – dont certains seulement sont directement liés à COVID-19.

Ce qui distingue généralement les bonnes des mauvaises pratiques, c’est l’adhésion à des tests rigoureux et contextuels et le fait de travailler dans le cadre de l’expertise, des institutions et des approches existantes pour augmenter ce que nous savons fonctionner, plutôt que de contourner ou de remettre en cause l’intégrité de ces experts ou de ces connaissances. Nous oublions souvent, en période de grands bouleversements, combien de nos garanties de qualité et de protection des droits fondamentaux sont intégrées dans l’examen public des institutions. L’une des conséquences malheureuses de l’urgence est que nous suspendons temporairement nombre de ces systèmes, ce qui rend extrêmement difficile de déterminer si la technologie ou les systèmes de données proposés résolvent réellement un problème important avant que nous ne les déployions dans des contextes vulnérables. Néanmoins, la plupart des interventions technologiques ne seront pas suffisamment efficaces pour résoudre un problème, et encore moins pour en devenir un elles-mêmes – mais pour celles qui le font, leurs utilisations sont relativement prévisibles. Elles sont largement utilisées pour accroître la sensibilisation, la capacité ou la guérison. Vu sous un angle légèrement différent, ils sont au service soit de la réponse biomédicale, soit des contrôles sociaux et politiques utilisés pour limiter la transmission.

L’objectif n’est pas d’éviter d’utiliser la technologie, mais de s’appuyer sur les moyens dont nous savons qu’ils fonctionnent. Et généralement, les technologies fonctionnent dans des circonstances limitées et reposent sur des conceptions spécifiques et bien institutionnalisées de la réponse à apporter pour augmenter de façon marginale les capacités. Nous savons également que ces moyens ne nécessitent généralement pas l’octroi de subventions à long terme, non contrôlées et à durée indéterminée. Voici un peu plus d’informations sur les cinq catégories de la manière dont les technologies sont généralement déployées dans les efforts de réponse, ainsi que sur certaines des questions que ces utilisations soulèvent.
Recherche des contacts

La recherche des contacts est le processus qui permet de suivre la propagation d’une épidémie – et la nécessité de suivre l’agent pathogène est de loin la raison la plus souvent invoquée pour augmenter la quantité de données partagées lors d’une urgence de santé publique. Traditionnellement et institutionnellement, la recherche des contacts fonctionne de la manière suivante : lorsqu’un patient est testé positif au COVID-19, il partage autant d’informations que possible sur ses déplacements récents et ses contacts pendant la période infectieuse. Ici, ce que nous savons sur la façon dont une maladie se déplace – sa transmission – est essentiel. Si une maladie peut voyager par avion, le fait d’être dans le même espace peut avoir son importance, mais si elle nécessite un échange de fluides, comme c’est le cas pour le virus Ebola, le fait d’être dans le même espace n’est pas un indicateur aussi fort. Les professionnels de la santé publique ne savent pas toujours exactement comment une maladie se déplace, comme c’est le cas avec COVID-19 – mais ils localisent et testent autant de contacts que possible et, pour ceux qui sont testés positifs, répètent le processus. Les deux éléments les plus importants de l’approche traditionnelle de la recherche des contacts sont qu’elle est basée sur des connaissances spécifiques – un test positif – et non sur des modèles probabilistes, et qu’elle est directement liée à la réponse institutionnelle, de sorte qu’elle n’alerte pas les gens à un risque sans voie de traitement claire. La valeur première de la recherche des contacts est qu’elle accélère considérablement la prise de conscience, le dépistage et le traitement des individus et des systèmes.

La réponse COVID-19 adopte cette approche traditionnelle, mais avec l’aide de la technologie – déjà les États-Unis, Israël, la Belgique, le Pakistan et l’Autriche ont tous proposé d’utiliser les enregistrements des détails des appels dans leurs stratégies de recherche des contacts. De même, la Chine et la Corée du Sud reçoivent une couverture positive pour leur utilisation des technologies mobiles – respectivement dans l’application des mesures de quarantaine et dans le suivi des symptômes autodéclarés. Comme on pouvait s’y attendre, il y a également un nombre croissant d’acteurs de la société civile et du secteur privé, souvent animés des meilleures intentions, qui construisent ou lancent des applications d’autosurveillance et de notification communautaire, afin de donner aux communautés les moyens de prendre en main leur propre réponse.

La recherche des contacts – aussi importante soit-elle – a un impact énorme sur la vie des gens, tout comme la présomption de maladie. Les approches institutionnelles de la recherche des contacts reposent sur des tests médicalement approuvés, non seulement parce que les institutions de santé publique sont réactives de par leur conception, mais aussi parce que les effets ne sont acceptables que s’ils sont fondés sur des faits. Toutes les approches décrites ci-dessus s’accompagnent de risques graves pour la société. L’utilisation des données du réseau de téléphonie mobile, par exemple, crée des possibilités de ciblage très granulaires et en temps réel, ce qui est dangereux pour un certain nombre de raisons – à titre d’exemple, en Israël, le gouvernement a déclaré qu’il utiliserait les données de localisation pour imposer une quarantaine, comme une « exigence » que le gouvernement appliquera « sans compromis ». De même, les communautés n’ont généralement pas la conscience ou les outils nécessaires pour gérer correctement une réponse et peuvent souvent céder à la peur et à la discrimination. Le problème est qu’une large sensibilisation du public ne permet pas, en fin de compte, de régler le principal déterminant de la mortalité due à la COVID-19, à savoir la capacité du système de santé. Et, bien sûr, à un niveau plus élevé, la normalisation des contrôles gouvernementaux, effectués par voie numérique, sur nos droits individuels et collectifs, crée un mécanisme de redéploiement dans des contextes futurs, qui peuvent ou non être à cette échelle d’urgence.

(…)

Malheureusement, les efforts visant à faire participer le public au suivi et à la compréhension de la surveillance des maladies peuvent avoir toute une série de conséquences imprévues. Par exemple, sur la base de l’application mobile du gouvernement sud-coréen, un certain nombre d’efforts technologiques sont commercialisés auprès des consommateurs comme des moyens de suivre et de signaler les symptômes, présentés comme contribuant à l’intérêt du public en mettant en évidence et en surveillant les risques. De même, le gouvernement de Singapour tient une base de données ouverte de cas identifiables personnellement (mais pas par leur nom), avec des historiques de localisation et des informations actuelles. Dans le meilleur des cas, l’utilisation de la base d’utilisateurs d’une technologie donnée comme échantillon représentatif du risque pour la santé publique présente des problèmes de partialité importants. Associée aux types de panique, de rareté et de désespoir qui accompagnent souvent les situations d’urgence, une telle utilisation peut avoir des conséquences dangereuses et involontaires.

COVID-19 se présente chez certains patients avec des symptômes tels que la fièvre et la toux qui sont communs à de nombreuses maladies moins graves, tandis que d’autres qui sont infectés par le virus sont largement asymptomatiques, ce qui signifie que le suivi des symptômes n’est pas un bon indicateur de l’infection totale. Il existe également des logiciels de rançon, des logiciels espions et des logiciels malveillants qui se font passer pour des applications de suivi de coronavirus.

Le suivi des symptômes individuels n’a rien de mauvais en soi, mais ces efforts tiennent rarement compte des lacunes en matière d’expertise et signalent souvent un risque défini de manière ambiguë à la base d’utilisateurs de l’application, aux autorités publiques ou au public. En outre, l’utilisation d’approches quasi scientifiques pour tester puis communiquer le risque ambiant – en particulier lorsque les systèmes de santé approchent de leurs capacités de confinement et de traitement des virus – non seulement rend plus difficile la modélisation efficace de l’agent pathogène, mais crée également un risque important d’accabler inutilement les intervenants. Nous avons déjà vu les prémices de ce genre de panique, avec un certain nombre de pays qui ont mis en place des mesures de santé publique largement inefficaces, telles que des interdictions de voyager.

L’utilisation d’une norme scientifique réduite pour évaluer le risque comme une probabilité crée plus d’incertitude qu’elle n’en résout et contribue à la désinformation, à la désinformation et à l’exploitation importantes qui se produisent lors des catastrophes. Et nous constatons déjà que la force l’emporte sur la nuance dans la manière dont les mesures de réaction sont mises en œuvre. Les failles de ces systèmes d’information font qu’il est trop souvent facile de brouiller la frontière entre la surveillance des maladies et la surveillance des populations – et de négliger les implications très réelles et très inquiétantes de l’utilisation de la technologie pour cette dernière.
Quarantaine et contrôle social

La quarantaine et le contrôle social sont des éléments importants de l’aspect humain de la réponse à une pandémie – ils sont, essentiellement, la façon dont les institutions de santé publique tentent de contenir, de limiter et d’arrêter la propagation d’un agent pathogène en contrôlant les mouvements des personnes. Plus inquiétant encore, nous voyons également les forces de l’ordre et les militaires appliquer avec violence les mesures de confinement, ce qui a déjà entraîné la mort d’un homme qui cherchait de la nourriture en Inde. Ils constituent également un élément extrêmement sensible de la relation entre une population et ses gouvernements, à tel point que la plupart des gouvernements exigent des autorisations exceptionnelles pour imposer ce type de contrôle social. La plupart de ces protections sont antérieures à l’avènement de la technologie moderne et constituaient la norme de soins à une époque où l’on n’imaginait même pas l’ampleur ou la granularité du contrôle social numérique possible aujourd’hui.

L’hypothèse courante dans les conversations sur la technologie est que la résistance doit émaner de la communauté de la protection de la vie privée, et ces conversations passent donc souvent à côté de problèmes bien plus courants, tels que des tests de qualité médiocres, une mauvaise sélection des problèmes et des changements importants dans l’équilibre des pouvoirs entre les individus et le gouvernement. La manière dont nous permettons, administrons et contrôlons les pouvoirs exceptionnels de surveillance et de contrôle social que chaque gouvernement exerce pour contenir COVID-19, en particulier par le biais de systèmes technologiques, constituera une part importante de l’avenir du pouvoir de l’État dans un monde où les situations d’urgence se multiplient.

Le premier exemple, et le plus stupéfiant, de quarantaine à base de technologie pour COVID-19 est venu de Chine. La quarantaine initiale de plus de 50 millions de personnes à Wuhan était, à l’époque, sans précédent. Aujourd’hui, quelques semaines plus tard, elle sert de modèle et est déployée à l’échelle mondiale. L’une des caractéristiques de la couverture internationale de la réponse du gouvernement chinois a été l’accent mis sur l’utilisation de la technologie – au début, comme moyen de contrôler le discours public et plus tard, par le biais des systèmes de suivi social largement intégrés du pays et d’une application qui dictait la mise en quarantaine.

(…)

Alors que la réponse à COVID-19 s’intensifie dans le monde entier, un nombre croissant de pays mettent en place des contrôles sociaux qui impliquent une série de mécanismes d’application – des recommandations publiques jusqu’à l’application militaire. L’impact le plus important, et souvent ignoré, des interventions de surveillance axées sur la technologie est peut-être de désactiver efficacement tout contrôle sur le gouvernement qui les utilise – ils peuvent utiliser ces outils en toute impunité, ce qui est voulu. La théorie des pouvoirs d’urgence est de laisser les gouvernements agir sans entraves, mais la présomption – et les contrôles de procédure généralement placés sur les pouvoirs d’urgence – est qu’ils le feront avec une approche claire et équilibrée pour comprendre l’intérêt du public. Si les risques et les dommages associés à la surveillance numérique sont souvent présentés comme étant liés à la vie privée, il existe des problèmes beaucoup plus importants qui s’appliquent pendant une pandémie, comme l’escalade des pouvoirs gouvernementaux. Ces pouvoirs ont déjà entraîné la fermeture de milliers d’entreprises, la fermeture de frontières dans le monde entier et le retrait de 500 millions d’élèves de l’école.

Nous ne disposons pas actuellement des cadres nécessaires pour comprendre le rôle individuel des interventions numériques et, à juste titre, COVID-19 implique des réactions de l’ensemble de la communauté, qui se produisent en ligne et hors ligne, avec et sans applications. Il convient également de répéter que tous les sites de confinement qui ont réussi jusqu’à présent (Chine, Corée du Sud, Singapour, Taïwan) ont investi massivement dans des tests publics proactifs, des infrastructures de réponse et des messages publics coordonnés et faisant autorité – tous cités par les experts comme des éléments essentiels d’une réponse efficace.

Il existe plusieurs grandes catégories de systèmes de contrôle social numérique, qui se répartissent en grande partie selon le modèle de déploiement :

  • la saisie/partage par les pouvoirs publics de données ou d’infrastructures de données collectées par des technologies privées et commerciales pour suivre les citoyens, comme les réseaux mobiles partageant des données de localisation avec les gouvernements d’Israël, de Chine, d’Italie, d’Allemagne, d’Autriche et, potentiellement, des États-Unis, ou pour déployer une intelligence artificielle afin de prédire les risques ;
  • le déploiement public de technologies et d’outils de profilage des données de plus en plus invasifs, développés par le secteur privé, comme l’utilisation de la reconnaissance faciale pour établir le profil des personnes au moyen de masques, ou l’utilisation d’outils de prestataires de services de renseignement étrangers pour la surveillance de la santé publique ou pour décider qui a accès à un test COVID-19 ;
  • les technologies déployées à titre privé ou « ouvertes » qui permettent aux communautés de générer et de communiquer des données de manière autonome, comme la base de données de recherche des contacts du gouvernement de Singapour
  • la reconversion des systèmes de réponse aux catastrophes pour en faire un point d’intervention numérique pour les systèmes étatiques, comme l’utilisation des efforts de vaccination pour faire avancer les intérêts des programmes d’identité numérique.

Bien que cette liste ne soit pas entièrement complète, elle est suffisamment large pour couvrir les principales structures d’utilisation des technologies pour la quarantaine et le contrôle social – qui sont toutes relativement peu contrôlées en cas d’urgence.

COVID-19 est devenu une urgence mondiale moderne sans précédent, avec un nombre toujours croissant de pays prenant des mesures extraordinaires pour répondre au virus – y compris le suivi de la localisation en temps réel, l’utilisation de modèles algorithmiques pour évaluer les risques encourus par les résidents et l’application de la quarantaine, parfois avec l’appui des autorités militaires. Ces dernières années, les entreprises et les plateformes technologiques ont été des partenaires enthousiastes pour orienter leurs machines vers l’expérimentation lors de crises humanitaires, et maintenant la surveillance COVID-19 est en train de devenir rapidement une industrie. Et alors que la surveillance des maladies se fait, en général, dans les limites des institutions d’éthique médicale, la technologie permettant la surveillance personnelle utilisée au nom de la quarantaine et du contrôle social n’est pas limitée par des mécanismes établis pour tester sa qualité ou son applicabilité contextuelle. Et sans aucun regard sur ses outils de la boîte noire, nous n’avons aucun moyen de comprendre les droits sous-jacents à l’équité ou à l’application régulière de la loi qu’ils peuvent empiéter, ni d’évaluer la légitimité du gouvernement utilisant ces pouvoirs. Utiliser le contrôle de l’État comme un substitut de la légitimité est un comportement dangereux de la part de tout gouvernement, en période de catastrophe ou autre.

Bien sûr, en se concentrant sur les pouvoirs de surveillance, on oublie que ces systèmes sont largement déployés pour contrôler les gens. Les systèmes de quarantaine et de contrôle social en cas de pandémie sont un exemple rare de réponses institutionnelles qui démontrent le cycle de vie complet du pouvoir gouvernemental – de la détection et de la surveillance jusqu’à l’application de la loi – sans pratiquement aucune procédure régulière. En fin de compte, les préjudices résultant de l’expansion des pouvoirs des gouvernements et des entreprises avec moins de contrôles et d’équilibres ne correspondent à aucune catégorie de « droits ». Comme dans le cas de la corruption ou de tout autre abus de pouvoir, le fait de se concentrer sur l’abus de droits procéduraux peut détourner l’attention des préjudices plus importants des objectifs visés.

Bien que la plupart des reportages se concentrent sur le droit à la vie privée, par exemple, le problème le plus fondamental est que, dans de nombreux cas, la technologie ne résout tout simplement pas un problème important. Par exemple, s’il est logique que les institutions de santé publique surveillent la maladie – et potentiellement même les personnes -, les efforts de surveillance non médicale ne peuvent pas faire grand-chose avec les informations indiquant qu’une personne est atteinte d’une maladie. Se concentrer sur l’augmentation de la surveillance d’une maladie biomédicale est une proposition très différente de celle qui consiste à aider à mettre en relation les membres de la communauté ayant des besoins avec d’autres membres de la communauté qui peuvent apporter leur aide. En d’autres termes, il n’est pas nécessaire de connaître l’état de santé d’une personne si elle peut communiquer efficacement et en toute sécurité ce que vous pouvez réellement faire pour elle. De même, il n’est pas nécessaire de « surveiller » une communauté au moyen de technologies indirectes si elle est capable et désireuse de vous faire confiance.

D’autre part, et c’est plus inévitable, les pouvoirs publics, une fois créés, disparaissent rarement. Le plus souvent, ils sont étendus et reconvertis à des fins politiques. Aux États-Unis, la loi PATRIOT – qui marque un accroissement historique des pouvoirs de surveillance du public au lendemain des attentats terroristes du 11 septembre 2001 – devrait être renouvelée avec le soutien des deux partis plus de 19 ans après son entrée en vigueur. Pire encore, une fois que ces pouvoirs deviendront institutionnellement et politiquement commodes, la définition typique de l' »urgence » changera – le gouvernement des États-Unis, par exemple, a actuellement 23 urgences déclarées, chacune d’entre elles s’accompagnant d’un pouvoir extraordinaire accordé au pouvoir exécutif. Alors que chacun des gouvernements du monde entier envisage d’accroître ses pouvoirs d’urgence pour faire face à COVID-19, il est tout aussi essentiel qu’il prenne en compte les contrôles, les contextes institutionnels et les dispositions de temporisation nécessaires pour garantir que la réponse aux catastrophes ne devienne pas un cliquet à sens unique éloigné des libertés civiles.

(…)

Conclusion

En 2020, il est temps de dépasser les conversations binaires sur l’utilisation de la technologie pour l’intérêt public – « public » et « bien » sont des concepts intrinsèquement politiques, pas des garanties. Nous sommes suffisamment avancés pour reconnaître que l’utilisation efficace de la technologie a une valeur énorme, mais que cette valeur est réalisée en travaillant sur les systèmes, et non en les « perturbant » au moment où nous en avons le plus besoin. Bien que nos institutions existantes présentent de nombreux et importants défauts, elles ont presque toutes été inventées pour résoudre des problèmes encore plus importants, et le contournement des institutions publiques ignore beaucoup de protections durement gagnées grâce aux leçons apprises. Et il est essentiel de ne pas limiter la portée des conversations sur les dommages potentiels aux discussions sur la vie privée – l’utilisation de la technologie peut causer un énorme éventail de dommages lors d’un désastre, allant de l’utilisation d’outils inefficaces à la possibilité d’abus de pouvoir généralisés.

Il existe un besoin compréhensible de « faire quelque chose » dans toute catastrophe, et un éventail de communautés inspirantes relèvent admirablement le défi de fournir un soutien critique en cas d’urgence. Les communautés ne sont pas non plus des « bons » sans emploi – et les communautés qui s’efforcent d' »ouvrir » de larges pans de l’informatique de réponse oublient parfois que la gouvernance existe en grande partie parce que les communautés ne se réalisent pas intrinsèquement au mieux de leurs capacités. L’industrie technologique ne fait pas exception à la règle – elle est souvent bien intentionnée et possède des capacités incroyables – et il y a eu des utilisations véritablement transformatrices des données, un partage de la recherche et des déploiements technologiques intégrés tout au long de la réponse à COVID-19. En fait, la réponse à COVID-19 a, à la fois positivement et négativement, illustré l’importance de l’utilisation des technologies pour mobiliser et coordonner les efforts de réponse.

Cette analyse s’est concentrée sur les utilisations et les abus des interventions technologiques visant directement la réponse à la pandémie – et exclut intentionnellement les systèmes et technologies impliqués dans les effets de second ordre, tels que la communication publique, la stimulation économique ou l’application de la loi. Et, ce qui est peut-être prévisible, c’est que nous finissons par reconnaître que l’accès à la technologie peut être précieux – mais surtout lorsqu’il est situé dans le besoin et exercé par le biais de mécanismes institutionnels pour garantir la valeur contextuelle, la nécessité et la proportionnalité. En d’autres termes, lorsqu’il est régi.

Les histoires inspirantes qui émergent de la réponse à COVID-19 ne manquent pas – beaucoup d’entre elles impliquent l’utilisation de la technologie, mais très peu d’entre elles sont motivées par celle-ci. Les situations d’urgence, en particulier à l’échelle mondiale, suscitent la peur et, dans de nombreux cas, une générosité vraiment impressionnante. Quelle que soit votre interprétation de la réponse au COVID-19, une chose devrait être universelle : les urgences ne sont pas un chèque en blanc pour l’État ou la puissance des plateformes numériques. Et au milieu de cet investissement historique et mondial dans les connexions internationales entre nos systèmes de santé publique, il est absolument essentiel que nous utilisions la technologie pour amplifier la capacité institutionnelle et les pouvoirs de l’État – tout en investissant également dans la conception d’une surveillance et d’une gouvernance qui font appel à des normes mondiales établies pour l’exercice de pouvoirs exceptionnels.

En cas d’urgence, avec les meilleures intentions, les gens mobilisent le meilleur de leurs capacités de réaction, et ces capacités sont de plus en plus numériques. Si nous voulons réaliser la valeur de ces bonnes intentions, nous aurons besoin d’une gouvernance qui garantira que la direction qu’elles tracent nous servira à tous.

Via Cigionline

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.