Intéressante étude du gouvernement allemand sur l’établissement de principes éthiques pour les données et l’apprentissage machine

Notre société connaît de profonds changements qui ont amené par la digitalisation. Les technologies innovantes basées sur les données peuvent nous être bénéfiques tant au niveau individuel qu’au niveau de la société au sens large, ainsi que potentiellement stimuler la productivité économique, promouvoir la durabilité et catalyser d’énormes progrès en termes de progrès scientifique. Dans le même temps, cependant, la numérisation présente des risques pour nos droits et libertés fondamentaux. Elle soulève un large éventail de questions éthiques et juridiques autour de deux grands enjeux : le rôle que nous voulons que ces nouvelles technologies jouent et leur conception. Si nous voulons nous assurer que la transformation numérique sert le bien de la société dans son ensemble, la société elle-même et ses représentants politiques élus doivent engager un débat sur la façon d’utiliser et de façonner les technologies basées sur les données, y compris l’intelligence artificielle (IA).

Le 18 juillet 2018, le gouvernement fédéral allemand a créé la Commission d’éthique des données (Datenethikkkommission).
Il a reçu un mandat d’un an pour élaborer des repères et des lignes directrices en matière d’éthique ainsi que des recommandations d’action spécifiques visant à protéger l’individu, à préserver la cohésion sociale et à sauvegarder et promouvoir la prospérité à l’ère de l’information. Comme point de départ, le gouvernement fédéral a présenté à la Commission d’éthique sur les données un certain nombre de questions clés regroupées autour de trois thèmes principaux : la prise de décision algorithmique (ADM), l’IA et les données. De l’avis de la Commission d’éthique des données, cependant, l’intelligence artificielle n’est qu’une des nombreuses variantes possibles d’un système algorithmique et a beaucoup de points communs avec d’autres systèmes de ce type en termes de questions éthiques et juridiques qu’elle pose. Dans cette optique, la Commission d’éthique des données a structuré ses travaux sous deux rubriques différentes : données et systèmes algorithmiques (au sens large).

Dans la préparation de son avis, la Commission d’éthique des données s’est inspirée des principes directeurs suivants :

Garantir une conception de la technologie centrée sur l’être humain et axée sur les valeurs
● Favoriser les compétences numériques et la réflexion critique dans le monde numérique
Renforcer la protection de la liberté individuelle, de l’autodétermination et de l’intégrité
Favoriser une utilisation responsable des données, c’est-à-dire compatible avec le bien commun
● Introduction d’une réglementation adaptée au risque et d’une réglementation efficace de la surveillance des systèmes algorithmiques
● Sauvegarde et promotion de la démocratie et des droits sociaux cohésion
● Aligner les stratégies numériques sur les objectifs de développement durable
Renforcer la souveraineté numérique de l’Allemagne et l’Europe.

Principes éthiques et juridiques généraux

Les humains sont moralement responsables de leurs actes, et il n’y a pas moyen d’échapper à cette dimension morale. Les êtres humains sont responsables des objectifs qu’ils poursuivent, des moyens par lesquels ils les poursuivent et des raisons pour lesquelles ils le font. Cette dimension et la conditionnalité sociétale de l’action humaine doivent toujours être prises en compte dans la conception de notre avenir façonné par la technologie. En même temps, l’idée que la technologie doit servir les humains plutôt que de les asservir à la technologie peut être considérée comme un fait incontestable. Le système constitutionnel allemand est fondé sur cette conception de la nature humaine et s’inscrit dans la tradition de l’histoire culturelle et intellectuelle de l’Europe.
Les technologies numériques n’ont pas modifié notre cadre éthique – en termes de valeurs fondamentales, de droits et de libertés inscrits dans la Constitution allemande et dans la Charte des droits fondamentaux de l’Union européenne. Pourtant, les nouveaux défis auxquels nous sommes confrontés nous obligent à réaffirmer ces valeurs, ces droits et ces libertés et à faire de nouveaux équilibrages. Dans cette optique, la Commission d’éthique des données estime que les principes et préceptes éthiques et juridiques suivants devraient être considérés comme des critères d’action indispensables et socialement acceptés.

Dignité humaine

La dignité humaine est un principe qui présuppose la valeur inconditionnelle de tout être humain, interdisant des pratiques telles que la surveillance numérique totale de l’individu ou son humiliation par la tromperie, la manipulation ou l’exclusion.

L’autodétermination

L’autodétermination est une expression fondamentale de la liberté et englobe la notion d’autodétermination informationnelle. Le terme « autodétermination numérique » peut être utilisé pour exprimer l’idée qu’un être humain est un acteur autodéterminé dans une société de données.

Vie privée

Le droit à la vie privée vise à préserver la liberté de l’individu et l’intégrité de son identité personnelle. Les menaces potentielles à la protection de la vie privée comprennent la collecte et l’évaluation en bloc de données sur les sujets, même les plus intimes.

Sécurité

Le principe de sécurité ne concerne pas seulement la sécurité physique et émotionnelle des personnes, mais aussi la protection de l’environnement et, à ce titre, la préservation de biens d’une importance vitale. Garantir la sécurité, c’est le respect d’exigences strictes, par exemple en ce qui concerne l’interaction homme-machine ou à la résilience du système à l’interaction homme-machine, les attaques et les abus.

Démocratie

Les technologies numériques sont d’une importance systémique pour l’épanouissement de la démocratie. Elles permettent de façonner de nouvelles formes de participation politique, mais elles favorisent aussi l’émergence de menaces telles que la manipulation et la radicalisation.

Justice et solidarité

Compte tenu des énormes quantités de pouvoir accumulées à l’aide des données et des technologies et des nouvelles menaces d’exclusion et de discrimination, la sauvegarde de l’équité en matière d’accès à l’information et de la protection des droits de l’homme est un enjeu majeur. L’accès et la justice distributive est une tâche urgente.
La numérisation devrait favoriser la participation à la société et donc promouvoir la cohésion sociale.

Durabilité

Les développements numériques servent également le développement durable.
Les technologies numériques devraient contribuer à atteindre les objectifs suivants les objectifs de durabilité économique, écologique et sociale.

A propos des datas

Normes générales de gouvernance des données

 

De l’avis de la Commission d’éthique des données, une gouvernance responsable des données doit être guidée par les principes d’éthique des données suivants :

Responsabilité prévoyante :
Les effets cumulatifs futurs possibles, les effets de réseau et les effets d’échelle, les développements technologiques et l’évolution des constellations d’acteurs doivent être pris en compte pour évaluer l’impact potentiel de la collecte, du traitement et de la transmission des données sur les individus ou le grand public.
Respect des droits des parties concernées :
Les parties qui ont participé à la production des données – que ce soit en tant que personnes concernées ou dans un rôle différent – peuvent avoir des droits en rapport avec ces données, et ces droits doivent être respectés.
Utilisation et partage des données pour le bien public :
En tant que ressource non rivale, les données peuvent être reproduites et utilisées en parallèle par de nombreuses personnes différentes à des fins très diverses, ce qui favorise le bien commun.
Qualité des données adaptée aux besoins :
L’utilisation responsable des données consiste notamment à garantir un niveau élevé de qualité des données qui soit adapté à l’objectif poursuivi.
Niveau de sécurité de l’information adapté au risque :
Les données sont vulnérables aux attaques externes et il est difficile de les récupérer une fois qu’elles se sont égarées. Le niveau de sécurité de l’information appliqué doit donc être proportionnel au risque potentiel inhérent à la situation en question.
Transparence axée sur les intérêts :
Les responsables du traitement doivent être préparés et en mesure de rendre compte de leurs activités liées aux données. Pour ce faire, il faut la documentation et la transparence et, si nécessaire, un régime de responsabilité correspondant est en place.

Régulation des datas

Normes générales pour les systèmes algorithmiques

La Commission d’éthique des données distingue trois niveaux différents d’implication algorithmique dans la prise de décision humaine, en fonction de la répartition des tâches entre l’humain et la machine dans le cas spécifique en question :

a) les décisions fondées sur des algorithmes sont des décisions humaines fondées en tout ou en partie sur des informations obtenues à l’aide de calculs algorithmiques,
b) les décisions prises à l’aide d’algorithmes sont des décisions humaines façonnées par les résultats des systèmes algorithmiques de telle sorte que les capacités de prise de décisions factuelles et la capacité d’autodétermination de l’être humain sont limitées,
c) les décisions prises à l’aide d’algorithmes déclenchent automatiquement des conséquences ; aucune disposition n’est prise pour une décision humaine dans le cas individuel.

De l’avis de la Commission d’éthique des données, les principes suivants devraient être respectés pour assurer l’utilisation responsable des systèmes algorithmiques.

Design centré sur l’homme :
Les systèmes doivent être centrés sur l’être humain qui les utilise ou qui est affecté par leurs décisions ; ils doivent donner la priorité à ses droits et libertés fondamentaux, à ses besoins fondamentaux, à son bien-être physique et émotionnel et au développement des compétences.
Compatibilité avec les valeurs sociétales fondamentales :
Le processus de conception du système doit tenir compte de l’impact du système sur la société dans son ensemble, et en particulier de ses effets sur le processus démocratique, sur le caractère citoyen de l’action publique, sur la concurrence, sur l’avenir du travail et sur la souveraineté numérique en Allemagne et en Europe.
Durabilité :
Les considérations relatives à la disponibilité des compétences humaines, à la participation, à la protection de l’environnement, à la gestion durable des ressources et à l’activité économique durable sont des facteurs de plus en plus importants dans la conception et l’utilisation des systèmes algorithmiques.
Qualité et performance :
Les systèmes algorithmiques doivent fonctionner correctement et de manière fiable pour que les objectifs poursuivis avec leur aide puissent être atteints.
Robustesse et sécurité :
La conception d’un système robuste et sûr implique non seulement la sécurisation du système contre les menaces externes, mais aussi la protection de l’homme et de l’environnement contre tout impact négatif qui pourrait émaner du système.
Minimisation des préjugés et de la discrimination :
Les modèles de prise de décision sur lesquels les systèmes algorithmiques sont basés ne doivent pas être la source d’un biais systématique ou de l’erreur systémique. cause de décisions discriminatoires.
Des systèmes transparents, explicables et compréhensibles :
Il est d’une importance vitale de veiller non seulement à ce que les utilisateurs de systèmes algorithmiques comprennent comment ces systèmes fonctionnent et puissent les expliquer et les contrôler, mais aussi à ce que les parties concernées par une décision reçoivent suffisamment d’informations pour exercer correctement leurs droits et contester la décision si nécessaire.
Des structures de responsabilisation claires :
Les questions relatives à la répartition des responsabilités et à l’obligation de rendre compte, y compris la responsabilité éventuelle découlant de l’utilisation d’algorithmes doivent être résolus sans ambiguïté.

Régulation des algorithmes

Le chemin européen

La Commission d’éthique des données estime que l’État a une responsabilité particulière dans le développement et l’application de critères éthiques pour la sphère numérique qui reflètent ce système de valeurs. Pour tenir cette promesse faite aux citoyens, elle doit agir à partir d’une position de force politique et économique sur la scène mondiale ; une dépendance excessive à l’égard d’autrui fait d’une nation une nation un preneur de règles plutôt qu’un faiseur de règles, de sorte que les citoyens de cette nation sont soumis aux exigences imposées par des acteurs ailleurs dans le monde ou par des sociétés privées qui sont, pour la plupart, exemptes de légitimité démocratique et de contrôle.
S’engager à long terme dans la sauvegarde de la souveraineté numérique de l’Allemagne et de l’Europe n’est donc pas seulement une nécessité politique à long terme, c’est aussi l’expression de la responsabilité éthique.

Vous pouvez (DEVEZ !!!)lire l’intégralité de ce rapport qui a au moins le mérite d’exister et je trouve cela rassurant : les mots sont dits, il faut agir désormais !

Lien de l’étude

Become a Patron!

Publicités

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.