Une voiture qui se conduit toute seule s’écrase dans une rue fréquentée. Qui tue-t-elle ? Qui est-ce que ça sauve ? Selon une étude du MIT, votre réponse dépendra de votre lieu de résidence.

En 2016, les chercheurs du Media Lab du MIT ont lancé une expérience. Ils voulaient comprendre comment les gens voulaient que les voitures autonomes agissent, alors ils ont construit un site Web où n’importe qui pourrait faire l’expérience de 13 différents scénarios de conduite automobile : Une voiture autonome en panne devrait-elle épargner les jeunes au lieu des vieux ? Ou des femmes à la place des hommes ? Devrait-elle épargner aux gens en bonne forme physique ou aux personnes en surpoids ? Ne devrait-il pas prendre des décisions et s’engager sur la voie de l’inaction ?

Deux ans plus tard, les chercheurs ont analysé 39,61 millions de décisions prises par 2,3 millions de participants dans 233 pays. Dans une nouvelle étude publiée dans Nature, ils montrent que lorsqu’il s’agit de la façon dont les machines nous traitent, notre sens du bien et du mal s’inspire des normes économiques et culturelles de notre pays.

Ils ont découvert trois zones géographiques générales avec des idées éthiques distinctes sur la façon dont les véhicules autonomes devraient se comporter :

L’Ouest (qui comprend l’Amérique du Nord et les pays d’Europe chrétienne), l’Est (qui comprend les pays d’Extrême-Orient et les pays islamiques) et le Sud (qui comprend une grande partie de l’Amérique du Sud et les pays à influence française). Ces groupes ont aussi leurs propres sous-groupes, comme la Scandinavie dans l’Ouest et les pays d’Amérique latine dans le Sud. Comme le montre le graphique interactif de l’étude, les Brésiliens ont tendance à préférer les passagers aux piétons ; les Iraniens sont beaucoup plus enclins à épargner les piétons ; les Australiens sont plus enclins à épargner la forme physique que la moyenne.

Mais l’étude a également révélé qu’il y a trois domaines sur lesquels les gens du monde entier ont tendance à être d’accord : Beaucoup de gens veulent épargner les humains plutôt que les animaux, épargner plus de gens plutôt que moins et épargner les jeunes plutôt que les personnes âgées. Ces connaissances pourraient servir de base à l’élaboration d’un code international d’éthique de la machine qui, selon les chercheurs, sera une nécessité lorsque ces « dilemmes mettant la vie en danger » apparaîtront. Ces conversations ne devraient pas se limiter aux ingénieurs et aux décideurs, car elles toucheront tout le monde.

Dans cette optique, Moral Machine donne un aperçu fascinant de la façon dont des millions de personnes pensent pour la première fois à l’éthique des machines.

IL Y A UN FOSSÉ ENTRE LES CULTURES INDIVIDUALISTES ET COLLECTIVISTES

Bien qu’il existe des tendances générales sur lesquelles la plupart des cultures s’alignent, les chercheurs ont constaté une grande division entre les pays qui ont des cultures plus individualistes (surtout en Occident) et les pays qui sont plus collectivistes. Les pays occidentaux ont tendance à montrer une plus grande préférence pour épargner les enfants que les personnes âgées (la France est au 1er rang !), tandis que les pays de l’Est ont tendance à accorder plus de valeur à la vie des personnes âgées – le Cambodge, par exemple, est bien en dessous de la moyenne mondiale quand il s’agit de la préférence générale pour sauver les enfants plutôt que les personnes âgées. De même, les populations des pays occidentaux ont également montré une préférence plus marquée pour épargner plus de personnes, quelle que soit la composition du groupe.
Les chercheurs pensent que ce fossé pourrait être le plus grand défi à relever dans l’élaboration de lignes directrices mondiales sur la façon dont les voitures autonomes devraient se comporter. « Parce que la préférence pour épargner le plus grand nombre et la préférence pour épargner les jeunes sont sans doute les plus importantes à prendre en considération par les décideurs politiques, cette division entre les cultures individualiste et collectiviste peut s’avérer un obstacle important à l’éthique universelle de la machine « , écrivent-ils.

L’ÉTAT ÉCONOMIQUE D’UN PAYS PRÉDIT QUELLES VIES SONT LES PLUS « IMPORTANTES ».

[Capture d’écran : The Moral Machine Team]

Outre les différences culturelles, l’étude a révélé que l’économie joue également un rôle important. Par exemple, le niveau d’inégalité économique d’un pays est un prédicteur de la mesure dans laquelle les gens préfèrent épargner ceux qui ont un statut plus élevé plutôt qu’un statut moins élevé. Cela signifie que les personnes originaires de pays où l’inégalité est élevée – d’après le coefficient de Gini du pays, la mesure de l’inégalité de la Banque mondiale – seraient plus susceptibles d’épargner un chef d’entreprise qu’une personne sans domicile.
Vous pouvez le voir dans la machine morale interactive en comparant la Suède et l’Angola. Plus le coefficient de Gini est faible, plus le pays est proche de l’égalité. La Suède, plus égalitaire (avec un coefficient de Gini très faible de 29,2), est moins susceptible que la moyenne mondiale d’épargner une personne de statut élevé par rapport à une personne de statut faible, tandis que l’Angola (avec un coefficient de Gini élevé de 42,7) épargne les personnes de statut élevé par rapport à toute autre catégorie.

« Ceux qui viennent de pays où l’égalité économique entre les riches et les pauvres est moindre traitent aussi les riches et les pauvres de manière moins égale dans la machine morale « , écrivent les chercheurs. « Cette relation peut s’expliquer par des rencontres régulières avec l’inégalité qui s’infiltre dans les préférences morales des gens, ou peut-être parce que des normes égalitaires plus larges affectent à la fois le degré d’inégalité qu’un pays est prêt à tolérer au niveau sociétal et le degré d’inégalité que les participants approuvent dans leurs jugements Moral Machine « .

Dans le même ordre d’idées, le PIB par habitant d’un pays ainsi que la force de ses institutions sont en corrélation avec une préférence pour épargner aux gens qui suivent la loi, lorsqu’il s’agit de traverser en dehors des voies publiques. D’autre part, les habitants des pays pauvres ont tendance à être plus tolérants à l’égard des piétons.

EN FIN DE COMPTE, LA CULTURE DEVRAIT INFORMER L’ÉTHIQUE DE LA MACHINE

[Capture d’écran : The Moral Machine Team]

Bien qu’il y ait une certaine entente de base sur l‘éthique de la machine en ce qui concerne l’âge, le nombre de personnes et la vie humaine, les différences nuancées entre les groupes culturels sont plus importantes à comprendre-et elles ne sont souvent pas aussi nettes que la division individuelle contre la division collective. Par exemple, les pays du groupe des pays du Sud ont tendance à privilégier très fortement les femmes par rapport aux hommes et les personnes en bonne forme physique par rapport aux personnes qui ne le sont pas.
Les chercheurs pensent que les constructeurs automobiles et les politiciens qui conduisent eux-mêmes devront tenir compte de toutes ces variations lors de la formulation des systèmes décisionnels et des règlements de construction. Et c’est important : « Alors que les préférences éthiques du public ne devraient pas nécessairement être le principal arbitre de la politique éthique, la volonté des gens d’acheter des véhicules autonomes et de les tolérer sur les routes dépendra du caractère acceptable des règles éthiques qui seront adoptées », écrivent les chercheurs.

Malgré toutes ces variations entre les différentes cultures, l’équipe de Moral Machine croit toujours que nous avons besoin d’avoir une conversation globale et inclusive sur ce que notre éthique est quand il s’agit de prendre des décisions sur la machine, surtout parce que cette réalité approche rapidement.

« Jamais dans l’histoire de l’humanité nous n’avons laissé une machine décider de manière autonome qui doit vivre et qui doit mourir, en une fraction de seconde, sans surveillance en temps réel « , écrivent les chercheurs. « Nous allons traverser ce pont d’un moment à l’autre, et cela ne se produira pas dans un théâtre d’opérations militaires éloigné ; cela se produira dans cet aspect le plus banal de notre vie, le transport quotidien. Avant de permettre à nos voitures de prendre des décisions éthiques, nous devons avoir une conversation globale pour exprimer nos préférences aux entreprises qui vont concevoir des algorithmes moraux et aux décideurs politiques qui vont les réglementer ».

Publicités

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.