Skip to content
Publicités

Les philosophes construisent des algorithmes éthiques pour aider à contrôler les voitures autonomes

Les experts en intelligence artificielle et les roboticiens ne sont pas les seuls à travailler sur le problème des véhicules autonomes. Les philosophes (le métier de demain ??) sont également très attentifs au développement de ce qui, de leur point de vue, ressemble à une myriade de dilemmes éthiques sur roues.

Au cours des dernières années, le domaine a été particulièrement axé sur un problème philosophique particulier posé par la conduite automobile: il s’agit d’une véritable mise en scène d’une énigme morale connue sous le nom de « Trolley Problem ». Dans ce scénario classique, un chariot descend les rails vers cinq personnes. Vous pouvez tirer un levier pour rediriger le chariot, mais il y a une personne coincée sur la seule piste alternative. Le scénario met en lumière la tension morale qui existe entre le fait de faire activement et le fait de permettre un préjudice: Est-il moralement acceptable d’en tuer un pour en sauver cinq, ou faut-il laisser cinq mourir plutôt que d’en blesser un activement?

Bien que le problème des trolleybus paraisse farfelu, les véhicules autonomes seront incapables d’éviter des scénarios comparables. Si une voiture se trouve dans une situation où une action mettra en danger le passager de la voiture ou quelqu’un d’autre – s’il y a un accident de camion à l’avant et que les seules options sont de rentrer dans une moto ou de sortir du côté d’une falaise – alors comment la voiture devrait-elle être programmée pour réagir?

Plutôt que de pontifier sur ce point, un groupe de philosophes a adopté une approche plus pratique et construit des algorithmes pour résoudre le problème. Nicholas Evans, professeur de philosophie à Mass Lowell, travaille avec deux autres philosophes et un ingénieur pour écrire des algorithmes basés sur diverses théories éthiques. Leur travail, soutenu par une subvention de 556 000 $ de la National Science Foundation, leur permettra de créer divers scénarios de problèmes de trolleybus et de montrer comment une voiture autonome réagirait selon la théorie éthique qu’elle suit.

Pour ce faire, Evans et son équipe transforment les théories éthiques en un langage lisible par ordinateur. Les philosophes utilitaires, par exemple, pensent que toutes les vies ont le même poids moral et donc un algorithme basé sur cette théorie attribuerait la même valeur aux passagers de la voiture qu’aux piétons. Il y en a d’autres qui croient que vous avez le devoir absolu de vous protéger. « Nous pourrions penser que le conducteur a une valeur morale supplémentaire et, dans certains cas, la voiture est autorisée à protéger le conducteur même si cela coûte la vie à certaines personnes ou met d’autres personnes en danger « , a déclaré M. Evans. Tant que la voiture n’est pas programmée pour blesser intentionnellement d’autres personnes, certains éthiciens considéreraient qu’il est acceptable que le véhicule s’écarte en défense pour éviter un accident, même si cela met la vie d’un piéton en danger.

Evans ne prend pas actuellement une position sur laquelle la théorie morale a raison. Il espère plutôt que les résultats de ses algorithmes permettront à d’autres de prendre une décision éclairée, que ce soit par les consommateurs ou les constructeurs automobiles. Evans ne collabore actuellement avec aucune des entreprises qui travaillent à la création de voitures autonomes, mais espère le faire une fois qu’il aura des résultats.

Peut-être que les algorithmes d’Evans montreront qu’une théorie morale mènera à plus de vies sauvées qu’une autre, ou peut-être que les résultats seront plus compliqués. Il ne s’agit pas seulement de savoir combien de personnes meurent, mais aussi quelles sont les personnes qui meurent ou dont la vie est sauvée. Il est possible que deux scénarios puissent sauver un nombre égal de vies, mais pas les mêmes personnes.

La différence entre la théorie A et la théorie B est que les gens qui meurent dans la première théorie ont pour la plupart plus de 50 ans et les gens qui meurent dans la deuxième théorie ont généralement moins de 30 ans « , a déclaré Evans. « Ensuite, nous devons discuter en tant que société non seulement du niveau de risque que nous sommes prêts à prendre, mais aussi des personnes que nous sommes prêts à exposer au risque. »

Si certaines théories morales sauvent les conducteurs alors que d’autres protègent les piétons, il pourrait y avoir une discussion sur la meilleure option. « Nous pourrions aussi discuter de la façon dont nous construisons notre infrastructure routière « , ajoute M. Evans, peut-être avec une plus grande séparation entre les piétons et les conducteurs.

M. Evans s’intéresse également à des recherches plus poussées sur la façon dont tout ensemble de valeurs utilisées pour programmer les voitures autonomes pourrait être piraté. Par exemple, si une voiture s’écarte pour éviter les piétons même si cela met le conducteur en danger, quelqu’un pourrait intentionnellement se mettre sur le chemin d’un véhicule autonome pour blesser le conducteur. M.  Evans affirme que même un laser infrarouge pourrait être utilisé pour brouiller le système sensoriel de la voiture et causer ainsi un accident. Il y a ensuite d’autres questions, comme la façon dont les voitures programmées différemment peuvent réagir les unes avec les autres lorsqu’elles sont sur la route.

Evans n’est pas le seul chercheur universitaire à s’intéresser à la version auto-conduite du problème des trolleybus. Les psychologues travaillent également sur la question et ont étudié quelle solution la majorité du public préférerait.

Mais alors qu’Evans se concentre sur les scénarios de type « Trolley Problem« , il reconnaît que le simple fait de trouver une solution à de telles situations spécifiques ne répond pas aux questions plus larges de savoir si les voitures autonomes sont éthiques. Par exemple, lorsque de telles voitures seront déployées et circuleront sur les routes le long des véhicules actuels, elles constitueront une expérience du fonctionnement de nos systèmes de transport en commun. D’autres sur la route pourraient être profondément mal à l’aise avec cela.

« L’une des caractéristiques d’une bonne expérience en médecine, mais aussi en science en général, est que les participants sont capables de prendre des décisions éclairées quant à savoir s’ils veulent ou non participer à cette expérience « , a-t-il dit. « J’espère que certaines de nos recherches fournissent cette information qui permet aux gens de prendre des décisions éclairées lorsqu’ils traitent avec leurs politiciens. »

Patrick Lin, professeur de philosophie à Cal Poly, San Luis Obispo, est l’un des rares philosophes à se pencher sur l’éthique de la conduite automobile en dehors du problème des trolleybus. Concernant la responsabilité (qui est responsable si la voiture est programmée pour mettre quelqu’un en danger?), les questions sociales (l’alcoolisme peut augmenter une fois que la conduite en état d’ébriété ne sera plus une préoccupation), et la vie privée ( » une voiture autonome est fondamentalement un grand frère sur roues « , a dit Lin.) Il peut même y avoir des conséquences négatives de résultats par ailleurs positifs: si les voitures autonomes augmentent la sécurité routière et qu’il y a moins de morts sur la route, cela conduira-t-il à moins de transplantations d’organes?

Les voitures autonomes auront probablement d’énormes effets imprévus. « C’est comme prédire les effets de l’électricité « , a dit Lin. L’électricité n’est pas seulement le remplacement des bougies. L’électricité a causé tant de choses à venir à des institutions de vie, des industries artisanales, la vie en ligne. Benjamin Franklin n’aurait pas pu le prédire, personne ne l’aurait prédit. « Je pense que la robotique et l’IA sont dans une catégorie similaire. »

L’invention des voitures standard, par exemple, nous a donné l’essor des banlieues et des formes de drive et de récupération de commande au volant. Peut-être que les voitures autonomes conduiront les gens à vivre plus loin. Le temps que les humains passaient autrefois à conduire pourrait être remplacé par des loisirs dans les voitures sans conducteur, mais c’est aussi très incertain. « La nature abhorre le vide. Quand on a du temps libre, cela se fait souvent aspirer par le travail « , dit Lin.

Pendant ce temps, la conduite efficace des voitures autonomes pourrait réduire le trafic. « Ou cela pourrait empirer. « Les gens pourraient faire plus de voyages inutiles et s’encombrer davantage dans les rues « , a dit Lin. Je ne pense pas que quelqu’un ait une boule de cristal quand il s’agit d’extrapoler aussi loin. « C’est un pari sûr de dire qu’on ne peut pas imaginer l’ampleur des effets. » En fin de compte, les effets des voitures autonomes seront probablement énormes et imprévisibles. Aucun algorithme ou théorie philosophique ne peut rendre les voitures sans conducteur parfaitement morales.

Publicités

OWDIN Tout afficher

Owdin envoyait ses corbeaux lui rapporter les nouvelles du monde. Aujourd'hui le web, les voyages permettent découvrir encore plus de choses, à partager ici.

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s

%d blogueurs aiment cette page :