Un concept exclusif de la firme de design Artefact de Seattle propose un moyen d’empêcher les voitures qui se conduisent seules de prendre des décisions de vie ou de mort.

Dans une ville dans 15 ans, quelqu’un traversera la rue à l’improviste et sortira devant une voiture auto-propulsée. La voiture sera obligée de prendre une décision en deux temps trois mouvements / quarts de seconde avant de rentrer dans un lampadaire à l’extrémité du trottoir, ce qui pourrait blesser son passager… Ou rester sur le chemin et entrer en collision avec le piéton, le blesser, ou même lui prendre la vie?

La conception de ce dilemme éthique est une question qui pèse actuellement sur les constructeurs automobiles et les constructeurs de véhicules autonomes. Une entreprise a créé un volant de conscience morale; une autre a imaginé un airbag gonflable volant qui se jette entre la voiture et le piéton. La société Artefact, basée à Seattle, a créé une grille de sécurité numérique connectée, où les capteurs d’infrastructure, les dispositifs pour piétons et l’ensemble du réseau de voitures automotrices travaillent ensemble pour s’assurer que les voitures elles-mêmes n’ont jamais à prendre de décision morale.

« Nous ne pouvons même pas déjà amener les gens à prendre des décisions morales d’une manière fiable « , affirme John Rousseau, directeur exécutif de la création. « Notre approche est de reconnaître le désordre. Nous tenons pour acquis toutes sortes de systèmes aujourd’hui qui sont extrêmement imparfaits. C’est juste une partie de la relation entre les humains et la technologie. Je pense qu’il est beaucoup plus productif de penser à concevoir un système plus parfait que d’incarner ces systèmes avec un jugement humain. »

Le concept d’Artefact repose sur l’idée que dans 15 ans, notre monde sera beaucoup plus connecté qu’il ne l’est aujourd’hui et qu’il y aura une prolifération de dispositifs numériques – qu’il s’agisse de capteurs, de caméras ou de smartphones – qui peuvent fournir une énorme quantité de données à un ordinateur géant et artificiellement intelligent en coulisse. Cette intelligence artificielle peut ensuite coordonner toutes les données, les transmettre au système et s’assurer que si quelqu’un se dirige vers la rue de façon inattendue, tout le système en est conscient et peut réagir de manière à ce que personne ne soit blessé. Alors que le concept est léger sur les détails, cela pourrait ressembler à des téléphones de piétons (ou des lunettes de réalité augmentées) ou donner l’impression à toutes les voitures sur la route de se déplacer en tandem pour éviter le piéton. Le système peut également comporter des barrières qui séparent tous les piétons, à l’exception des piétons les plus déterminés, de la circulation automobile, ou des limitations de vitesse très lentes qui éliminent pratiquement tout risque de blessures graves.

Mais la question de savoir qui vit et qui meurt n’est-elle pas transmise à l‘IA? Pas nécessairement. Rousseau compare le concept à une version futuriste d’une salle de contrôle du trafic aérien, où les êtres humains, à l’aide d’ordinateurs, prennent des décisions sur l’ordre exact et le moment de l’atterrissage et du décollage des avions – un véritable tour de force de la logistique, et qui échoue rarement ou cause des blessures. C’est ainsi qu’il conçoit l’ordinateur en arrière-plan qui gère cette grille de sécurité numérique. Il ne s’agit pas du tout de prendre des décisions éthiques, seulement logistiques. « Il doit y avoir une vision systémique et une intelligence qui modulent le comportement de certaines de ces choses », dit-il. « Je dirais que les contrôleurs aériens prennent des décisions algorithmiques, pas morales. »

Cela ne réduit pas nécessairement la possibilité que des gens soient blessés, puisque tous les systèmes sont imparfaits. Mais l’argument de Rousseau est que nous devrions nous concentrer sur le fait de faire en sorte que les systèmes soient les meilleurs possibles. « Je pense que nous sommes un peu pris par l’idée que les machines pourraient être des agents moraux et que cela suscite la consternation « , dit-il. « Mais je pense que c’est un problème insoluble. »

Artefact pose une vision convaincante, sauf qu’il n’ y a qu’un seul problème: le capitalisme. Qui serait propriétaire de ces systèmes et quelles sont leurs motivations? « Nous devons considérer ces choses comme des travaux publics et non comme des instruments du capitalisme « , dit Rousseau. « C’est une partie du problème maintenant. La technologie innove principalement par le prisme du capitalisme, et je pense que c’est ce qui nous mènera au résultat dystopien. »

Provocation

Laisser un commentaire