Les pirates sont l’obstacle réel pour les véhicules autonomes

Les camionneurs non travailleurs, armés d’un « apprentissage néfaste des machines » pourraient éblouir les véhicules autonomes en cas de collision.

Avant que les camions autonomes et taxis prennent la route, les fabricants devront résoudre des problèmes beaucoup plus complexes que l’évitement des collisions et la navigation (voir « 10 Technologies de 2017: Camions autonomes»).

Ces véhicules devront anticiper et se défendre contre un éventail complet d’agresseurs malveillants exerçant à la fois des cyberattaques traditionnelles et une nouvelle génération d’attaques basées sur le soi-disant apprentissage par machine contradictoire (une « AI Fight Club pourrait nous aider ? « ). À mesure que le consensus s’accroît, les véhicules autonomes ne sont qu’à quelques années d’être déployés dans les villes comme des taxis robotisés et sur les autoroutes pour atténuer l’ennui mental du routier long-courrier, ce risque d’attaque a été en grande partie oublié.

Cela rappelle de nombreux articles qui font la promotion du courrier électronique au début des années 1990, avant que le nouveau monde des communications électroniques ne soit inondé de spams indésirables. À l’époque, la promesse de l’apprentissage par machine était considérée comme une solution aux problèmes de spam dans le monde. Et en effet, aujourd’hui, le problème du spam est largement résolu, mais il nous a fallu des décennies pour arriver ici.

Il n’y a eu aucun rapport à ce jour sur des pirates hostiles ciblant les véhicules autonomes. Ironiquement, c’est un problème. Il n’y avait pas d’agresseurs malveillants lorsque les start-up dot-com dans les années 1990 ont développé les premières plates-formes de commerce électronique non plus. Après la première grande série de hacks de commerce électronique, Bill Gates a écrit un mémo à Microsoft demandant que l’entreprise prenne la sécurité au sérieux. Le résultat: aujourd’hui, Windows est l’un des systèmes d’exploitation les plus sécurisés, et Microsoft dépense plus d’un milliard de dollars par an en cybersécurité. Néanmoins, les pirates continuent à trouver des problèmes avec les systèmes d’exploitation Windows, les navigateurs Web et les applications.

Les entreprises automobiles sont susceptibles de subir une progression similaire. Après avoir été très embarrassé par leur incapacité à considérer la sécurité du tout – le bus CAN, conçu dans les années 1980, n’a pas de concept d’authentification – ils semblent maintenant y faire attention. Lorsque les pirates informatiques ont démontré que les véhicules sur les routes étaient vulnérables à plusieurs menaces spécifiques à la sécurité, les constructeurs automobiles ont répondu en rappelant et en améliorant le microprogramme de millions de voitures. En juillet dernier, la directrice générale de GM, Mary Barra, a déclaré que la protection des voitures contre un incident de cybersécurité «est une question de sécurité publique».

Mais les efforts déployés à ce jour peuvent manquer à la prochaine tendance de sécurité. La vision par ordinateur et les systèmes d’évitement des collisions en cours de développement pour les véhicules autonomes s’appuient sur des algorithmes complexes d’apprentissage machine qui ne sont pas bien compris, même par les entreprises qui en dépendent.

L’année dernière, les chercheurs de CMU ont démontré que les algorithmes de reconnaissance faciale à la fine pointe de la technologie pourraient être vaincus en portant une paire de lunettes claires avec un motif génial imprimé sur leurs cadres. Quelque chose au sujet du modèle a donné une pointe à l’algorithme dans le bon sens, et il a pensé qu’il avait vu ce qui n’était pas là. « Nous avons montré que les attaquants peuvent échapper à des algorithmes de reconnaissance faciale à la fine pointe de la technologie qui sont basés sur des réseaux de neurones dans le but de se faire passer pour une personne cible ou simplement d’être identifiés de manière incorrecte », a déclaré le chercheur principal Mahmood Sharif dans un courrier électronique.

L’année dernière, les chercheurs de l’Université de Caroline du Sud, de l’Université chinoise de Zhejiang et de la firme chinoise de sécurité Qihoo 360 ont démontré qu’ils pouvaient bloquer divers capteurs sur une Tesla S, rendant les objets invisibles à son système de navigation.

Beaucoup d’articles récents sur la conduite autonome des downplay ou même ignorent l’idée qu’il pourrait y avoir des adversaires actifs, adaptatifs et malveillants essayant de faire tomber les véhicules. Dans une interview accordée à MIT Technology Review , le président du Conseil national de la sécurité des transports, Christopher Hart, a déclaré qu’il était « très optimiste » que les voitures auto-conductrices réduiraient le nombre d’accidents sur les routes du pays. En discutant des problèmes de sécurité, Hart s’est concentré sur la nécessité de programmer les véhicules pour prendre des décisions éthiques – par exemple, lorsqu’un camion de 40 tonnes bloque soudainement la voie d’une voiture.

Pourquoi quelqu’un voudrait-il pirater une voiture autonome, sachant que cela pourrait entraîner la mort? L’une des raisons est que le déploiement généralisé de véhicules autonomes entraînera beaucoup de chômeurs et certains d’entre eux vont être en colère.

En août 2016, le PDG de Ford, Mark Fields, a déclaré qu’il prévoyait que des véhicules entièrement autonomes fonctionneraient comme des taxis urbains d’ici 2021. Google, Nissan et d’autres prévoyaient avoir des voitures autonomes similaires sur les routes dès 2020. Ces taxis automatisés ou véhicules de livraison pourraient être vulnérables face à la malveillance, comme un ancien conducteur d’Uber qui a encore des paiements de voiture à faire, ou juste un groupe d’adolescents ennuyés.

Interrogé sur ses plans pour faire face à la menace de l’apprentissage par machine contradictoire, Sarah Abboud, porte-parole d’Uber, a répondu: «Notre équipe d’experts en sécurité explore constamment de nouvelles mesures de défense pour l’avenir des véhicules autonomes, y compris l’intégrité des données et la détection des abus. Cependant, au fur et à mesure que la technologie autonome évolue, le modèle de la menace, ce qui signifie que certains des problèmes de sécurité d’aujourd’hui divergeront vraisemblablement de ceux abordés dans un environnement véritablement autonome « .

Il ne faudra que quelques accidents pour arrêter le déploiement de véhicules sans conducteur. Cela n’empêchera probablement pas les systèmes avancés de pilotage automatique, mais il est susceptible d’entraver considérablement le déploiement de véhicules entièrement autonomes.

Publicités

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s