Skip to content
Publicités

Ces stickers psychédéliques distraient et perturbent les Intelligences Artificielles

Les systèmes d’apprentissage machine sont très performants, mais ils ne sont pas vraiment intelligents. Ils manquent de bon sens. Profitant de ce fait, les chercheurs ont créé une merveilleuse attaque contre les systèmes de reconnaissance d’images qui utilisent des autocollants spécialement imprimés et tellement intéressants pour l’IA qu’ils ne voient rien d’autre. Ces accessoires risquent bien de devenir très populaires très bientôt ?

La vision par ordinateur est un problème incroyablement complexe, et avec des raccourcis cognitifs que même les humains peuvent voir correctement – il n’est donc pas surprenant que les ordinateurs aient besoin de la même chose.

Un des raccourcis que ces systèmes utilisent n’attribue pas à chaque pixel la même importance. Disons qu’il y a une photo d’une maison avec un peu de ciel derrière et un peu d’herbe devant. Quelques règles de base expliquent clairement à l’ordinateur qu’il ne s’agit pas d’une image du ciel ou de l’herbe, malgré leur présence. Donc, il considère ces arrière-plans et fournit plus de cycles d’analyse de la forme au milieu.

Un groupe de chercheurs de Google s’est demandé (PDF) : « Que se passerait-il si vous jouiez avec ce raccourci, et que vous fassiez en sorte que l’ordinateur ignore la maison et se concentre sur quelque chose de son choix ? »

Ils l’ont accompli en formant un système adversaire pour créer de petits cercles pleins de caractéristiques qui distraient le système cible, en essayant de nombreuses configurations de couleurs, de formes et de tailles et en observant ce qui fait que la reconnaissance d’image y prête attention. Ces courbes spécifiques que l’IA a appris à observer, des combinaisons de couleurs qui indiquent autre chose que le fond, etc.


Éventuellement, un tourbillon psychédélique comme ceux présentés ici finissent par émerger.

Mettez un de ces tourbillons à côté d’un autre objet que le système connaît, comme une banane, et il oubliera immédiatement la banane et pensera que l’image est le tourbillon. Les noms dans les images sont des approches différentes pour créer un sticker et le fusionner avec des images existantes.

Ceci est fait sur une base spécifique du système, et non pas de l’image – ce qui signifie que le patch correctif résultant fonctionnera généralement, peu importe ce que le système de reconnaissance d’images regarde.

Que pourrait-on en faire? Collez-en quelques-uns sur vos vêtements ou votre sac et peut-être que ce classificateur d’images à l’aéroport ou les caméras de surveillance seront assez distraites pour ne pas enregistrer votre présence. Bien sûr, il faudrait savoir quel système fonctionne et tester quelques milliers de variantes d’autocollants, mais c’est une possibilité.

D’autres tentatives visant à tromper les systèmes de vision par ordinateur ont généralement reposé sur l’application répétée de petits changements des images pour voir si, avec quelques pixels stratégiquement placés, une IA peut être dupée en pensant qu’une image d’une tortue est en fait un pistolet. Mais ces « perturbations » puissantes et très localisées, comme les chercheurs les appellent, constituent une menace différente et très intéressante.

« Notre attaque fonctionne dans le monde réel et peut être déguisée en autocollant inoffensif. Ces résultats démontrent une attaque qui pourrait être créée hors ligne, puis largement partagée…. »

Même si les humains sont capables de remarquer ces taches, ils peuvent ne pas comprendre l’intention de la tache et la considérer plutôt comme une forme d’art. Ce travail montre qu’il est insuffisant de se concentrer uniquement sur la défense contre les petites perturbations, car de grandes perturbations locales peuvent également anéantir les classificateurs.

Les chercheurs ont présenté leurs travaux lors de la conférence Neural Information Processing Systems à Long Beach.

 

Publicités

OWDIN Tout afficher

Owdin envoyait ses corbeaux lui rapporter les nouvelles du monde. Aujourd'hui le web, les voyages permettent découvrir encore plus de choses, à partager ici.

Une réponse sur « Ces stickers psychédéliques distraient et perturbent les Intelligences Artificielles » Laisser un commentaire

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

w

Connexion à %s

%d blogueurs aiment cette page :