Conçu pour tromper : Ces personnes vous semblent-elles réelles ?

Encore un super article interactif et immersif du NYTimes.

Ces personnes peuvent vous sembler familières, comme celles que vous avez vues sur Facebook ou Twitter.

Ou des personnes dont vous avez lu les critiques de produits sur Amazon, ou des profils de rencontre que vous avez vus sur Tinder.

Elles ont l’air étonnamment réelles au premier coup d’œil.

Mais elles n’existent pas.

Elles sont nés de l’esprit d’un ordinateur.

Et la technologie qui les fabrique s’améliore à un rythme effarant.

Il y a maintenant des entreprises qui vendent de fausses personnes. Sur le site web Generated.Photos, vous pouvez acheter une fausse personne « unique et sans souci » pour 2,99 $, ou 1 000 personnes pour 1 000 $. Si vous n’avez besoin que de quelques fausses personnes – pour les personnages d’un jeu vidéo ou pour diversifier le site web de votre entreprise – vous pouvez obtenir leurs photos gratuitement sur ThisPersonDoesNotExist.com. Ajustez leur ressemblance selon vos besoins ; rendez-les jeunes ou vieux ou l’ethnicité de votre choix. Si vous souhaitez que votre fausse personne soit animée, une société appelée Rosebud.AI peut le faire et peut même la faire parler.

Ces personnes simulées commencent à apparaître sur Internet, utilisées comme des masques par de vraies personnes avec des intentions malveillantes : des espions qui arborent un visage attrayant dans le but d’infiltrer la communauté des services de renseignement ; des propagandistes de droite qui se cachent derrière de faux profils, des photos et tout le reste ; des harceleurs en ligne qui traquent leurs cibles avec un visage amical.
Nous avons créé notre propre système d’I.A. pour comprendre combien il est facile de générer différents faux visages.

Le système d’I.A. considère chaque visage comme une figure mathématique complexe, une gamme de valeurs qui peuvent être modifiées. Le choix de valeurs différentes – comme celles qui déterminent la taille et la forme des yeux – peut modifier l’image entière.

Pour d’autres qualités, notre système a utilisé une approche différente. Au lieu de décaler les valeurs qui déterminent des parties spécifiques de l’image, le système a d’abord généré deux images pour établir les points de départ et d’arrivée de toutes les valeurs, puis a créé des images entre les deux.

La création de ce type de fausses images n’est devenue possible que ces dernières années grâce à un nouveau type d’intelligence artificielle appelé réseau antagoniste générateur ou GAN. En gros, vous alimentez un programme informatique avec un tas de photos de personnes réelles. Il les étudie et tente de créer ses propres photos de personnes, tandis qu’une autre partie du système tente de détecter lesquelles de ces photos sont fausses.

Ce va-et-vient rend le produit final de plus en plus difficile à distinguer de la réalité. Les portraits de cette histoire ont été créés par le Times à l’aide du logiciel GAN mis à la disposition du public par la société d’infographie Nvidia.

Étant donné le rythme des améliorations, il est facile d’imaginer un avenir pas si lointain dans lequel nous serons confrontés non pas à de simples portraits de fausses personnes, mais à des collections entières de ces personnes – à une fête avec de faux amis, traînant avec leurs faux chiens, tenant leurs faux bébés. Il sera de plus en plus difficile de dire qui est réel en ligne et qui est le fruit de l’imagination d’un ordinateur.

« Quand la technologie est apparue pour la première fois en 2014, elle était mauvaise – elle ressemblait aux Sims », a déclaré Camille François, un chercheur en désinformation dont le travail consiste à analyser la manipulation des réseaux sociaux. « C’est un rappel de la rapidité avec laquelle la technologie peut évoluer. La détection ne fera que se compliquer avec le temps ».

Les progrès réalisés dans le domaine de la simulation faciale ont été rendus possibles en partie parce que la technologie est devenue beaucoup plus efficace pour identifier les principales caractéristiques du visage. Vous pouvez utiliser votre visage pour déverrouiller votre smartphone, ou dire à votre logiciel photo de trier vos milliers de photos et de ne vous montrer que celles de votre enfant. Les programmes de reconnaissance faciale sont utilisés par les forces de l’ordre pour identifier et arrêter les suspects (et aussi par certains militants pour révéler l’identité des policiers qui couvrent leurs badges afin de rester anonymes). Une société appelée Clearview AI a gratté la toile de milliards de photos publiques – partagées en ligne par des utilisateurs ordinaires – pour créer une application capable de reconnaître un étranger à partir d’une seule photo. Cette technologie promet des super-pouvoirs : la capacité d’organiser et de traiter le monde d’une manière qui n’était pas possible auparavant.

Lire la suite sur NYTimes

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.