Google a publié un outil permettant de repérer les images truquées et trafiquées

Jigsaw, un incubateur technologique de Google, a lancé une plateforme expérimentale appelée Assembler pour aider les journalistes et les vérificateurs de faits de première ligne à vérifier rapidement les images.

Comment ça marche : Assembler combine plusieurs techniques existantes dans le milieu universitaire pour détecter les techniques de manipulation courantes, notamment le changement de luminosité de l’image et le collage de pixels copiés ailleurs pour masquer quelque chose tout en conservant la même texture visuelle. Il comprend également un détecteur qui repère les deepfakes du type créé à l’aide de StyleGAN, un algorithme qui peut générer des visages imaginaires réalistes. Ces techniques de détection alimentent un modèle maître qui indique aux utilisateurs la probabilité qu’une image ait été manipulée.

Pourquoi c’est important : Les fausses images sont parmi les choses les plus difficiles à vérifier, surtout avec la montée de la manipulation par l’intelligence artificielle. La possibilité pour les journalistes et les vérificateurs de réagir se réduit également rapidement, car la désinformation se répand à grande vitesse et à grande échelle.

Ce n’est pas une panacée : Assembler est une bonne étape dans la lutte contre les médias manipulés, mais il ne couvre pas beaucoup d’autres techniques de manipulation existantes, y compris celles utilisées pour la vidéo, que l’équipe devra ajouter et mettre à jour au fur et à mesure de l’évolution de l’écosystème. Il existe aussi toujours en tant que plateforme distincte des canaux où les images trafiquées sont habituellement distribuées. Les experts ont recommandé que des géants technologiques comme Facebook et Google intègrent ces types de fonctions de détection directement dans leurs plateformes. De cette façon, ces contrôles peuvent être effectués en temps quasi réel, au fur et à mesure que les photos et les vidéos sont téléchargées et partagées.

Il existe également d’autres approches à envisager. Certaines start-ups poursuivent une technologie de vérification, par exemple, qui mémorise la position des pixels d’une photo au moment de leur capture – mais cela comporte aussi des défis.

Au-delà de la technologie : En fin de compte, les corrections techniques ne suffiront pas. L’un des aspects les plus délicats du trucage numérique n’est pas les fausses images elles-mêmes. C’est plutôt l’idée qu’elles existent, qui peut facilement être invoquée pour douter de la véracité des vrais médias. C’est le type de défi qui nécessitera des solutions sociales et politiques également.

Via Techreview

1 commentaire sur “Google a publié un outil permettant de repérer les images truquées et trafiquées”

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.