Le MIT a crée un système qui protège vos photos des manipulations par un intelligence artificielle
Cela vous intéressera aussi
[EN VIDÉO] Une intelligence artificielle qui ajuste l’angle de prise de la photo Manipulation interactive basée sur des points du collecteur d’images génératives. © Projet DraGAN
Les intelligences artificielles ne savent pas uniquement générer des images en partant d’une description. Elles peuvent également éditer des images existantes, par exemple pour insérer quelqu’un dans une autre photo. Cela permet de créer des deepfakes extrêmement réalistes et difficiles à repérer.
Des chercheurs du Massachusetts Institute of Technology (MIT) aux États-Unis ont développé une technique baptisée PhotoGuard pour immuniser les images contre la manipulation par des IA. Elle altère un certain nombre de pixels d’une manière qui reste invisible à l’œil nu. Elle affecte la représentation latente de l’image utilisée par les grands modèles de diffusion, autrement dit une conversation mathématique qui permet à l’IA de comprendre l’image.
Démonstration de PhotoGuard. Des visages d’une photo source (recouverts en noir pour indiquer à l’IA qu’il faut les conserver) sont utilisés pour générer une nouvelle image, en montrant la différence avant et après avoir immunisé la source. © Hadi Salman
Les pixels sont manipulés de manière à produire la même représentation latente qu’une autre image, par exemple entièrement grise. L’IA n’est alors plus capable de produire une image réaliste en conservant des éléments de l’image source, car elle ne la comprend plus correctement. La protection peut toutefois être contournée en ajoutant du bruit sur l’image, ou même en l’inversant ou en la recadrant. Les chercheurs espèrent que les entreprises qui développent les modèles de diffusion pourront intégrer un système d’immunisation directement dans leurs IA.
