Microsoft se lance à corps perdu dans la lutte contre les deepfakes

Spread the love
Microsoft se lance à corps perdu dans la lutte contre les deepfakes

Microsoft renforce son arsenal pour lutter contre la généralisation des deepfakes. Afin de lutter contre la prévalence de ces contrefaçons de vidéos, le géant américain vient ainsi de lancer un nouvel outil d’authentification vidéo qui permet d’analyser une photo ou une vidéo pour déterminer le pourcentage de chance qu’elle soit artificielle.

Dans le cas d’une vidéo, Microsoft a déclaré qu’il pouvait fournir ce pourcentage en temps réel pour chaque image pendant la lecture de la vidéo. L’outil du géant américain fonctionne en détectant la limite de mélange de la photo et des éléments subtils de décoloration ou de niveaux de gris qui pourraient ne pas être détectables par l’œil humain.

Pour rappel, les deepfakes, ou médias synthétiques, peuvent être des photos, des vidéos ou des fichiers audio manipulés par l’intelligence artificielle (IA). Alors que les élections américaines s’approchent de plus en plus, celles-ci prennent désormais une place de plus en plus primordiales dans les manoeuvres mis en place par les diffuseurs de fake news pour lutter contre leurs adversaires politiques. Une donnée prise en compte par Microsoft, pour qui la détection des “deepfakes” est cruciale dans la perspective des élections américaines.

publicité

Un enjeu essentiel pour l’avenir

La technologie développée par Microsoft a été créée à partir d’un ensemble de données publiques de Face Forensic++. Le géant américain a déclaré qu’elle avait été testée sur l’ensemble de données DeepFake Detection Challenge, qu’il considère comme un modèle de premier plan pour la formation et le test des technologies de détection de deepfakes.

“Nous pensons que les méthodes de génération de médias synthétiques vont continuer à se perfectionner. Comme toutes les méthodes de détection de l’IA ont des taux d’échec, nous devons comprendre et être prêts à répondre aux deepfakes qui se glissent dans les méthodes de détection”, a déclaré la société dans un article de blog. “Ainsi, à plus long terme, nous devons rechercher des méthodes plus solides pour maintenir et certifier l’authenticité des articles de presse et des autres médias”.

Malgré le peu d’outils disponibles pour faire face à la généralisation des deepfakes, Microsoft a également dévoilé une nouvelle technologie qui, selon elle, peut à la fois détecter les contenus manipulés et assurer aux gens que le média qu’ils regardent est authentique. Cette technologie comporte deux éléments, le premier étant un outil intégré à Microsoft Azure qui permet à un producteur de contenu d’ajouter des hachages et des certificats numériques à un contenu.

“Les hachages et les certificats sont ensuite intégrés au contenu sous forme de métadonnées, quel que soit le lieu où il se trouve en ligne”, explique Microsoft. Le second est un lecteur, qui peut être inclus dans une extension de navigateur, qui vérifie les certificats et fait correspondre les hachages pour en déterminer l’authenticité.

Une initiative avant tout américaine

Dans son combat contre la contrefaçon, Microsoft s’est également associé à la Fondation AI. Dans le cadre de ce partenariat, les deux parties mettront l’authentificateur vidéo à la disposition des organisations impliquées dans le processus démocratique, y compris les organes d’information et les campagnes politiques par le biais de l’initiative Reality Defender 2020 de la fondation. Dans un premier temps, l’authentificateur vidéo ne sera disponible que dans le cadre de cette initiative.

Un autre partenariat avec un consortium de sociétés de médias, connu sous le nom de Project Origin, permettra de tester la technologie d’authenticité de Microsoft. Une initiative de plusieurs éditeurs et sociétés de médias sociaux, la Trusted News Initiative, a également accepté de s’engager avec Microsoft pour tester sa technologie. L’université de Washington, la société de détection de faux documents Sensity et USA Today se sont également joints à Microsoft pour renforcer l’éducation aux médias.

“Améliorer l’éducation aux médias aidera les gens à trier la désinformation des faits réels et à gérer les risques posés par les deepfakes et les fakes bon marché”, a déclaré Microsoft. “Une connaissance pratique des médias peut nous permettre à tous de réfléchir de manière critique au contexte des médias et de devenir des citoyens plus engagés tout en appréciant la satire et la parodie”, explique également le géant américain.

Dans le cadre de ce partenariat, une campagne de messages d’intérêt public encouragera la population à prendre une “pause de réflexion” et à vérifier que les informations proviennent d’un organisme de presse réputé avant de les partager ou de les promouvoir sur les médias sociaux avant les élections. Les partis politiques américains ont également lancé un quiz pour que les électeurs américains s’informent sur les médias synthétiques.

Source : ZDNet.com

Leave a Reply