Facebook s’attaque à la propagation des deepfakes et des fermes à trolls
Facebook a supprimé une ferme à trolls, des diffuseurs de fausses informations et des créateurs de fausses images? dans le cadre de ses derniers efforts de modération.
Le dernier rapport de la société sur les comportements inauthentiques coordonnés (Coordinated Inauthentic Behavior), publié cette semaine, énumère les efforts les plus récents de Facebook pour réduire les comportements inauthentiques coordonnés sur le réseau.
Selon le rapport de mars, Facebook a enquêté sur une ferme de trolls « de longue date » et l’a éliminée.
Une ferme à trolls opérée depuis l’Albanie
Les membres de cette usine à trolls ciblaient principalement un public iranien. Ils auraient des liens avec l’organisation Mojahedin-e Khalq (MEK), un groupe de résistance armée composé de plusieurs milliers de membres. Le MEK a été exilé en Albanie dans les années 1980 et semble aujourd’hui gérer un réseau composé de comptes authentiques et de faux comptes pour diffuser des informations critiques à l’égard du gouvernement iranien et faisant l’éloge des activités du MEK.
Selon Facebook, le partage de contenu lié à cette organisation a connu un pic en 2017 et 2020 via trois groupes distincts, mais la majorité des efforts du groupe pour accroître son audience ont échoué.
« La plupart de ces comptes étaient gérés par des opérateurs en Albanie qui partageaient régulièrement l’infrastructure technique », note l’entreprise. « Cela signifie que le même opérateur pouvait gérer plusieurs comptes et, inversement, que plusieurs opérateurs pouvaient gérer le même compte. Ce sont là certaines des caractéristiques de ce que l’on appelle une ferme à trolls – un lieu physique où un collectif d’opérateurs partage des ordinateurs et des téléphones pour gérer conjointement un pool de faux comptes dans le cadre d’une opération d’influence. »
Facebook cible des réseaux antagonistes génératifs
En outre, Facebook s’attaque aux deepfakes, des images générées par l’application de l’intelligence artificielle. Alors que l’entreprise a commencé à supprimer les fausses images il y a trois ans, des réseaux antagonistes génératifs utilisent désormais les deepfakes pour se faire passer pour des organes de presse indépendants et des journalistes d’investigation.
Après avoir examiné les recherches fournies par FireEye sur un réseau GAN situé en Espagne et au Salvador, la société a supprimé des comptes et des pages qui publiaient des informations concernant une élection municipale à un rythme « similaire à celui du spam ». Deux autres réseaux ont également été supprimés, ce qui porte le nombre total de suppressions effectuées par Facebook à sept opérations faisant appel à des images générées par l’IA.
Le géant des médias sociaux a également documenté sa perturbation habituelle des réseaux inauthentiques. Au total, 14 opérations de CIB ont été perturbées en mars, provenant de pays comme l’Argentine, l’Egypte, Israël, le Mexique et la Géorgie, ce qui a conduit à la suppression de plus de 1 100 comptes, 255 pages et 34 groupes.
Le mois dernier, Facebook a déclaré être parvenu à détecter et à démanteler un réseau chinois de cyberattaquants utilisant la plateforme pour diffuser des logiciels malveillants. Les opérateurs, dont on pense qu’ils font partie des groupes Earth Empusa ou Evil Eye, utilisaient des faux profils pour cibler des journalistes et des militants.
Source : ZDNet.com
