Facebook dispose d’un nouvel outil pour repérer les faux comptes
La chasse aux faux comptes sur les réseaux sociaux est un jeu du chat et de la souris : dès qu’un troll est à terre, un autre surgit. Mais Facebook a révélé qu’il avait un nouvel outil dans sa manche pour mieux identifier les spammeurs, une arme de choix améliorée que les attaquants ne pourront pas esquiver aussi facilement qu’avant, selon la firme américaine.
Les ingénieurs de Facebook ont mis au point un outil de machine learning plus efficace, qui a déjà permis de supprimer 6,6 milliards de faux comptes l’année dernière. Et ce chiffre n’inclut même pas les « millions » supplémentaires de « tentatives » de création de faux comptes qui sont bloquées quotidiennement, selon Bochra Gharbaoui, data science manager chez Facebook.
La raison du récent succès de la plateforme dans la guerre contre les spammeurs est une technologie appelée Deep Entity Classification (DEP). Le nom reflète la complexité de l’outil, qui tire parti du machine learning pour analyser non seulement les comptes actifs sur Facebook, mais aussi le comportement de chaque profil individuel et son interaction avec le reste de la communauté.
L’outil prend en compte les “deep features”
Les ingénieurs de Facebook se réfèrent aux “deep features” de chaque compte, qui sont les modèles comportementaux des profils, plutôt que les caractéristiques directes d’un compte. En d’autres termes, au lieu de se contenter d’enregistrer des détails comme la date de création d’un compte ou le nombre de demandes d’amis qu’il a envoyé, DEP examine également toutes les propriétés des profils, groupes ou pages avec lesquels un utilisateur particulier a pris contact.
DEP n’enregistre pas seulement les groupes auxquels une personne donnée a adhéré, mais aussi le nombre d’administrateurs dans le groupe, ses membres ou le temps écoulé depuis la création du groupe. L’outil n’examine pas seulement le nombre de demandes d’amis envoyées par un profil, mais aussi le nombre de demandes envoyées par les comptes auxquels ce profil s’est lié.
Après avoir extrait ces “deep features”, l’algorithme peut les agréger pour connaître des éléments tels que le nombre moyen d’utilisateurs dans tous les groupes auxquels un profil a adhéré, ou le nombre maximum de groupes auxquels les amis d’un profil donné appartiennent. DEP peut efficacement cartographier la complexité du réseau d’amis, des groupes ou des pages de chaque profil Facebook.
Une rétro-ingénierie rendue plus difficile
« Vous vous retrouvez avec des dizaines de milliers de fonctionnalités par compte, qui reflètent l’ensemble du modèle autour du compte », explique Daniel Bernhardt, directeur technique de Facebook. « Vous pouvez donc voir, grâce à un certain nombre de signaux, si un utilisateur tente de déformer son identité. Il ne s’agit pas tant du contenu d’un compte, mais de la manière dont ce compte interagit avec les autres sur la plateforme. »
Avec environ 200 000 caractéristiques rassemblées pour chaque profil, le principal avantage du nouvel outil est la difficulté de la rétro-ingénierie. Les méthodes traditionnelles de machine learning sont trop facilement piégées par les attaquants, ajoute Daniel Bernhardt. Si un algorithme n’examine qu’une poignée de caractéristiques pour déterminer si un compte est faux, les spammeurs peuvent facilement trouver comment paraître réels – « comme un virus » – qui n’a besoin que de quelques mutations pour passer le système de défense du corps.
La plupart des outils proposés jusqu’à présent pour détecter les faux utilisateurs suivent le modèle que Daniel Bernhardt veut éviter. Les ingénieurs forment des algorithmes sur un ensemble limité de caractéristiques directement liées au compte, comme le « commentaire de spam » ou le « taux d’engagement » pour détecter les faux profils. « Le problème est la robustesse de l’algorithme », affirme Bochra Gharbaoui. « Les adversaires peuvent contrôler les fonctionnalités directes assez facilement, par exemple en gérant le nombre de demandes d’amis qu’ils envoient. C’est pourquoi vous devez examiner les deep features – le graphique et le modèle autour du compte ».
L’équipe de Facebook a déclaré que le DEP a déjà eu des résultats prometteurs. L’outil, au cours des mois où il a été déployé sur le réseau social, a permis de supprimer des milliards de faux comptes et de réduire de 27 % le volume estimé de spammeurs et d’escrocs. Bochra Gharbaoui précise que le volume estimé de faux comptes sur Facebook est maintenant de 5 %.
Facebook gagne une bataille, mais pas la guerre
Mais alors que le nouvel algorithme pourrait permettre au géant des médias sociaux de gagner une bataille, Facebook est loin d’être certain de gagner la guerre contre les faux comptes. Ce n’est qu’une question de temps avant que les attaquant ne trouvent un moyen de contourner l’outil amélioré. Les ingénieurs de la plateforme le disent eux-mêmes : « Les adversaires vont vite », estime Bochra Gharbaoui. « Leur cycle d’adaptation est féroce, et il devient de plus en plus sophistiqué. »
Et les enjeux sont de plus en plus importants. L’année dernière encore, Facebook a supprimé un réseau mondial de plus de 900 comptes, pages et groupes qui avaient utilisé des méthodes sophistiquées telles que des photos de profil générées par l’intelligence artificielle pour diffuser des récits pro-Trump à 55 millions d’utilisateurs. Exploités par des comptes basés au Vietnam et aux Etats-Unis, les faux profils alimentaient un réseau complexe, en administrant des groupes, en augmentant le nombre de membres de ces groupes et en likant les messages sur les pages.
Un défi permanent
C’était quelques mois après que Facebook a retiré 2 600 fausses pages et comptes qui se livraient à un « comportement inauthentique coordonné ». Le responsable de la politique de cybersécurité de Facebook, Nathan Gleicher, déclarait à l’époque : « alors que nous faisons des progrès pour éradiquer ces abus, c’est un défi permanent car les responsables sont déterminés et bien financés. Nous devons constamment nous améliorer pour garder une longueur d’avance ».
Etant donné le niveau de sophistication sans précédent des récentes attaques, on ne sait pas encore combien de temps le nouvel algorithme de Facebook résistera à la créativité et à la résilience des attaques motivées par le gain financier et d’autres formes d’abus. Daniel Bernhardt et Bochra Gharbaoui, bien qu’enthousiasmés par les performances du DEP jusqu’à présent, ont concédé que le domaine est encore « très fortement contrôlé par les attaquants ».
Comme les adversaires changent leurs comportements, le nouvel outil de Facebook aura besoin d’être reformé. Et même l’amélioration de l’algorithme devra attendre que les ingénieurs comprennent les nouvelles tactiques adoptées par leurs adversaires. « La nature antagoniste de cet espace est nouvelle », indique Daniel Bernhardt. « Il continue à poser un gros problème, et c’est une évolution permanente. Nous en sommes encore au début. » Pour l’instant, il n’est même pas certain qu’il y ait un jour une fin.
Source : ZDNet.com
