Facebook s’appuie sur l’IA pour améliorer la modération de ses contenus
Facebook rapporte des améliorations significatives à sa technologie utilisée pour détecter et supprimer les propos haineux et autres violations de ses normes communautaires, incluant les fake news relatives à la Covid-19.
Pour la modération de ses contenus, Facebook s’est toujours appuyé sur des modérateurs humains, employés par des partenaires contractuels. Mais compte tenu de la nature graphique de leurs tâches, le travail à distance est généralement impossible pour ces modérateurs.
Ainsi, en raison de la fermeture des bureaux – ou à défaut la réduction des effectifs sur place – la société de médias sociaux a dû faire face à un retard potentiel dans la modération du contenu.
L’IA au secours des modérateurs
Le vice-président de l’intégrité de Facebook, Guy Rosen, explique que la société s’appuie désormais davantage sur la technologie pour gérer la charge de travail des modérateurs. La plateforme utilise l’intelligence artificielle pour créer un système de classement qui donne la priorité aux contenus les plus critiques que les équipes humaines de modération doivent examiner. L’IA évalue la gravité de la menace que représente un contenu – par exemple, un message qui promeut l’exploitation des enfants ou qui laisse entendre que quelqu’un est sur le point de s’enlever la vie – et le signale pour un examen immédiat.
« Si on prend du recul et pense à la façon dont la technologie aide à la modération de contenu… l’IA aide à garantir qu’avec une main d’œuvre réduite de modérateurs, on peut encore se concentrer sur les catégories les plus graves et les plus critiques qui nécessitent un examen et une action », détaille Guy Rosen.
Avec les améliorations technologiques, Guy Rosen précise que le taux de détection proactive des propos haineux sur Facebook est passé à 95 %, ce qui a permis de retirer 22,5 millions de contenus pour violation au cours du deuxième trimestre. Sur Instagram, 3,3 millions de messages ont été supprimés pour les mêmes raisons.
Prévenir la désinformation sur la Covid-19
Facebook a également amélioré ses capacités d’automatisation pour aider à détecter et à supprimer les violations de contenu en anglais, en espagnol et en birman.
En même temps, sur la période d’avril à juin, Facebook a déclaré avoir retiré plus de 7 millions d’informations fausses ou nuisibles sur la Covid-19 de Facebook et d’Instagram. Il s’agissait notamment d’articles prônant de fausses mesures préventives ou des traitements que le CDC et d’autres experts de la santé jugent dangereux.
Concernant les fake news, la plateforme ajoute travailler avec des vérifications d’information indépendants pour permettre d’afficher des avertissements sur certaines publications. Sur la période d’avril à juin, des avertissements ont été apposés sur environ 98 millions d’articles de désinformation sur la Covid-19 sur Facebook.
Source : ZDNet.com
