Haine en ligne : la « créativité malveillante » des trolls trompe les algorithmes

Spread the love

Le problème n’est certes pas nouveau mais il prend des dimensions alarmantes. Des chercheurs de l’Université d’Oxford ont mené une étude sur la prolifération des discours haineux et de désinformation visant les femmes politiques. Pour cela, les scientifiques se sont concentrés sur 13 personnalités ciblées sur six plateformes : Twitter, Reddit, Gab, Parler, 4chan et 8kun.

Les résultats sont alarmants, comme le précise Alexandra Pavliuc, une des auteures, dans The Conversation. Ainsi 336 000 messages abusifs, parmi lesquels des remarques racistes et sexistes, ont été identifiés. Les attaques contre Kamala Harris, la nouvelle vice-présidente américaine sont particulièrement nombreuses et représentent 78 % de ce total. Pire, chacun de ces messages offensant était souvent partagé des milliers de fois, augmentant de manière « exponentielle » leur impact.

Les réseaux sociaux doivent s’adapter perpétuellement à la menace

Face à ces contenus haineux, les réseaux sociaux utilisent souvent des algorithmes de modération. Ils détectent automatiquement des termes afin d’empêcher la diffusion de ces commentaires nuisibles. Sauf que les trolls ont bien compris les risques et utilisent désormais des stratégies très élaborées pour tromper l’intelligence artificielle.

Les auteurs parlent ainsi de « créativité malveillante » pour décrire ce phénomène qui représente un vrai défi pour les plateformes. Ils recommandent donc aux réseaux sociaux de mettre à jour ces outils régulièrement pour s’adapter à ces nouveaux termes émergents qui visent à rabaisser les femmes.

Les plateformes devraient aussi permettre à ces dernières de soumettre plus facilement des rapports d’incident qui couvrent un ensemble de publication, plutôt que des les forcer à signaler l’ensemble des contenus répréhensibles.

Notons que les algorithmes de détection sont aussi en perpétuelle évolution. Nous vous parlions par exemple ce cette IA développée par des scientifiques de l’Université de technologie du Queensland en Australie. Elle permet de repérer de manière automatisée les tweets sexistes. Pour cela les chercheurs ont utilisé une base de données comprenant un million de publications afin de créer cet outil basé sur l’apprentissage automatique. On voit toutefois avec l’étude de l’Université d’Oxford que la machine ne peut pas tout et que la capacité d’adaptation des humains reste toujours à prendre en compte.

4.4 / 5

17,6 M avis

Leave a Reply