Facebook et la police collaborent pour éviter les diffusions de tueries en direct

Facebook a été très critiqué après l’attentat de Christchurch en Nouvelle-Zélande. En effet, le terroriste a pu diffuser ce massacre en direct sur Facebook Live pendant 17 minutes.

Bien entendu, l’entreprise a déjà pris de nombreuses mesures après cette énorme bourde. Parmi celles-ci, de nouvelles restrictions sur la fonctionnalité Facebook Live. « Nous durcissons les règles spécifiques à Facebook Live, en appliquant une politique de première infraction », expliquait Facebook. Plus précisément, les personnes qui enfreignent les règles de la plateforme les plus sensibles se voient interdites d’utilisation de la fonctionnalité Facebook Live, ce qui empêche ces personnes de diffuser du contenu en direct.

Facebook fait également partie des signataires du « Christchurch Call to Action », un engagement de gouvernements et d’entreprises dans le secteur technologique à éliminer « le contenu extrémiste terroriste et violent » d’internet.

Cette semaine, le numéro un du réseau social présente une nouvelle série de mesure, toujours dans le cadre de ses engagements contre la haine et la violence en ligne. Et parmi ces mesures, il y a un programme qui permettra à Facebook d’entraîner ses algorithmes pour détecter les fusillades.

Facebook collabore avec les forces de l’ordre pour obtenir des vidéos qui permettront d’entraîner son intelligence artificielle

Si Facebook n’a pas pu retirer à temps le live du terroriste de Christchurch, c’est parce que ses algorithmes de détection n’étaient pas suffisamment entraînés pour ce type de contenu.

« La vidéo de l’attaque de Christchurch n’a pas été détectée par nos systèmes de détection automatique, car nous n’avions pas assez de contenu illustrant des images à la première personne d’événements violents pour former efficacement notre technologie d’apprentissage automatique », admet le réseau social dans un billet de blog. Pour améliorer ces systèmes de détection et éviter que cela ne se reproduise, Facebook va donc collaborer avec des policiers pour obtenir des vidéos de ce type, ce qui permettra d’entraîner les IA de l’entreprise.

« Nous travaillons avec les autorités gouvernementales et les forces de l’ordre américaines et britanniques pour obtenir des images de leurs programmes de formation aux armes à feu, ce qui constitue une source précieuse de données pour la formation de nos systèmes », annonce l’entreprise.

Les algorithmes de Facebook pourront, grâce à ces vidéos, mieux détecter les vidéos « d’événements violents » filmées à la première personne, tout en évitant les faux positifs avec des contenus de fiction provenant de films ou de jeux vidéo.