Accéder au contenu principal

Vidéos haineuses : la police britannique à la rescousse de l'IA de Facebook

Facebook a reconnu que ses algorithmes pouvaient être améliorés pour détecter les diffusions en direct d'attentats, comme lors des tueries de Christchurch
Facebook a reconnu que ses algorithmes pouvaient être améliorés pour détecter les diffusions en direct d'attentats, comme lors des tueries de Christchurch Loïc Venance, AFP

Le réseau social américain va fournir à des policiers britanniques des caméras pour obtenir des images de tirs en vue subjective. Ces séquences doivent aider l’IA à mieux reconnaître des diffusions en direct d’attentat sur Facebook.

Publicité

Les attentats de Christchurch continuent à hanter Facebook. Lors de l'audition, mercredi 18 septembre, des principales plateformes Internet parr les sénateurs américains, le réseau social tenait le rôle de principal accusé.

En effet, Facebook avait été vivement critiqué en mars, lors des tueries pour avoir tardé à bloquer la retransmission en direct des tueries dans les deux mosquées en Nouvelle-Zelande par leur auteur présumé. Le massacre avait fait 51 victimes.

Le sénateurs ont pressé le groupe californien d'expliquer quelles efforts supplémentaires avaient été entrepris à l'aune de la multiplication des attentats et des tueries de masses imputés à des à des extrémistes de la mouvance suprémaciste.

Le précédent Christchurch

Devant les élus, les responsables de Facebook ont assuré avoir pris des mesures d’urgence, comme la fermeture de 200 pages d’organisation suprémacistes, et souligné que leurs algorithmes étaient déjà devenus bien plus rapides pour détecter les retransmissions en direct d’actes de violence. “Nous avons réduit à 12 secondes, en moyenne, le temps qu’il faut à notre intelligence artificielle (IA) pour identifier de tels contenus. C’est une baisse de 90 % du temps de réaction par rapport à il y a quelques mois”, a souligné Monika Bickert, responsable de la politique mondiale de Facebook.

La veille de l’audition, le groupe avait cependant reconnu devoir encore “améliorer sa détection”. À ce jour, il ne dispose pas de suffisamment de séquences vidéos de tirs, filmées en vue subjective, pour apprendre à ses algorithmes à les reconnaître.

C’est dorénavant sur ce point que le réseau social veut mettre l’accent. Il a annoncé, mardi 17 septembre, son intention de travailler avec les polices britanniques et américaines pour obtenir les images nécessaires.

Des caméras à fixer sur le torse des policiers

Au Royaume-Uni, Facebook est d’ailleurs à quelques semaines seulement de mettre son plan à exécution. À partir de début octobre, le réseau social va fournir à des centres d’entraînement de la police de Londres des caméras à accrocher au torse des agents, rapportent les médias britanniques. Les enregistrements des séances de tirs seront ensuite transmis au groupe californien afin de nourrir la base de données de son IA.

La mise à disposition de vidéos issues de situations réelles devraient notamment permettre aux algorithmes de Facebook de faire la différence entre un terroriste qui décide de diffuser ses actes sur Internet et une séquence de film ou des images de jeux vidéo.

“Nous sommes heureux de pouvoir travailler avec Facebook sur ce projet”, a déclaré Neil Basu, le patron de la section antiterroriste de la police britannique. Le géant américain a assuré qu’il envisageait de partager sa technologie avec d’autres plateformes et organisations, afin d’aider à mieux identifier rapidement les mises en ligne de vidéos violentes. Si ces contenus sont détectés rapidement, “cela peut potentiellement permettre à la police d’intervenir plus vite”, a résumé Neil Basu.

Depuis les attentats de Christchurch, les experts en lutte contre le terrorisme d’extrême droite mettent en garde contre le danger de laisser ce type de vidéos se propager sur Internet. Elles participent à une “gamification” des attentats : en empruntant les codes des jeux de tirs en vue subjective (FPS - First Person Shooter), elle déshumanise le massacre, qui peut alors être réduit à “un score à battre”, écrit le site d’investigation Bellingcat.

“Cette ‘gamification’ sert à célébrer les tueries en ligne, à entretenir le souvenir de l’attentat”, décryptait cet été pour France 24 Bharath Ganesh, professeur assistant d’études des médias à l’Université de Groningue (Pays-Bas) et spécialiste de l’extrême droite sur Internet. Ces vidéos deviennent ainsi des outils très efficaces de motivation ou de recrutement pour inspirer d’autres aspirants terroristes de la sphère suprémaciste.

Page non trouvée

Le contenu auquel vous tentez d'accéder n'existe pas ou n'est plus disponible.