Aux États-Unis, Amazon suspend l'utilisation de la reconnaissance faciale par la police

Amazon est critiqué depuis près de deux ans : l'entreprise permet aux forces de l'ordre d'utiliser certains de ses outils les plus controversés comme son logiciel de reconnaissance faciale ou sa sonnette vidéo connectée.
Amazon est critiqué depuis près de deux ans : l'entreprise permet aux forces de l'ordre d'utiliser certains de ses outils les plus controversés comme son logiciel de reconnaissance faciale ou sa sonnette vidéo connectée. © Thomas Peter, Reuters

Amazon a décrété un moratoire d’un an sur l’utilisation par la police américaine de son logiciel de reconnaissance faciale, Rekognition. Une technologie très décriée, car accusée de favoriser les biais racistes. Mais l’annonce d’Amazon reste ambiguë.

Publicité

Le nom de George Floyd n'apparaît nulle part dans le communiqué qui ne fait pas non plus référence à la vague de manifestations contre les violences policières aux États-Unis. Mais personne n'est dupe : la décision d'Amazon d'instaurer, mercredi 10 juin, un moratoire d'un an sur l'utilisation de sa technologie de reconnaissance faciale par la police américaine, justifié succinctement par une référence à "l'éthique", a tout à voir avec les tensions sociales aux États-Unis.

Le géant américain n'est pas le seul à avoir choisi de mettre entre parenthèse la commercialisation de sa technologie de reconnaissance faciale dans le contexte actuel. IBM avait annoncé, la veille, l'arrêt de ses recherches dans ce domaine et Microsoft a rejoint le mouvement le jeudi 11 juin, suspendant cette activité jusqu'à ce que le Congrès encadre mieux l'utilisation de la reconnaissance faciale par les forces de l'ordre. 

Reconnaissance faciale, une victime collatérale des manifestations

Mais la décision d'Amazon reste de loin celle qui a le plus retenu l'attention. Essentiellement parce que le mastodonte de Seattle entretient des relations très poussées et plutôt controversées avec les forces de l'ordre aux États-Unis. La police, le FBI, les agents du département de la Sécurité nationale et les services d'immigration ont, par exemple, tous recours à Rekognition, le logiciel de reconnaissance faciale d'Amazon. Microsoft et IBM sont loin d'avoir tissé des liens aussi nombreux avec la police ou les agents fédéraux.

Mais en quoi cette suspension pour les policiers de l'usage de la reconnaissance faciale est-elle liée au décès de George Floyd, cet Afro-Américain mort durant un contrôle policier par trop musclé il y a trois semaines ? La technologie apparaît, en fait, comme une victime collatérale des manifestations dénonçant les violences policières dont sont victimes majoritairement les minorités ethniques. 

Dans un premier temps, les grands groupes tech ont, tous, affiché publiquement leur soutien à la cause défendue par les manifestants. Jeff Bezos, patron d'Amazon, a même médiatisé son échange sur les réseaux sociaux avec un client, hostile au mouvement Black Lives Matter. Discussion auquel le multimilliardaire a mis un terme en lançant un "Tu es le genre de client que je suis content de perdre".

Mais les différentes prises de position de ces sociétés ont été jugées trop convenues par les activistes, qui leur reprochent de se contenter de paroles sans passer aux actes. D'où le sacrifice – du moins temporaire pour Amazon – de la reconnaissance faciale. La technologie a, en effet, souvent été accusée d'entretenir les biais raciaux.

Une technologie dopée au biais raciaux

C'est particulièrement vrai dans le cas de Rekognition. En 2018, l'Union américaine pour les libertés civiles (ACLU) avait démontré que ce logiciel confondait bien trop souvent des images d'élus afro-américains avec des photos d'identité judiciaire de personnes noires prises par la police. Un an plus tard, et après quelques ajustements de l'algorithme par Amazon, la même association était parvenue à un résultat similaire, en utilisant des photos d'athlètes afro-américains. 

Au-delà du cas d'Amazon, c'est l'ensemble des solutions de reconnaissance faciale qui, malgré des avancées significatives, sont encore jugées trop peu fiables par les associations de défense des libertés civiles. D'où leurs appels répétés, depuis plus d'un an, à proscrire leur utilisation par la police. Des investisseurs d'Amazon avaient même soumis une proposition en ce sens lors d'une assemblée d'actionnaires en mai 2019, mais les responsables du groupe avaient facilement pu y faire barrage. Le Congrès se penche aussi sur l'encadrement d'un secteur encore très peu régulé.

Il aura donc fallu la mort d'un homme noir pour que le déploiement de la reconnaissance faciale ralentisse. L'ACLU s'est d'ailleurs félicitée de la décision d'IBM, de Microsoft et surtout d'Amazon. Mais l'influente association a aussi appelé le géant du e-commerce à faire davantage. 

Amazon pourrait faire plus

Car, contrairement aux annonces de Microsoft et d'IBM, le communiqué d'Amazon reste ambigu. Tout d'abord, le groupe de Jeff Bezos est le seul à donner une échéance. "Que se passera-t-il après un an ?", s'interroge ainsi le site TechCrunch, ajoutant qu'il paraît peu probable que le Congrès ne passe une législation d'ici là.

La décision d'Amazon ne cite, en outre, que la police, qui est certes l'institution dans le viseur des manifestants. Mais dans la mesure où elle peut poser problème, pourquoi ne pas avoir étendu la suspension de l'utilisation de Rekognition aux autres services de l'État, comme le FBI ou les services d'immigration, s'interroge aussi TechCrunch.

La reconnaissance faciale n'est pas le seul des services d'Amazon utilisés par la police qui s'est attiré les foudres des associations de défense des droits individuels. L'Electronic Frontier Foundation a ainsi appelé Amazon, le 3 juin, à revenir sur les accords passés avec plus de 1 200 commissariats américains concernant Ring, sa sonnette vidéo connectée. 

Ce gadget est rapidement devenu un outil de surveillance massive dans certains quartiers américains où la police encourage les résidents à lui envoyer des extraits vidéos d'activités suspectes capturés par les petites vidéos intégrées à ces sonnettes. Bien sûr, un nombre important de ces "dénonciations" ont concerné des passants de couleurs semblant "suspects" aux yeux de ces honnêtes citoyens trop pressés de jouer aux auxiliaires de police, avait constaté le site Vice, qui a consacré une longue enquête à cette question en février 2019.

Alors certes, pour les associations, chaque victoire compte et le moratoire sur l'utilisation de Rekognition constitue un progrès. Mais le flou et les omissions du communiqué d'Amazon leur font craindre que cette décision ait plus à voir avec une opération de communication qu'avec un soutien concret à tous ceux qui veulent en finir avec les discriminations policières.

Le résumé de la semaineFrance 24 vous propose de revenir sur les actualités qui ont marqué la semaine