Le recours à la reconnaissance faciale par la police est de nouveau mis en cause aux Etats-Unis après la plainte d’une femme noire arrêtée en février, et libérée après une dizaine d’heures, pour un crime qu’elle n’a pas commis.
Porcha Woodruff, une habitante de l’Etat du Michigan, a porté plainte la semaine dernière pour arrestation abusive contre la ville de Detroit et contre la policière chargée de l’enquête dans une affaire de vol de voiture avec violence.
Mme Woodruff, identifiée comme suspecte après une recherche avec un logiciel de reconnaissance faciale, a passé « environ onze heures debout ou assise sur un banc en béton » au commissariat, alors qu’elle était enceinte de huit mois, souligne la plainte. Quinze jours plus tard, un tribunal a rejeté les accusations contre elle, faute de preuves. « Etant donné les défauts bien connus des technologies de reconnaissance faciale, qui ont tendance à se tromper, la police de Detroit a enfreint les droits de la plaignante en échouant à la protéger contre des erreurs prévisibles et leurs conséquences », déclarent ses avocats dans la plainte.
Une technologie décriée
Cette technologie d’intelligence artificielle est décriée depuis des années par les défenseurs des droits humains. Ils dénoncent notamment le fait que les algorithmes, entraînés à partir de populations majoritairement blanches, font davantage d’erreurs sur les personnes noires. Dans le cas de Mme Woodruff, la police s’est servie d’images enregistrées par une caméra de vidéosurveillance dans une station-service.
« Vol de voiture à main armée ? Vous plaisantez ? Vous voyez que je suis enceinte de huit mois ? », a-t-elle lancé aux policiers qui se sont présentés chez elle le 16 février avec un mandat d’arrêt. Malgré les protestations de ses deux enfants, de son fiancé et de sa mère contactée par téléphone, elle « a été emmenée, fouillée et menottée devant sa famille et ses voisins », relate la plainte. Après une journée passée au commissariat, elle s’est rendue à l’hôpital, qui a constaté sa « faible fréquence cardiaque pour cause de déshydratation ». Et « elle [y] a appris qu’elle avait des contractions dues au stress infligé ».
La plainte reproche à la police de ne pas avoir « mis en place des règles appropriées pour l’utilisation de cette technologie » et de ne pas avoir « formé ses employés de manière adéquate », ce qui « révèle une indifférence délibérée à l’égard du préjudice potentiel subi par les personnes identifiées de manière erronée ».
Aux Etats-Unis, face à la pression d’associations, de grands groupes comme Amazon, Microsoft, IBM et Google ont arrêté, au moins temporairement, de vendre leurs logiciels de reconnaissance faciale à la police.