La reconnaissance faciale automatisée, une technologie dangereuse pour les citoyens

Une mère de famille arrêtée à tort à Détroit

Porsha Woodruff, 32 ans, préparait ses deux filles pour l’école lorsque six agents de police se sont présentés à sa porte à Détroit. Ils lui ont demandé de sortir parce qu’elle était en état d’arrestation pour vol à main armée et détournement de véhicule.

«Vous plaisantez?» se souvient-elle avoir répondu aux agents. Mme Woodruff a indiqué son ventre pour montrer à quel point elle était peu équipée pour commettre un tel crime: elle était enceinte de 8 mois.

Menottée devant sa maison un jeudi matin de février dernier, laissant ses enfants en pleurs avec son fiancé, Mme Woodruff a été emmenée au centre de détention de Détroit. Elle a déclaré avoir été détenue pendant 11 heures, interrogée sur un crime dont elle a déclaré n’avoir aucune connaissance, et avoir eu son iPhone saisi pour rechercher des preuves.

«J’avais des contractions dans la cellule de détention. Mon dos m’envoyait des douleurs aiguës. J’avais des spasmes. Je pense que j’étais probablement en train de faire une crise de panique», a déclaré Mme Woodruff, esthéticienne agréée et étudiante en soins infirmiers. «J’avais mal, assise sur ces bancs en béton.»

Une technologie controversée

Après avoir été inculpée de vol à main armée et de détournement de véhicule, Mme Woodruff a été libérée ce soir-là sous caution personnelle de 100 000 $. Dans un entretien, elle a déclaré s’être rendue directement à l’hôpital où elle a reçu un diagnostic de déshydratation et deux sacs de liquides intraveineux. Un mois plus tard, deux semaines avant d’accoucher de son fils, le procureur du comté de Wayne a abandonné les charges retenues contre elle.

L’épreuve a commencé par une recherche automatisée de reconnaissance faciale, selon un rapport d’enquête du département de police de Détroit. Mme Woodruff est la sixième personne à signaler avoir été faussement accusée d’un crime à la suite de l’utilisation de la technologie de reconnaissance faciale par la police pour faire correspondre le visage d’un délinquant inconnu à une photo dans une base de données. Les six personnes étaient noires; Mme Woodruff est la première femme à le signaler.

C’est le troisième cas impliquant le département de police de Détroit, qui effectue en moyenne 125 recherches de reconnaissance faciale par an, presque entièrement sur des hommes noirs, selon les rapports hebdomadaires sur l’utilisation de la technologie fournis par la police à la commission de surveillance de la police de Détroit, un groupe de surveillance civil.

Les critiques de la technologie affirment que les cas exposent ses faiblesses et les dangers qu’elle pose pour les innocents. Le département de police de Détroit «est une agence qui a toutes les raisons de connaître les risques que comporte l’utilisation de la reconnaissance faciale», a déclaré Clare Garvie, une experte de la technologie à la National Association of Criminal Defense Lawyers. «Et ça arrive quand même.»

Des conséquences désastreuses

Jeudi, Mme Woodruff a déposé une poursuite pour arrestation illégale contre la ville de Détroit devant le tribunal de district des États-Unis du district est du Michigan.

«J’ai examiné les allégations contenues dans le procès. Ils sont très préoccupants», a déclaré dans un communiqué le chef de la police de Détroit, James E. White, en réponse aux questions du New York Times. «Nous prenons cette affaire très au sérieux, mais nous ne pouvons pas commenter davantage pour le moment en raison de la nécessité d’une enquête supplémentaire.»

Le bureau du procureur du comté de Wayne, Kym Worthy, considère que le mandat d’arrêt dans l’affaire de Mme Woodruff est « approprié compte tenu des faits », selon un communiqué publié par son bureau.

Une enquête contestable

Deux semaines et demie avant que la police ne se présente à la porte de Mme Woodruff, un homme de 25 ans avait appelé la police de Détroit depuis un magasin d’alcool pour signaler qu’il avait été dévalisé à main armée, selon un rapport de police inclus dans le procès de Mme Woodruff.

La victime du vol a déclaré à la police qu’elle avait ramassé une femme dans la rue plus tôt dans la journée. Il a dit qu’ils avaient bu ensemble dans sa voiture, d’abord sur le parking d’un magasin d’alcool, où ils avaient eu des rapports sexuels, puis à une station-service BP. Lorsqu’il l’a déposée à un endroit à 10 minutes de là, un homme venu à sa rencontre a brandi un pistolet, a pris le portefeuille et le téléphone de la victime, et a fui dans la Chevy Malibu de la victime, selon le rapport de police.

Quelques jours plus tard, la police a arrêté un homme conduisant le véhicule volé. Une femme correspondant à la description donnée par la victime a déposé son téléphone à la même station-service BP, indique le rapport de police.

Un détective de l’unité de vol de véhicules commerciaux du département a obtenu la vidéo de surveillance de la station-service BP, indique le rapport de police, et a demandé à un analyste criminaliste du département d’effectuer une recherche de reconnaissance faciale sur la femme.

Selon les documents municipaux, le service utilise un fournisseur de reconnaissance faciale appelé DataWorks Plus pour exécuter des visages inconnus par rapport à une base de données de photos de mugshots criminels; le système renvoie des correspondances classées selon leur probabilité d’être la même personne. Un analyste humain est en fin de compte responsable de décider si l’une des correspondances est un suspect potentiel. Le rapport de police indique que l’analyste criminel a donné à l’enquêteur le nom de Mme Woodruff sur la base d’une correspondance avec une photo de mugshot de 2015. Mme Woodruff a déclaré dans un entretien qu’elle avait été arrêtée en 2015 après avoir été interpellée au volant avec un permis expiré.

Cinq jours après le détournement de véhicule, indique le rapport de police, le détective assigné à l’affaire a demandé à la victime d’examiner les photos de mugshots de six femmes noires, communément appelées « six-pack photo lineup ». La photo de Mme Woodruff figurait parmi elles. Il l’a identifiée comme la femme avec laquelle il avait été. C’était la base de son arrestation, selon le rapport de police. (La police n’a pas précisé si une autre femme avait depuis été inculpée dans l’affaire.)

Un impact négatif

Gary Wells, professeur de psychologie qui a étudié la fiabilité des identifications de témoins oculaires, a déclaré que le couplage de la technologie de reconnaissance faciale avec une identification de témoin oculaire ne devrait pas être la base de l’inculpation de quelqu’un pour un crime. Même si cette personne au visage similaire est innocente, un témoin oculaire à qui l’on demande d’effectuer la même comparaison est susceptible de répéter l’erreur commise par l’ordinateur.

«C’est circulaire et dangereux», a déclaré le Dr Wells. «Vous avez un outil très puissant qui, s’il recherche suffisamment de visages, produira toujours des personnes qui ressemblent à la personne sur l’image de surveillance.»

Le Dr Wells a déclaré que la technologie aggravait un problème existant avec les témoins oculaires. «Ils supposent que lorsque vous leur montrez un six-pack, la vraie personne est là», a-t-il dit.

L’affaire de Mme Woodruff n’est pas un cas isolé. La ville de Détroit est confrontée à trois poursuites pour arrestations illégales basées sur l’utilisation de la technologie.

Vers plus de régulation ?

«Une technologie médiocre produit des enquêtes médiocres, et les assurances de la police qu’elle mènera des enquêtes sérieuses ne sonnent pas vrai», a déclaré Phil Mayor, avocat principal à l’ACLU du Michigan.

M. Mayor représente Robert Williams, un homme de Détroit qui a été arrêté en janvier 2020 pour vol à l’étalage sur la base d’une correspondance faciale défectueuse, pour laquelle le bureau du procureur s’est excusé par la suite.

Dans son procès, M. Williams tente d’amener la ville à accepter de recueillir plus de preuves dans les affaires impliquant des recherches faciales automatisées et de mettre fin à ce que M. Mayor a appelé le «pipeline de reconnaissance faciale à la mise en place».

«Il s’agit d’une pratique extrêmement dangereuse qui a conduit à de multiples arrestations illégales que nous connaissons», a déclaré M. Mayor.

Un traumatisme durable

Mme Woodruff a déclaré qu’elle avait été stressée pour le reste de sa grossesse. Elle a dû se rendre au poste de police le lendemain pour récupérer son téléphone et a comparu deux fois devant le tribunal par Zoom avant que l’affaire ne soit classée faute de preuves suffisantes.

«C’est effrayant. Je m’inquiète. Quelqu’un ressemble toujours à quelqu’un d’autre», a déclaré son avocat, Ivan L. Land. «La reconnaissance faciale n’est qu’un outil d’enquête. Si vous obtenez un résultat, faites votre travail et allez plus loin. Frappez à sa porte.»

Mme Woodruff a déclaré qu’elle avait eu honte d’être arrêtée devant ses voisins et que ses filles avaient été traumatisées. Elles taquinent maintenant son fils nourrisson en disant qu’il était «en prison avant même d’être né».

L’expérience a été d’autant plus difficile qu’elle était si avancée dans sa grossesse, mais Mme Woodruff estime qu’elle a de la chance que ce soit le cas. Elle pense que cela a convaincu les autorités qu’elle n’avait pas commis le crime. La femme impliquée dans le détournement de véhicule n’était pas visiblement enceinte.