Jalil Richardson, habitant de Caroline du Nord, vient de sortir de prison après plus de 50 jours derrière les barreaux pour un crime qu’il n’a jamais commis. Son tort ? Avoir été désigné par un logiciel de reconnaissance faciale comme un suspect « à 85% compatible ».

Une précision digne d’un horoscope, mais suffisante pour déclencher une bonne vieille arrestation. Le système, alimenté par des images de vidéosurveillance d’un commerce en Floride, a convaincu les autorités, renforcé par deux témoignages oculaires.

Reconnu, coupable… mais innocent.

Bizarrement, au moment des faits (vol de véhicule), Richardson travaillait… à des centaines de kilomètres de là. C’est gênant. Aucune vérification sérieuse n’a été réalisée avant son incarcération. Cela aurait pris une heure, trop long, trop compliqué. Résultat : près de deux mois en détention avant que ses avocats ne prouvent enfin son innocence.

Les charges ont été abandonnées, mais les dégâts sont profonds : il a perdu son emploi, son logement et la garde de ses enfants. D’autant que son portrait ayant été largement diffusé, sa recherche d’emploi est… disons… compliquée.

La justice algorithmique laisse des traces.

Ce cas n’est pas isolé. Richardson est la 14ème victime connue d’arrestation injustifiée liée à la reconnaissance faciale. À Jacksonville, un précédent impliquait Robert Dillon, identifié à 93% comme un kidnappeur, alors qu’il se trouvait à cinq heures de route. Malgré ces erreurs répétées, les autorités locales continuent de défendre la technologie, niant toute discrimination raciale. Oui, parce qu’étonnamment, « la plupart de ces erreurs concernent des personnes de couleur [et] le groupe le plus touché est celui des Noirs » a déclaré Adam Schwartz, responsable des litiges en matière de protection de la vie privée à l’Electronic Frontier Foundation.

Vers une société où la vie se joue à la roulette de l’IA ?

Sources : actionnewsjax.com et futurism.com.