Chicago : comment la technologie de l'IA a envoyé un innocent en prison

Actualités, Contre la désinformation, High-Tech, International - le - par .
Transférer à un amiImprimerCommenterAgrandir le texteRéduire le texte
FacebookTwitterGoogle+LinkedInPinterest
Chicago : comment la technologie de l'IA a envoyé un innocent en prison

 

Comment la technologie de l'IA a peut-être envoyé un innocent en prison

Michael Williams a été inculpé de meurtre et condamné à 11 mois de prison après qu'un système de détection de tir ait déterminé qu'il avait abattu un jeune homme du quartier dans sa propre voiture.

L'enquête révèlera de graves failles dans l'utilisation de ce système dont  les preuves découlent exclusivement  de l'algorithme de l'entreprise Shotspotter

La femme de Michael Williams le suppliait durant sa détention de se souvenir des voyages de pêche qu'il faisait avec leurs petits-enfants, de la façon dont il avait l'habitude de lui tresser les cheveux ou de tout ce qui lui rappellerait le monde à l'extérieur des murs de béton de la prison du comté de Kook dans l'Illinois.

Ses trois appels téléphoniques quotidiens sont devenus une bouée de sauvetage, mais lorsque ceux-ci sont tombés à deux, puis à un,Williams, 65 ans, a senti qu'il ne pouvait plus. Il prévoyait de mettre fin à ses jours à l'aide d'un tas de balles qui avait accumulé dans sa cellule.

Williams a été envoyé en prison en août dernier après avoir été accusé du meurtre d'un jeune homme du quartier qui lui avait demandé de le conduire lors d'une nuit de manifestations contre la violence policière en mai.

Mais la principale preuve contre Williams ne provenait pas de témoins oculaires ou d'un informateur de la police ; Il provenait d'une vidéo silencieuse d'une caméra de sécurité montrant une voiture passant à une intersection et du bruit fort d'une explosion enregistré sur un réseau de microphones de surveillance.
L'accusation a affirmé que selon la technologie d'un algorithme confidentiel qui décodait les bruits enregistrés par les capteurs - Williams a tiré à bout portant sur le jeune homme. 

"J'ai essayé de comprendre, comment peuvent-ils utiliser une telle technologie contre moi?" Dit Williams. "Ce n'est pas juste". Williams a été emprisonné près d'un an avant que le juge n'abandonne les charges retenues contre lui le mois dernier, à la demande de l'accusation, qui a admis ne pas disposer de suffisamment de preuves. 

Son histoire est un exemple du prix réel de la dépendance croissante aux algorithmes lors de la prise de décisions ayant des implications profondes pour de nombreux aspects de la vie publique.

Cela est particulièrement visible dans le monde des forces de l'ordre, qui ces dernières années s'est de plus en plus tournée vers des entreprises technologiques comme une société de détection de tir appelée ShotSpotter pour lutter contre le crime.

À ce jour, environ 200 éléments de preuve basés sur les données de Shotspotter ont été soumis aux tribunaux à travers le pays.

Le site Web de la société indique qu'elle "est à la pointe des solutions technologiques pour améliorer les recherches de la police" et aide à lutter contre la violence armée grâce à l'utilisation de "capteurs, algorithmes et intelligence artificielle" en classant pas moins de 14 millions de sons différents dans sa base de données.  

Mais une enquête portant sur l'examen de milliers de documents internes, de courriels, de présentations et de contrats confidentiels, ainsi que sur des entretiens avec des dizaines de défenseurs publics dans les communautés où le tir a été eu lieu, a révélé un certain nombre de failles graves dans l'utilisation par les procureurs de preuve de l'algorithme de l'entreprise. 

L'enquête a révélé que le système pouvait louper des tirs réels juste sous ses microphones ou classer de manière incorrecte les sons tels que des feux d'artifice ou le bruit des pots d'échappement de voiture .

En outre il a  été allégué que des rapports médico-légaux préparés par des employés de l'entreprise avaient été utilisés à tort pour alléguer qu'un suspect avait tiré sur des policiers ou pour fournir des explications douteuses sur le nombre de coups de feu que le suspect aurait tirés. Dans plusieurs cas, les juges ont refusé d'accepter ces preuves. . 

"La technologie est exempte d'erreurs"

Les algorithmes détenus par Shotspotter sont le produit principal de l'entreprise, et elle affiche souvent la technologie dans les supports marketing et prétend que la technologie est exempte d'erreurs. Mais l'entreprise défend son système c'est une boîte noire qui n'est pas transparente pour le public, un jury ou des commissions d'enquête policières. 

Les méthodes de détection de l'entreprise ne sont pas toujours guidées uniquement par la technologie. Les employés de Shotspotter peuvent - et le font souvent - changer la définition de la source des sons enregistrés par les capteurs après les avoir écoutés, ce qui ouvre la possibilité d'un biais humain dans l'algorithme.

Ils peuvent également modifier le lieu ou le nombre de coups de feu à la demande de la police, selon des documents judiciaires. Et dans le passé, les centres d'appels de la ville et la police elle-même étaient autorisés à apporter certains de ces changements. 

Dans le sillage du débat houleux aux États-Unis sur les préjugés raciaux dans le travail de la police, les militants des droits civiques avertissent que ce système et d'autres technologies basées sur des algorithmes utilisés pour attraper et condamner les accusés manque de transparence et de surveillance.

Interrogé sur d'éventuelles erreurs dans l'algorithme, le PDG de Scoutspotter, Ralph Clark, a refusé d'entrer dans les détails sur l'utilisation de l'intelligence artificielle par l'entreprise, affirmant que "ce n'est pas vraiment pertinent".

Modification des règles du jeu

Les chefs de police disent que le système a changé les règles du jeu. La technologie, qui a été installée dans environ 110 villes aux États-Unis, coûte environ 95 000 dollars par mile carré par an, elle permet d'amener plus rapidement les flics sur les scènes de crime.

Mais les études examinant les effets du système sur les communautés sont arrivées à des conclusions différentes. Une étude évaluée par des pairs, publiée dans le numéro d'avril du Journal of Urban Health, a examiné l'impact dans 68 grands districts urbains entre 1999 et 2016. Il a constaté que la technologie ne réduisait pas la violence armée ni n'augmentait   le sentiment de sécurité dans la communauté. 

Une étude commandée par l'entreprise elle-même en 2011 a révélé que les bruits de décharges, de camions, de motos, d'hélicoptères, de feux d'artifice, de construction et de cloches d'église provoquaient tous de fausses alarmes lorsqu'un système les classait par erreur comme des tirs.

En raison des fausses alertes, des villes comme Charlotte en Caroline du Nord et San Antonio au Texas ont précédemment annulé leurs contrats avec la société.

Shotspotter installe ses capteurs acoustiques dans les bâtiments, les poteaux téléphoniques et l'éclairage public. Les employés sont, assis dans une pièce sombre avec un accès limité et examinent des milliers d'avertissements de coups de feu sur une variété d'écrans d'ordinateur au siège de l'entreprise, à environ 90 km au sud de San Francisco, ou dans le nouveau bureau de Washington. 

Alors que les méthodologies d'outils médico-légaux comme l'ADN et les preuves balistiques ont été examinées depuis des décennies, Scotspotter prétend être propriétaire de son algorithme - et refuse de le divulguer.

Selon la politique de confidentialité de l'entreprise, les postes de police ne savent pas où ses capteurs sont installés, bien que les habitants puissent les voir sur les lampadaires.

La société refuse de divulguer des données et des rapports internes, ce qui ne permet pas aux avocats de la défense de rechercher la technologie pour comprendre exactement comment elle fonctionne. 

"Il n'y a aucun moyen de déterminer s'il est précis, supervisé, calibré - ou si quelqu'un a ajouté quoi que ce soit, ", a déclaré Kate Higgins, une avocate aux prises avec des preuves du détecteur et a gagné. "La conséquence la plus grave est une condamnation pour un crime que vous n'avez pas commis sur la base de cette preuve."

La start-up a été fondée dans la Silicon Valley il y a 25 ans, avec le soutien du capital-risqueur Gary Lauder, héritier de l'empire cosmétique d'Estee Lauder.
Aujourd'hui, le milliardaire est toujours le plus gros investisseur de l'entreprise.

Le gouvernement américain a dépensé plus de 6,9 ​​millions de dollars pour des systèmes de détection d'armes à feu, , a indiqué le ministère de la Justice. Les pays et les autorités locales ont dépensé des millions de plus pour acheter le système coûteux. 

Les actions de la société ont plus que doublé depuis sa première émission au public en 2017, et au premier semestre 2021, elle a enregistré des revenus de près de 30 millions de dollars.

Selon le site Web de la société, elle opère dans 119 communautés aux États-Unis, dans les Caraïbes et en Afrique du Sud et dispose de 18 000 capteurs couvrant une superficie de 2 100 kilomètres carrés.

En 2018, il a acquis une société de police appelée HunchLab, qui combine des modèles d'intelligence artificielle avec des données de tir Shotspotter pour tenter de prédire les crimes avant qu'ils ne se produisent.

La société a déclaré qu'elle avait l'intention de s'étendre à l'Amérique latine et à d'autres régions du monde. Elle a récemment nommé Roberta Jacobson, ancienne ambassadrice des États-Unis au Mexique, à son conseil d'administration. 

À la fin de l'année dernière, l'administration Trump a appelé à un financement accru pour des systèmes comme celui de Shotspotter, pour "lutter contre la violence armée et la criminalité".

Et au printemps dernier, l'administration Biden a nommé David Chipman, un ancien tireur senior, président de l'Autorité de l'alcool, du tabac, des armes et des explosifs.

En juin, le président Joe Biden a appelé les maires à acheter des systèmes de détection d'armes à feu "afin de mieux lutter contre la violence armée dans leur pays". communautés ".

"Quelque chose en moi vient de mourir"

Un soir de mai 2020, Williams et sa femme Jacqueline Anderson étaient assis dans leur appartement du côté sud de Chicago. Ils ont nourri leurs chiens Lily et Shibi. Anderson s'est endormi. Williams a déclaré qu'il avait quitté la maison pour acheter des cigarettes dans une station-service. Mais les pillards l'ont précédé. C'était six jours après que l'officier Derek Chubin ait étranglé George Floyd à mort à Minneapolis.

A 1000 km de là, dans le quartier de Williams, les manifestations dégénèrent : des magasins sont démantelés, des vitrines brisées, des coups de feu tirés. 

Au moment où Williams est arrivée à la station-service, elle était déjà dévastée. Alors il a rebroussé chemin avec sa voiture. Avant de s'approcher de sa rue résidentielle, a-t-il dit, il a repéré Safrian Herring, 25 ans, qui se promenait dans le quartier, lui faisant signe de faire un tour. Il s'arrêta et le jeune homme s'assit sur le siège passager.

Selon le témoignage de Williams à la police, lorsqu'il est arrivé à l'intersection, une autre voiture s'est arrêtée à côté d'eux. Un homme assis sur le siège passager leur a tiré dessus.

"J'étais sous le choc. Je ne pouvais rien faire d'autre que me pencher à l'intérieur de la voiture", a-t-il déclaré. Alors que Herring saignait à mort d'une balle dans la tête, Williams a accéléré  et passé un feu rouge. "Je n'arrêtais pas de lui crier dessus : 'Est-ce que ça va ?' "Et il n'a pas répondu", a-t-il dit. Williams a conduit Herring à un hôpital voisin, où les médecins des urgences ont tenté de lui sauver la vie. Ils ont annoncé sa mort le 2 juin.

Trois mois après la mort de Herring, des policiers sont arrivés à l'appartement de Williams et lui ont ordonné de venir au poste. Il a eu des affaires pénales et, dans le passé, il a été envoyé en prison à trois reprises - pour tentative de meurtre, vol qualifié et utilisation d'une arme. Williams dit que tout s'est passé était quand il était jeune et qu'au cours des 15 dernières années, il a occupé des emplois légaux et n'a pas enfreint la loi.

Après avoir été interrogé, la police l'a envoyé dans une cellule de détention. "Ils ont dit qu'ils m'accusaient de meurtre au premier degré", a déclaré Williams. "Quand ils ont dit ça, j'ai eu l'impression que quelque chose en moi était mort."

La nuit où Williams est sorti acheter des cigarettes, les capteurs de Shotspotter ont détecté le bruit de coups de feu près du lac Michigan. Ces documents ont renforcé la théorie de l'accusation selon laquelle Williams a tiré sur son passager, même s'il n'y avait aucun motif ni témoin oculaire. Aucune arme n'a été retrouvée sur les lieux du crime.

L'accusation est basée sur une caméra de sécurité qui a filmé Williams passant un feu rouge. Les caméras ont également filmé l'autre voiture, mais comme les fenêtres semblaient fermées, l'accusation a fait valoir qu'il était impossible de prouver que le tir provenait d'elle.

Le bureau du procureur général du comté de Cook a déclaré dans une réponse après un examen minutieux de tous les documents, les plaignants « sont arrivés à la conclusion que les preuves étaient insuffisantes pour s'acquitter de la charge de la preuve ».

L'affaire contre Williams a été abandonnée après avoir passé 11 mois en prison.

L'avocat de la défense de Williams a déclaré  "Mon client ne méritait pas de se voir retirer sa liberté sur la base de preuves insuffisantes et non prouvées", a-t-il déclaré. "Compte tenu de l'historique des fausses preuves médico-légales dans nos tribunaux, nous ne devrions pas laisser Shotspotter être la prochaine chose qui provoque de fausses condamnations." Williams a été libéré le 23 juillet. Sa femme, Anderson, l'attendait à la maison.

Les organismes d'application de la loi de Chicago continuent de soutenir leur utilisation de Shopspotter. Le contrat de Chicago avec l'entreprise - pour trois ans, d'une valeur de 33 millions de dollars - a été signé en 2018, et la ville est le plus gros client de l'entreprise. 

Williams ne s'est pas encore remis du traumatisme. Il dit ne plus se sentir chez lui dans sa ville. En se promenant dans la ville, il cherche les petits micros qui ont failli l'envoyer en prison à vie. "Ces appareils ne sont installés que dans les communautés noires pauvres, pas ailleurs", a-t-il déclaré. « Combien d'entre nous se retrouveront dans la même situation ? »

Vos réactions

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

A voir aussi