“Je n’y ai jamais mis les pieds” : arrêté après une erreur de reconnaissance faciale, cet homme relance le débat sur l’IA policière

Une correspondance de 93 % fournie par un logiciel de reconnaissance faciale a suffi à déclencher l’arrestation de Robert Dillon, 52 ans, à son domicile de Fort Myers, en Floride.

L’homme, qui affirme n’avoir jamais mis les pieds à Jacksonville Beach, à plus de 300 miles et environ cinq heures de route, a vu son nom associé à une affaire sensible impliquant une fillette de moins de 12 ans. Les charges ont été abandonnées l’an dernier après l’incident d’août 2024. Dillon vient désormais de déposer une plainte civile, via l’ACLU, contre plusieurs services de police et le responsable d’un système de comparaison de visages utilisé par des agences locales.

Jacksonville Beach police fonde l’identification sur un score de 93 %

Selon la version communiquée par le Jacksonville Beach Police Department, l’enquête démarre après des images de vidéosurveillance tournées dans un McDonald’s de la ville. Les enquêteurs cherchent à identifier l’homme filmé en train de tenter de convaincre une fillette, décrite comme non accompagnée et âgée de moins de 12 ans, de partir avec lui. Dans ce type de dossier, la pression opérationnelle est forte, car l’enjeu de protection de l’enfance conduit souvent à accélérer les vérifications.

Les policiers recourent à un outil d’analyse de visages, présenté comme capable de proposer des candidats à partir d’une image extraite d’une caméra. L’algorithme retourne une probabilité de 93 % associée à Robert Dillon. Ce score, qui peut être interprété comme un indicateur de similarité, n’est pas un constat d’identité au sens juridique. Dans les usages policiers, ces résultats sont censés orienter une enquête, pas remplacer des éléments matériels tels qu’une présence vérifiable sur place, des relevés téléphoniques, des transactions, ou des témoignages recoupés.

Le dossier montre pourtant que le résultat informatique a pesé lourd dans la chaîne de décision. Dillon soutient qu’il a été traité comme suspect principal sur la base de ce seul rapprochement, avant toute corroboration solide. L’affaire met en lumière un point technique souvent mal compris du grand public, un score élevé ne garantit pas l’absence d’erreur, surtout quand l’image d’origine est de qualité moyenne, prise sous un angle défavorable, ou affectée par l’éclairage d’un commerce.

Dans les procédures américaines, la fiabilité d’une méthode d’identification est centrale, car elle conditionne la légitimité de mesures coercitives. Le cas Dillon pose une question simple, à partir de quel niveau de confiance un service considère-t-il qu’un résultat mérite une arrestation, et quelles vérifications doivent être obligatoires avant de franchir ce seuil. Les réponses varient selon les agences, faute d’un standard unique, ce qui alimente des pratiques hétérogènes sur un même territoire.

Fort Myers, 300 miles: l’alibi géographique ignoré dans l’enquête

Robert Dillon vit à Fort Myers, dans le sud-ouest de la Floride, alors que les faits ayant déclenché l’enquête se situent à Jacksonville Beach, sur la côte nord-est. La distance évoquée dans la plainte, plus de 300 miles, correspond à un trajet d’environ cinq heures en voiture. Dans une enquête classique, ce seul élément impose des vérifications minimales, historique de déplacements, activité professionnelle, présence familiale, données de géolocalisation quand elles sont légalement accessibles, et recoupements avec des témoins.

Dillon affirme avoir indiqué aux enquêteurs qu’il n’avait jamais été à Jacksonville Beach. Ce type de déclaration, isolée, ne suffit pas à écarter une piste. Mais l’écart géographique rend indispensable une recherche d’indices confirmant une présence réelle, par exemple des paiements par carte dans la zone, un badge de parking, un hôtel, un péage, ou des images complémentaires montrant le suspect au volant d’un véhicule identifiable. L’absence de tels éléments, si elle est avérée, fragilise l’idée qu’une correspondance algorithmique puisse justifier une arrestation à domicile.

Le coût humain d’une erreur d’identité est souvent sous-estimé. Une arrestation entraîne un risque de perte d’emploi, des frais d’avocat, une exposition médiatique locale, et un impact durable sur la réputation. Dans un dossier lié à une tentative de manipulation d’une enfant, l’atteinte à l’image est encore plus lourde, même si la justice abandonne ensuite les poursuites. Les familles rapportent fréquemment des conséquences concrètes, appels anonymes, rupture de liens sociaux, difficultés de logement, ou surveillance accrue.

La plainte insiste sur la mécanique de l’erreur, une hypothèse initiale s’est transformée en certitude opérationnelle. Dans les enquêtes appuyées par des outils d’IA, ce phénomène est connu sous l’angle du biais d’automatisation, des agents accordent davantage de crédit à une sortie machine, surtout quand elle est exprimée en pourcentage. Un score de 93 % peut donner l’illusion d’une quasi-certitude, alors qu’il ne dit rien, à lui seul, sur la probabilité qu’un autre individu ressemble davantage dans la population locale ou dans la base de comparaison.

L’ACLU vise Faces et le shérif Bob Gualtieri dans la plainte

Le recours judiciaire est porté par l’American Civil Liberties Union (ACLU) au nom de Robert Dillon. La plainte vise plusieurs entités, le service de police de Jacksonville Beach, le Jacksonville Sheriff’s Office, et Bob Gualtieri, shérif du comté de Pinellas. Selon les éléments rendus publics, l’agence de Pinellas maintient et opère un système nommé Faces, pour Face Analysis Comparison and Examination, puis le met à disposition d’autres services via un mécanisme de location ou de partage.

Cette architecture est fréquente dans les États américains, une agence centralise une capacité technique coûteuse, serveurs, licences, accès à des bases d’images, et la diffuse à des services plus petits. Le revers est la dilution des responsabilités. Quand une identification erronée débouche sur une arrestation, qui répond de la formation, des règles d’usage, du paramétrage du seuil d’alerte, et des contrôles qualité. La plainte cherche à établir que la chaîne, de l’outil à la décision policière, a produit une atteinte injustifiée aux droits d’un citoyen.

L’ACLU écrit que l’enquête a abouti à l’arrestation et la poursuite injustifiées d’un homme innocent. Au-delà du cas individuel, l’organisation vise un message plus large, les systèmes de reconnaissance faciale doivent être encadrés par des politiques strictes, avec une exigence de corroboration indépendante. Dans plusieurs États, des villes ont déjà restreint ces outils dans l’espace public, tandis que d’autres continuent de les déployer au nom de l’efficacité dans l’identification de suspects.

Le dossier civil s’inscrit aussi dans une tendance, le contentieux sert de levier pour obtenir des documents internes, procédures, taux d’erreurs connus, audits, contrats avec des fournisseurs, et historiques de recherches. Ces pièces peuvent éclairer le fonctionnement réel du dispositif, par exemple la fréquence des faux positifs, la qualité des images acceptées, ou l’existence de garde-fous interdisant une arrestation sans preuve additionnelle. Une procédure peut également conduire à des réformes, formation obligatoire, double validation par un enquêteur spécialisé, ou journalisation systématique des recherches.

Charges abandonnées en 2024, mais l’impact judiciaire reste durable

Les poursuites liées à l’incident d’août 2024 ont été abandonnées, et l’affaire pénale a été classée l’an dernier, selon les informations disponibles. Sur le plan strictement judiciaire, cela met fin au risque de condamnation pour Dillon. Mais l’abandon de charges ne répare pas automatiquement les dommages, car une arrestation laisse des traces, dossiers administratifs, bases de données, empreintes, photos, et parfois des mentions consultables selon les règles locales.

La plainte intervient dans un contexte où les infractions associées à une arrestation peuvent entraîner des conséquences distinctes. En Floride, fournir une fausse identité lors d’une arrestation ou d’une détention légale est un délit, décrit comme un misdemeanor de premier degré, passible jusqu’à un an de prison et jusqu’à 920 € d’amende. Si cette fausse identité cause un préjudice à autrui, l’infraction peut être requalifiée en felony de troisième degré, avec des peines pouvant aller jusqu’à cinq ans et jusqu’à 4600 € d’amende. Ces rappels montrent la sensibilité du système à l’identification, une erreur initiale peut entraîner un enchaînement de décisions et de signalements.

Dans le cas Dillon, l’enjeu est inverse, il ne s’agit pas d’une fausse identité fournie par un suspect, mais d’une identité attribuée à tort par une enquête. La comparaison met en relief une asymétrie, la loi punit sévèrement les mensonges d’un individu face aux forces de l’ordre, mais la réparation d’une erreur institutionnelle dépend souvent d’une procédure civile longue, coûteuse, et incertaine. Les victimes doivent prouver le préjudice, établir la faute, et franchir des obstacles juridiques liés aux immunités et aux standards de responsabilité.

Les dossiers de reconnaissance faciale soulèvent un autre problème, la persistance des données. Même après un classement, des copies d’images, des rapports, ou des logs de recherche peuvent rester stockés. Cela crée un risque de réapparition du nom lors d’une enquête ultérieure, si un agent relance une recherche et retombe sur un ancien rapprochement. Dans les meilleures pratiques, des procédures de purge et de correction des erreurs sont prévues, mais elles varient fortement selon les juridictions.

Reconnaissance faciale: le débat sur les faux positifs et les règles d’usage

Le cas de Robert Dillon s’ajoute à une série d’affaires américaines où la reconnaissance faciale a été accusée de produire des faux positifs. Les systèmes fonctionnent par comparaison de caractéristiques du visage, distances entre points, textures, proportions, puis calculent une similarité. Dans un environnement réel, les images proviennent souvent de caméras de sécurité, avec compression, angle oblique, contre-jour, ou mouvement. Chaque dégradation augmente la probabilité qu’un individu ressemble à un autre dans la base.

Le chiffre de 93 % illustre un piège de communication. Un pourcentage paraît intuitif, mais il ne correspond pas nécessairement à la probabilité d’être la bonne personne. Selon les outils, il peut s’agir d’un score interne, d’une distance normalisée, ou d’un rang dans une liste de candidats. Sans documentation claire, deux services peuvent interpréter différemment le même résultat. Des politiques internes fixent parfois un seuil, 85 %, 90 %, 95 %, mais ces seuils ne remplacent pas une validation humaine fondée sur des indices indépendants.

Plusieurs recommandations circulent dans le monde policier et judiciaire, traiter la sortie de l’algorithme comme une piste, exiger une confirmation par un enquêteur formé à la comparaison faciale, et documenter systématiquement les étapes. Des garde-fous existent aussi, interdire l’usage sur des images de faible qualité, imposer un second contrôle par un superviseur, et conserver les captures d’écran et paramètres utilisés pour permettre une vérification ultérieure. Sans ces règles, l’outil peut devenir un accélérateur d’erreur.

Le débat porte aussi sur la gouvernance. Quand un système comme Faces est opéré par une agence et utilisé par d’autres, la question du contrôle démocratique se pose, quels élus ont accès aux contrats, quels audits sont réalisés, et quelles statistiques d’erreurs sont publiées. Les défenseurs des libertés publiques demandent souvent des rapports réguliers, nombre de recherches, nombre d’identifications confirmées, nombre de faux positifs, et profils des affaires concernées. Les forces de l’ordre soulignent de leur côté l’intérêt opérationnel, retrouver rapidement un suspect, identifier une personne disparue, ou recouper des images dans une enquête urgente.

Le contentieux engagé en Floride pourrait pousser les agences concernées à clarifier leurs protocoles, notamment sur le moment où une correspondance algorithmique peut être mentionnée dans une demande de mandat, et sur les preuves additionnelles exigées. Les tribunaux, eux, sont de plus en plus sollicités pour arbitrer la place de l’IA dans la chaîne probatoire, avec une exigence croissante de transparence sur les méthodes et leurs limites.