L’intelligence artificielle (IA) transforme rapidement le fonctionnement des forces de police et du système de justice pénale. De l’analyse des preuves numériques à la rédaction automatisée de documents, en passant par l’identification de schémas criminels, ces technologies promettent d’améliorer l’efficacité et d’alléger la charge de travail des professionnels. Toutefois, une nouvelle étude menée par l’Université de Northumbria met en garde contre un déploiement de ces outils qui progresse plus rapidement que les mécanismes de contrôle, de supervision et de régulation nécessaires pour garantir une utilisation sûre, transparente et responsable.

Réalisée sur une période de quatre ans dans le cadre du projet PROBabLE Futures, cette étude constitue à ce jour la cartographie la plus complète de l’utilisation de l’IA au sein du système de justice pénale en Angleterre et au Pays de Galles. Les chercheurs ont recensé 70 outils d’intelligence artificielle déjà opérationnels, en phase d’expérimentation ou en cours de développement. Parmi eux, 27 sont déjà utilisés dans un cadre opérationnel, tandis que 34 font l’objet de projets pilotes. Plus de la moitié ont été développés par des entreprises privées, ce qui illustre également le rôle croissant du secteur technologique dans ce domaine.
Les applications identifiées sont très variées. Elles comprennent la transcription automatique des dépositions, l’assistance à la rédaction des procès-verbaux, le tri des appels adressés aux centres d’urgence, l’analyse de grands volumes d’informations afin de détecter des tendances criminelles, l’identification des personnes vulnérables, la gestion des preuves numériques, la rédaction de documents judiciaires ainsi que les systèmes de reconnaissance faciale. Certaines solutions sont également destinées au bien-être des agents et sont capables de détecter des indicateurs de stress ou de risques psychosociaux.
Les chercheurs reconnaissent que nombre de ces applications apportent des bénéfices réels lorsqu’elles sont correctement mises en œuvre. Les tâches répétitives et administratives peuvent être automatisées, ce qui permet aux professionnels de consacrer davantage de temps aux activités nécessitant un jugement humain. De même, l’analyse automatisée des données peut accélérer les enquêtes et faciliter l’identification d’informations pertinentes qui pourraient passer inaperçues lors d’un examen manuel.
Cependant, le principal enseignement du rapport est que ces avantages ne sont durables que si les outils ont été conçus pour répondre à des besoins précis, ont fait l’objet de tests rigoureux et sont encadrés par des mécanismes de supervision solides. Selon les auteurs, cette situation est encore loin d’être généralisée, et dans de nombreux cas, le rythme d’adoption de ces technologies dépasse la capacité des institutions à évaluer les risques et à mettre en place des règles de gouvernance claires.
L’un des aspects les plus marquants de l’étude concerne la critique du concept human in the loop (« l’humain dans le processus »), selon lequel une personne est censée examiner systématiquement les décisions ou recommandations produites par l’IA avant qu’elles ne produisent des effets concrets. En théorie, ce mécanisme doit garantir que la responsabilité finale reste entre les mains des personnes.
Les chercheurs constatent cependant que cette supervision est souvent davantage formelle qu’effective. Lorsqu’un outil affiche un niveau élevé de précision, les utilisateurs ont tendance à lui accorder une confiance excessive et à examiner ses résultats avec moins d’attention. Cette situation crée un faux sentiment de sécurité : les erreurs sont peu fréquentes, mais lorsqu’elles surviennent, elles risquent davantage de passer inaperçues et peuvent avoir des conséquences importantes, notamment dans des domaines aussi sensibles que les enquêtes policières ou les procédures judiciaires.
Le rapport alerte également sur un autre risque émergent : l’interconnexion de plusieurs systèmes d’IA au sein d’un même processus. Si les informations produites par un outil alimentent automatiquement un autre système, une erreur initiale peut se propager et s’amplifier tout au long de la chaîne décisionnelle. Ce phénomène, qualifié de « chaînage des systèmes d’IA », est encore peu étudié, mais les auteurs estiment qu’il devrait faire l’objet d’une attention prioritaire.
Afin de répondre à ces défis, l’étude formule 26 recommandations à l’intention des administrations publiques, des services de police, des autorités judiciaires, des fournisseurs de technologies et de la communauté scientifique. Parmi les principales mesures proposées figurent la réalisation d’évaluations indépendantes de tous les outils d’IA, la création de registres publics permettant d’identifier les systèmes utilisés, l’adoption de normes plus exigeantes pour leur acquisition et leur validation, le renforcement de la formation des professionnels ainsi que le développement de recherches spécifiques sur les risques liés aux interactions entre différents systèmes d’intelligence artificielle.
En définitive, l’étude ne remet pas en cause l’utilité de l’IA dans le domaine policier et ne plaide pas pour un ralentissement de l’innovation. Au contraire, elle conclut que ces technologies peuvent apporter une réelle valeur ajoutée lorsqu’elles sont utilisées de manière responsable et transparente. Le véritable défi consiste à faire en sorte que les avancées technologiques s’accompagnent d’un cadre solide de gouvernance, de supervision et de reddition de comptes. C’est à cette condition qu’il sera possible de tirer pleinement parti des bénéfices de l’intelligence artificielle sans compromettre les droits fondamentaux, la qualité des enquêtes ni la confiance des citoyens envers les institutions chargées de la sécurité.
_____
Aquest apunt en català / Esta entrada en español / This post in English

