La intel·ligència artificial (IA) està transformant ràpidament el funcionament dels cossos policials i del sistema de justícia penal. Des de l’anàlisi de proves digitals fins a la redacció automàtica de documents o la identificació de patrons delictius, aquestes tecnologies prometen millorar l’eficiència i reduir la càrrega de treball dels professionals. No obstant això, un nou estudi liderat per la Universitat de Northumbria adverteix que la implantació d’aquestes eines està avançant més ràpidament que els mecanismes de control, supervisió i regulació necessaris per garantir-ne un ús segur, transparent i responsable.

L’estudi, desenvolupat durant quatre anys en el marc del projecte PROBabLE Futures, constitueix el mapa més complet elaborat fins ara sobre l’ús de la IA en el sistema de justícia penal d’Anglaterra i Gal·les. Els investigadors han identificat un total de 70 eines d’intel·ligència artificial que ja estan en funcionament, en fase de prova o en desenvolupament. D’aquestes, 27 ja s’utilitzen de manera operativa, mentre que 34 estan en fases pilot. Més de la meitat han estat desenvolupades per empreses privades, fet que també posa de manifest el paper creixent del sector tecnològic en aquest àmbit.
Les aplicacions detectades són molt diverses. Inclouen la transcripció automàtica de declaracions, la redacció assistida d’atestats, la classificació de trucades als centres d’emergència, l’anàlisi de grans volums d’informació per detectar patrons criminals, la identificació de persones vulnerables, la gestió de proves digitals, la redacció de documents judicials i els sistemes de reconeixement facial. També hi ha eines orientades al benestar dels agents, capaces d’identificar indicadors d’estrès o risc psicosocial.
Els investigadors reconeixen que moltes d’aquestes aplicacions aporten beneficis reals quan s’implanten correctament. Les tasques repetitives i administratives poden automatitzar-se, cosa que permet als professionals dedicar més temps a activitats que requereixen un criteri humà. Igualment, l’anàlisi automatitzada de dades pot facilitar investigacions més ràpides i ajudar a detectar informació rellevant que podria passar desapercebuda en una revisió manual.
Tanmateix, el principal missatge de l’informe és que aquests avantatges només són sostenibles quan les eines han estat dissenyades per resoldre problemes concrets, han estat sotmeses a proves rigoroses i funcionen sota mecanismes sòlids de supervisió. Segons els autors, aquesta situació encara no és generalitzada, i en molts casos la velocitat d’adopció supera la capacitat de les institucions per avaluar-ne els riscos i establir normes clares de governança.
Un dels aspectes més destacats de l’estudi és la crítica al concepte de human in the loop (“l’humà dins del procés”); és a dir, la idea que una persona revisa sempre les decisions o recomanacions generades per la IA abans que tinguin efectes pràctics. En teoria, aquest mecanisme hauria de garantir que la responsabilitat final continua recaient en les persones.
No obstant això, els investigadors observen que aquesta supervisió sovint és més formal que efectiva. Quan una eina demostra un nivell elevat de precisió, els usuaris tendeixen a confiar-hi excessivament i deixen de revisar-ne amb la mateixa atenció els resultats. Això genera una falsa sensació de seguretat: els errors són poc freqüents, però quan es produeixen tenen més probabilitats de passar desapercebuts i poden tenir conseqüències importants, especialment en àmbits tan sensibles com les investigacions policials o els processos judicials.
L’informe també alerta d’un altre risc emergent: la connexió de diversos sistemes d’IA dins d’un mateix procés. Si la informació produïda per una eina n’alimenta automàticament una altra, qualsevol error inicial es pot transmetre i amplificar al llarg de tota la cadena de decisions. Aquest fenomen, conegut com a “encadenament de sistemes d’IA”, encara ha estat poc estudiat, però els autors consideren que mereix una atenció prioritària.
Per afrontar tots aquests reptes, l’estudi formula 26 recomanacions dirigides a les administracions públiques, els organismes policials, el sistema judicial, els proveïdors tecnològics i la comunitat científica. Entre les mesures proposades destaquen la realització d’avaluacions independents de totes les eines d’IA, la creació de registres públics que permetin conèixer quins sistemes s’utilitzen, l’establiment d’estàndards més exigents per a la seva adquisició i validació, una millor formació dels professionals i una investigació específica sobre els riscos derivats de la interacció entre diferents sistemes d’intel·ligència artificial.
En definitiva, l’estudi no qüestiona la utilitat de la IA en l’àmbit policial ni defensa frenar la innovació. Al contrari, conclou que aquestes tecnologies poden aportar un gran valor quan s’utilitzen de manera responsable i transparent. El veritable repte és assegurar que el desenvolupament tecnològic vagi acompanyat d’un marc sòlid de governança, supervisió i rendició de comptes. Només així serà possible aprofitar els beneficis de la intel·ligència artificial sense comprometre els drets fonamentals, la qualitat de les investigacions i la confiança de la ciutadania en les institucions de seguretat.
_____
Esta entrada en español / This post in English / Post en français







