La perspectiva de l’augment de l’ús policial de la intel·ligència artificial (IA), especialment al voltant de la policia predictiva, ha generat preocupacions sobre possibles biaixos i la necessitat de transparència i capacitat d’explicació.
El doctor Nick Evans, de la Universitat de Tasmània (Austràlia), publica un article a Policing Insight on explica que, amb les garanties adequades, l’ús de la IA podria establir una objectivitat integrada per a les decisions policials i, potencialment, una confiança més gran en la presa d’aquestes decisions.
Tot i que les aplicacions de policia predictiva plantegen les qüestions ètiques i legals més espinoses i, per tant, mereixen una consideració seriosa, també és important destacar altres aplicacions de la IA per a la policia.
L’informe ASPI de Teagan Westendorf, ‘Intel·ligència artificial i policia a Austràlia’, n’és un exemple recent. Westendorf argumenta que les polítiques i els marcs reguladors del govern australià no recullen prou les limitacions actuals de la tecnologia d’IA i que aquestes limitacions poden comprometre principis d’IA i d’ètica, segura i explicable en el context de la policia.
La IA pot ajudar en les investigacions accelerant la transcripció de les entrevistes i l’anàlisi de les imatges de CCTV. Els algoritmes de reconeixement d’imatges també poden ajudar a detectar i processar material d’explotació infantil i ajudar així a limitar l’exposició humana.
Com tots els humans, els agents de policia poden tenir biaixos conscients i inconscients que poden influir en la presa de decisions i en els resultats de la policia. Els algoritmes de policia predictiva sovint s’han d’entrenar en conjunts de dades que capturen aquests resultats.
Després de tot, un avantatge clau de la IA rau en la seva capacitat per analitzar grans conjunts de dades i detectar relacions massa subtils perquè la ment humana les identifiqui. Fer que els models siguin més comprensibles simplificant-los pot requerir compensacions en sensibilitat i, per tant, també en precisió.
De fet, la investigació suggereix que quan els individus confien en el procés de presa de decisions, és més probable que confiïn en els resultats en entorns de justícia, fins i tot si aquests resultats són desfavorables.
Tal com assenyala Westendorf, es poden prendre mesures per mitigar el biaix, com ara codificar preventivament contra biaixos previsibles i implicar analistes humans en els processos de construcció i aprofitament de sistemes d’IA.
Investigacions recents han trobat que el nivell de confiança de la gent en la policia (que és relativament alt a Austràlia) es correlaciona amb el seu nivell d’acceptació dels canvis en les eines i la tecnologia que utilitza.
Amb aquest tipus de salvaguardes establertes (així com les revisions i avaluacions del desplegament), l’ús de la IA pot tenir el resultat d’establir l’objectivitat integrada per a les decisions policials i reduir la confiança en les heurístiques i altres pràctiques subjectives de presa de decisions. Amb el temps, l’ús de la IA pot ajudar a millorar els resultats de la policia.
No obstant això, la necessitat d’explicabilitat és només una consideració per millorar la responsabilitat i la confiança pública en l’ús dels sistemes d’IA per part de la policia, especialment quan es tracta de la policia predictiva.
En un altre estudi, els participants exposats a aplicacions policials suposadament exitoses de la tecnologia d’IA eren més propensos a donar suport a un ús policial més ampli d’aquestes tecnologies que aquells exposats a usos infructuosos o no exposats a exemples d’aplicació d’IA.
Això suggereix que centrar-se en una confiança més àmplia del públic en la policia serà vital per mantenir la confiança pública en l’ús de la IA en la policia, independentment del grau de transparència i explicabilitat algorítmica. L’objectiu d’una IA transparent i explicable no hauria de deixar de banda aquest context més ampli.
_____
Esta entrada en español / This post in English / Post en français