S’acaben de publicar els resultats d’un estudi dut a terme per dos professors de la Universitat d’Essex, en col·laboració amb la Policia Metropolitana de Londres,[1] que evidencia que només un terç de les identificacions fetes utilitzant el sistema de reconeixement facial automàtic són correctes. En la resta de casos les persones identificades no es corresponen amb les realment cercades.
L’estudi, que ha tingut ressò internacional,[2] planteja, a més, dubtes sobre l’adequació al dret de la utilització d’aquest sistema d’intel·ligència artificial per part de la Policia Metropolitana. En primer lloc, no existeix cap base legal per utilitzar el sistema de manera genèrica, amb la qual cosa, si tenim en compte que comporta una limitació de drets, no compleix l’exigència de dur-se a terme d’acord amb la llei. En segon lloc, no es justifica la necessitat d’utilitzar aquesta tecnologia, és a dir, que no es pugui solucionar el problema en qüestió per un altre mitjà menys intrusiu, i no es fa una valoració de l’impacte que pot suposar en els drets de les persones afectades (com també ha establert molt recentment un informe del Comissionat per a la Videovigilància[3]).
La mateixa construcció de la llista de persones cercades amb la qual es contrasten les cares visionades per les càmeres no sembla seguir un criteri clar ni uniforme a l’hora d’escollir les persones que en formen part. S’hi inclouen tant persones buscades pel poder judicial com per la policia i no en tots els casos es tracta de persones que hagin comès infraccions.
A nivell operacional, els resultats han estat molt pobres: de les 46 identificacions fetes pel sistema només 26 van ser considerades creïbles pels agents actuants, tot i que en 4 dels casos les persones identificades com a buscades no van arribar a ser aturades ja que es van escapolir entre la gent. De les 22 restants, només 8 van portar a la detenció de la persona cercada, mentre que les altres 14 van mostrar que la persona efectivament aturada no es corresponia amb la cercada. El procés de decisió, un cop rebuda la imatge de la càmera, no sembla haver estat el correcte en diversos casos, i s’ha detectat, entre altres deficiències, la precipitació a l’hora d’intervenir.
És important, però, reconèixer la col·laboració de la Policia Metropolitana en el treball de recerca. De fet, la utilització d’aquest instrument es va considerar per a un període de prova de tres anys, durant els quals s’han dut a terme diversos tests sobre el seu funcionament (massa centrats en qüestions purament tècniques, segons l’estudi de la Universitat d’Essex), que ha promogut la mateixa Policia. El període de prova va acabar el juliol de 2019 i els resultats de tota aquesta observació han de servir per modificar-ne l’ús en el futur.[4]
[2] Vid. http://www.polizei-newsletter.de/links.php?L_ID=638
[4] Vid. https://www.met.police.uk/live-facial-recognition-trial/
_____
Esta entrada en español / This post in English / Post en français