Se acaban de publicar los resultados de un estudio llevado a cabo por dos profesores de la Universidad de Essex, en colaboración con la Policía Metropolitana de Londres,[1] que evidencia que solo un tercio de las identificaciones hechas utilizando el sistema de reconocimiento facial automático son correctas. En el resto de casos las personas identificadas no se corresponden con las realmente buscadas.
El estudio, que ha tenido resonancia internacional,[2] plantea, además, dudas sobre la adecuación al derecho de la utilización de este sistema de inteligencia artificial por parte de la Policía Metropolitana. En primer lugar, no existe ninguna base legal para utilizar el sistema de manera genérica, con lo cual, si tenemos en cuenta que conlleva una limitación de derechos, no cumple con la exigencia de llevarse a cabo de acuerdo con la ley. En segundo lugar, no se justifica la necesidad de utilizar esta tecnología, es decir, que no se pueda solucionar el problema en cuestión por otro medio menos intrusivo, y no se hace una valoración del impacto que puede suponer en los derechos de las personas afectadas (como también ha establecido muy recientemente un informe del Comisionado para la Videovigilancia[3]).
La misma construcción de la lista de personas buscadas, con la cual se contrastan las caras visionadas por las cámaras, no parece seguir un criterio claro ni uniforme a la hora de escoger a las personas que forman parte de la misma. Se incluyen tanto personas buscadas por el poder judicial como por la policía y no en todos los casos se trata de personas que hayan cometido infracciones.
A nivel operacional, los resultados han sido muy pobres: de las 46 identificaciones hechas por el sistema solo 26 fueron consideradas creíbles por los agentes actuantes, aunque en 4 de los casos las personas identificadas como buscadas no llegaron a ser paradas ya que se escaparon entre la gente. De las 22 restantes, solo 8 llevaron a la detención de la persona buscada, mientras que las otras 14 mostraron que la persona efectivamente parada no se correspondía con la buscada. El proceso de decisión, una vez recibida la imagen de la cámara, no parece haber sido el correcto en varios casos, detectándose, entre otras deficiencias, precipitación a la hora de intervenir.
Es importante, sin embargo, reconocer la colaboración de la Policía Metropolitana en el trabajo de investigación. De hecho, la utilización de este instrumento se consideró para un periodo de prueba de tres años, durante el cual se han llevado a cabo varios test sobre su funcionamiento (demasiado centrados en cuestiones puramente técnicas, según el estudio de la Universidad de Essex), que ha promovido la misma Policía. El periodo de prueba acabó en julio de 2019 y los resultados de toda esta observación tienen que servir para modificar su uso en el futuro.[4]
[2] Vid. http://www.polizei-newsletter.de/links.php?L_ID=638
[4] Vid. https://www.met.police.uk/live-facial-recognition-trial/
_____
Aquest apunt en català / This post in English / Post en français