Con el creciente reconocimiento de las oportunidades para que la inteligencia artificial (IA) reduzca significativamente el tiempo y los costos asociados con algunas actividades policiales, el impulso para un uso más amplio de dicha tecnología es notable.

En el último de una serie de artículos sobre la IA en la policía, Matt Palmer, Director de Producto de Seguridad Pública de NEC Software Solutions, explora los problemas clave para garantizar que la tecnología se utilice de forma ética y transparente.
La inteligencia artificial (IA) ya es una parte integral del conjunto de herramientas policiales. El servicio de policía utiliza cada vez más la tecnología habilitada por la IA para ahorrar tiempo, priorizar recursos y aumentar la eficiencia.
La IA está empezando a marcar una diferencia real para la policía al procesar grandes volúmenes de datos mucho más rápido de lo que podría hacerlo un ser humano. Esto incluye algunas de las funciones policiales esenciales, como la clasificación en vivo de las llamadas entrantes y la automatización de las tareas de aseguramiento de la calidad de los datos.
También estamos viendo más casos en los que la IA es capaz de apoyar la toma de decisiones de los agentes de policía, mediante la predicción de resultados basados en patrones. Ejemplos de esto incluyen el uso del aprendizaje automático supervisado para evaluar factores como la probabilidad de que un individuo delinca, reincida o se vuelva vulnerable a la victimización, y son estos ejemplos los que están resultando más polémicos en la mente de la sociedad.
A medida que el sector policial intensifica el uso de la IA, las personas son cada vez más conscientes de los riesgos de depender demasiado de la tecnología en decisiones que puedan afectar profundamente la vida de las personas. Por eso es fundamental establecer enfoques en los que la policía utilice, y se considere que utiliza, la IA con los más altos estándares éticos.
Quizás una de las preocupaciones más ampliamente expresadas sobre la IA en la policía es el riesgo de sesgo y discriminación. Todos los sistemas de IA aprenden de los datos de entrenamiento iniciales, y si hay un sesgo en estos datos, se integrarán en los modelos de IA, perpetuando el sesgo e influyendo en la toma de decisiones.
Si las herramientas predictivas se entrenan con datos históricos de arrestos en los que hay sesgos humanos, los algoritmos replicarán patrones discriminatorios, como la elaboración de perfiles raciales negativos y la selección de comunidades minoritarias.
Para evitar que el sesgo infecte los modelos de IA, los desarrolladores deben utilizar conjuntos de datos diversos y representativos para entrenar sistemas de IA y probar continuamente esos sistemas en busca de patrones discriminatorios.
Sin duda, la IA desempeñará un papel cada vez más importante en la labor policial. Para garantizar que ese papel se aplique de manera ética y responsable, la última palabra en cualquier decisión debe ser tomada por la inteligencia humana, no artificial.
El problema de los sistemas de IA es que no son infalibles. Pueden producir falsos positivos, como identificar incorrectamente a personas inocentes como sospechosas. Del mismo modo, pueden entregar falsos negativos y no identificar a los verdaderos delincuentes. Sin el juicio humano, la IA podría provocar errores judiciales.
_____
Aquest apunt en català / This post in English / Post en français








