El Consejo Europeo ha aprobado una normativa innovadora sobre inteligencia artificial con el objetivo de armonizar todas las reglamentaciones. La legislación insignia sigue un enfoque basado en el riesgo, lo que significa que, como mayor es el riesgo de causar daños a la sociedad, más estrictas son las reglas.

La normativa es la primera de este tipo en el mundo y puede establecer un estándar global para la regulación de la IA. Tiene como finalidad fomentar el desarrollo y la adopción de sistemas de IA seguros y fiables en el mercado único de la UE por parte tanto de los actores públicos como de los privados.

Al mismo tiempo, pretende garantizar el respeto de los derechos fundamentales de los ciudadanos de la Unión y estimular la inversión y la innovación en inteligencia artificial en Europa. La normativa de IA solo se aplica a ámbitos dentro de la legislación de la UE y ofrece exenciones, como los sistemas utilizados exclusivamente para el ejército y la defensa, así como con fines de investigación.

La adopción de la reglamentación de IA es un hito importante para la Unión Europea, dado que aborda un reto tecnológico global que también crea oportunidades para nuestras sociedades y economías. Con el acto de IA, Europa pone énfasis en la importancia de la confianza, la transparencia y la responsabilidad a la hora de tratar las nuevas tecnologías y, al mismo tiempo, asegura que esta tecnología, en cambio, puede prosperar rápidamente e impulsar la innovación europea.

La nueva normativa clasifica diferentes tipos de inteligencia artificial según el riesgo. Los sistemas de IA que presentan solamente un riesgo limitado estarían sujetos a obligaciones de transparencia muy ligeras, mientras que los sistemas de alto riesgo estarían autorizados, pero sujetos a un conjunto de requisitos y obligaciones para acceder al mercado de la UE. Los sistemas de IA sobre la manipulación cognitiva del comportamiento o sobre la puntuación social, por ejemplo, estarán prohibidos en la UE porque su riesgo se considera inaceptable. La reglamentación también prohíbe el uso de la IA para la policía predictiva basada en la elaboración de perfiles y sistemas que utilizan datos biométricos para categorizar a las personas según categorías específicas como la raza, la religión o la orientación sexual.

Para garantizar una correcta ejecución de la normativa, se constituyen varios órganos de gobierno:

• Una oficina de IA en la Comisión para hacer cumplir las normas comunes a toda la UE.

• Un panel científico de expertos independientes para dar apoyo a las actividades de aplicación.

• Un consejo de IA con representantes de los estados miembros para asesorar y ayudar a la Comisión y a los estados miembros en la aplicación coherente y eficaz de la ley de IA.

• Un foro de asesoramiento para las partes interesadas para ofrecer conocimientos técnicos al Consejo de IA y a la Comisión.

Antes de que algunas entidades que prestan servicios públicos implementen un sistema de IA de alto riesgo, habrá que evaluar el impacto de los derechos fundamentales. El reglamento también prevé una mayor transparencia respecto al desarrollo y uso de sistemas de IA de alto riesgo. Los sistemas de IA de alto riesgo, así como determinados usuarios de uno de estos sistemas que son entidades públicas, tendrán que estar registrados en la base de datos de la UE para este tipo de sistemas, y los usuarios de un órgano de reconocimiento de emociones tendrán que informar a las personas cuando estén expuestas a dicho sistema.

_____

Aquest apunt en català / This post in English / Post en français