La UE aprueba una histórica primera ley sobre inteligencia artificial

En una decisión que bien podría calificarse como histórica, la Unión Europea ha dado luz verde a la primera regulación mundial sobre inteligencia artificial (IA). Tras intensas deliberaciones y más de dos años de debates, la norma aprobada en Bruselas la noche del viernes aborda el desafío de regular las innovaciones tecnológicas y garantizar la seguridad en un contexto de rápidos avances.

Este hito se gestó en medio del auge de tecnologías disruptivas, siendo el chatbot ChatGPT, desarrollado por OpenAI y presentado a finales de 2022, uno de los catalizadores clave. Este chatbot, capaz de mantener conversaciones en lenguaje natural y realizar tareas complejas, impulsó una revisión de la legislación original, que no anticipaba una inteligencia artificial de tal magnitud.

Escala de posibles riesgos

La ley europea sobre IA establece una escala de riesgos para clasificar los diversos sistemas de inteligencia artificial que saldrán al mercado. En casos de “riesgo inaceptable,” aquellos que representen una amenaza clara para los derechos fundamentales, serán directamente prohibidos. Esto incluye aplicaciones que manipulen el comportamiento humano, como juguetes con asistentes de voz que podrían fomentar conductas peligrosas en menores.

El texto prohíbe sistemas de reconocimiento de emociones en entornos laborales o educativos, así como la recopilación indiscriminada de imágenes faciales. También veta sistemas de categorización o identificación biométrica remota en tiempo real con fines policiales en espacios públicos. Sin embargo se introducen excepciones vinculadas a la seguridad nacional, sujetas a autorización judicial y limitadas a la prevención de amenazas terroristas o la búsqueda de personas condenadas.

En el nivel de “alto riesgo,” se incluyen sistemas vinculados a infraestructuras críticas, dispositivos médicos y aplicaciones en áreas como la educación, el control de fronteras, la administración de justicia y los procesos electorales. La normativa exige la implementación de “sistemas de mitigación de riesgos” y garantías de solidez, precisión y ciberseguridad.

Aplicaciones consideradas de “riesgo mínimo,” como sistemas de recomendación y filtros de spam, también estarán sujetas a requisitos de transparencia. La ley establece multas por incumplimiento que van desde los 7,5 millones de euros hasta los 35 millones de euros o el 7% del volumen de negocios global, dependiendo de la infracción y el tamaño de la empresa.

Esta ley pionera consolida jurídicamente la necesidad de regular tecnologías que no solo sean avanzadas, sino que respeten los derechos fundamentales de las personas. Además establece un marco que busca equilibrar los avances tecnológicos con la seguridad y la protección de la privacidad.