Europa está lista para regular la Inteligencia Artificial, estas son las claves

Al comienzo del mes de mayo, el Parlamento Europeo, en concreto, la Comisión de Mercado Interior y la Comisión de Libertades Civiles presentó un proyecto de mandato de negociación sobre las primeras normas para la regulación de la inteligencia artificial con 84 votos a favor, 7 en contra y 12 abstenciones.

La proliferación de ChatGPT o Midjourney, entre otros, ha desatado un amplio debate sobre la falta de protección de los usuarios en términos de privacidad, desinformación y derechos de propiedad intelectual de los materiales empleados para el entrenamiento de estos modelos.

Por ello, las nuevas regulaciones adoptan un enfoque basado en el riesgo y establecen responsabilidades tanto para los proveedores como para los usuarios según el nivel de riesgo asociado con la IA. Destaca la prohibición de los sistemas de IA que representen un riesgo inaceptable para la seguridad de las personas, incluyendo aquellos que utilizan técnicas subliminales o manipuladoras, explotan las vulnerabilidades de las personas o se utilizan para clasificar socialmente a las personas en función de su comportamiento, estatus socioeconómico o características personales.

Prácticas restringidas de la Inteligencia Artificial

Además, los eurodiputados realizaron otro tipo de modificaciones importantes en la lista de prohibiciones de usos intrusivos y discriminatorios de los sistemas de IA. Estas correcciones abarcaron una variedad de áreas, incluyendo la prohibición de sistemas de identificación biométrica remota en tiempo real en espacios públicos, sistemas de identificación biométrica a distancia con excepciones para las fuerzas del orden y solo con autorización judicial, sistemas de categorización biométrica utilizando características sensibles, sistemas policiales predictivos, sistemas de reconocimiento de emociones en varios contextos y el raspado indiscriminado de datos biométricos para crear bases de datos de reconocimiento facial. Estas prohibiciones buscan evitar el uso abusivo y discriminador de la IA mientras se protegen los derechos humanos y la privacidad de las personas.

Mayor transparencia

Los modelos generativos fundamentales, como GPT, estarían obligados a cumplir con requisitos de transparencia adicionales. Esto incluiría la revelación clara de que el contenido fue generado por un sistema de inteligencia artificial, así como el diseño del modelo de manera que evite la generación de contenido ilegal. Además, se requeriría la publicación de resúmenes de datos utilizados para el entrenamiento que estén protegidos por derechos de autor.

Estas medidas buscan promover la transparencia en el uso de IA generativa y garantizar el cumplimiento de las normativas legales y de los derechos de autor.

Regulación e innovación tecnológica

La nueva legislación fomenta la creación de sandboxes regulatorios, es decir, entornos controlados establecidos por las autoridades, con el objetivo de permitir la prueba de la IA antes de su implementación en la sociedad.

En línea con esto, los eurodiputados están comprometidos con fortalecer el derecho de los ciudadanos a presentar quejas sobre los sistemas de IA y a recibir explicaciones sobre las decisiones que afecten sus derechos. Además, reconocen la importancia de garantizar una rendición de cuentas adecuada en el uso de la IA.

Asimismo, los eurodiputados han llevado a cabo reformas en el papel de la Oficina de IA de la UE, que tendría la responsabilidad de supervisar y vigilar la implementación del reglamento de IA. Esto busca asegurar un control efectivo y un seguimiento adecuado en la aplicación de las normativas.

Antes de que las negociaciones con el Consejo para definir la versión final de la ley puedan comenzar, el proyecto de mandato de negociación debe recibir la aprobación de todo el Parlamento. Se espera que esta votación tenga lugar durante la sesión que se llevará a cabo del 12 al 15 de junio. Una vez aprobado, se podrá avanzar en las discusiones y negociaciones con el Consejo para finalizar la ley.

Si quieres conocer más sobre la actualidad de la Inteligencia Artificial puedes registrarte a nuestro próximo webinar de la mano de Javier Sirvent: «Forever AI»