Lo cerca que hemos estado de liarla con la AI Act

Aunque para el sector asegurador europeo, resultaba clave no aparecer citado explíctamente en el inquietante Anexo III de la Ley de Inteligencia Artificial (AI Act), había algo que le preocupaba más en el momento culminante de la negociación.

De hecho, una de cal y una de arena. La norma sí incluye entre las actividades de alto riesgo del Anexo III “los sistemas de IA destinados a ser utilizados para la evaluación de riesgos y la tarificación en relación con las personas físicas en el caso de los seguros de vida y de enfermedad”, pese a que no aparecía en la propuesta final de la Comisión. Se introdujo a instancias del Parlamento en junio de 2023 y ahí se ha quedado.

Ha habido muchos bailes de este tipo en los dos últimos años. Curiosamente, entre las infraestructuras críticas mencionadas al incorporar los sistemas de IA dedicados a la seguridad en su gestión y explotación en el Anexo III, desaparecen de la versión final el sector ferroviario y el aéreo, nada menos, que habían sido introducidos por el Parlamento vía enmienda. El tipo de cosas que no suelen contarse en los medios.

Difícil sobreponerse al espectáculo político forzado que protagonizaron Carme Artigas y el Comisario Thierry Breton a principios de diciembre pasado, para dar algo de sentido a la inane Presidencia Española de la UE, cuando dieron por cerrada la negociación de la Ley de IA, pese a que Alemania, Francia e Italia, con el respaldo de Hungría, Polonia y Finlandia, seguían advirtiendo de que no se comprometerían con el acuerdo sin ver el texto final, como ya he contado aquí.

Pero ya digo que no era el hecho de aparecer en el Anexo III lo que más preocupaba al sector asegurador (cerremos este punto diciendo que no se ha admitido tampoco su petición de incluir la expresión: “con excepción de productos de inversión basados en seguros”), sino la definición misma de sistema de IA que aparece en el artículo 3 de la ley. Atentos expertos en la materia que el tema tiene enjundia.

La propuesta de definición de la Comisión Europea para el concepto “Sistema de IA” era la siguiente: “el software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa”.

La definición final ha quedado así: “un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales”.

¿Dónde está la clave? En efecto, en distinguir entre si se trata de un software o una máquina o máquinas, como se prefiera (también ahí se han ido produciendo bandazos, pero no parece un elemento determinante). Al pedir un cambio en la redacción original, Insurance Europe apeló al concepto utilizado por la OCDE, que prefiere hablar de máquina.

Si Europa hubiera hablado de software, la ley habría tenido que incluir en su ámbito de aplicación a sistemas, técnicas y enfoques que no necesariamente deben considerarse IA, sostiene, lo que podría haber aumentado la confusión y falta de seguridad jurídica.

Insurance Europe ponía como ejemplo el uso de resultados estadísticos de un modelo de regresión lineal en la función actuarial. Habría estado cubierto por la definición propuesta por la Comisión, al igual que enfoques estadísticos como el análisis exploratorio de datos que implica principalmente el uso de técnicas gráficas para analizar conjuntos de datos, o sistemas de asignación de tareas que forman parte de las funciones back-office de las empresas.

La OCDE señala que “ciertos sistemas que utilizan tecnologías informáticas y analizan datos no son sistemas de IA. Si el sistema no se ajusta a la definición de sistema de IA utilizada en este marco, no se considera un sistema de IA. Por ejemplo, Microsoft Excel es un sistema de almacenamiento y análisis de datos. El software permite a los usuarios almacenar, ordenar y ejecutar análisis básicos de los datos ingresados. Sin embargo, no es un sistema de inteligencia artificial”. Esto también se aplica a una amplia variedad de otros tipos de software.

La redacción final de la última versión de la ley, con fecha de mayo de 2024, aunque todavía pueden seguir produciéndose cambios hasta el mes que viene, se parece realmente mucho a la propuesta por Insurance Europe. Pero sirva este debate para calibrar la delicada materia que es la revolución tecnológica en manos de los reguladores. Espectáculos de base emocional como los vividos en torno a esta ley parecen hoy una frivolidad inaceptable, siendo conscientes de lo mucho que nos jugábamos.