Europa debe gobernar la neuro-IA como una infraestructura que puede transformar la autonomía humana

La inteligencia artificial está entrando en una nueva frontera, la de los sistemas capaces de trabajar con señales neuronales, interpretar patrones relacionados con la actividad cerebral y adaptar sus respuestas a partir de información sobre el comportamiento humano. Para el Grupo Europeo de Ética en Ciencia y Nuevas Tecnologías de la Comisión Europea, el reto exige cambiar la mirada. La cuestión ya no se sitúa únicamente en la protección de un dato cerebral o en la seguridad de un El reto abarca toda la infraestructura que permite recoger, combinar, procesar, reutilizar y convertir los neurodatos en nuevas capacidades de predicción e intervención.

El informe ‘Governing Neuro-AI, Towards an Infrastructure Approach’ define este entramado como el neurostack. Incluye dispositivos, canales de datos, modelos de inteligencia artificial, servicios en la nube, interfaces, estándares, prácticas empresariales, mecanismos de auditoría y estructuras institucionales. Su evolución puede determinar cómo se generan conocimientos sobre el cerebro, cómo se clasifican determinados comportamientos y quién controla las herramientas capaces de producir estas inferencias.

Los sistemas de neurotecnología pasan de realizar mediciones puntuales a formar parte de ecosistemas capaces de acumular información durante largos periodos y reutilizarla para nuevas finalidades. Así, un dispositivo destinado al sueño, la concentración, el bienestar o la accesibilidad puede convertirse en una fuente de datos para entrenar modelos y desarrollar aplicaciones posteriores. El usuario recibe un servicio concreto, mientras sus datos pueden adquirir un valor adicional dentro de una infraestructura mucho más amplia.

Entre las piezas que despiertan mayor atención figuran los Brain Foundation Models, modelos entrenados con grandes conjuntos de datos neurocientíficos. Pueden combinar información procedente de EEG, MEG, fMRI, MRI o PET y generar representaciones reutilizables para distintas tareas. El informe sitúa su importancia en esa capacidad de convertir conjuntos de datos distribuidos en infraestructuras destinadas a clasificación, predicción y apoyo a decisiones. Su desarrollo todavía afronta limitaciones relacionadas con el volumen de datos, la variabilidad entre personas y la estandarización, pero el Grupo Europeo de Ética considera que este es precisamente el momento adecuado para establecer reglas y orientar su evolución.

La dimensión comercial también añade complejidad al debate. Los dispositivos dirigidos directamente al consumidor pueden integrar sensores, interfaces, procesamiento en la nube y canales de entrenamiento de modelos. Productos asociados al sueño, el bienestar, los videojuegos, la productividad o la optimización cognitiva pueden alimentar infraestructuras de recopilación y análisis a gran escala. El informe reclama prestar especial atención a estos mercados por su velocidad de desarrollo, sus modelos empresariales, la dependencia de plataformas y las dificultades para seguir el recorrido posterior de los neurodatos.

Para la industria tecnológica, una de las cuestiones centrales reside precisamente en esa evolución desde productos individuales hacia infraestructuras reutilizables. Un modelo entrenado con neurodatos puede acabar integrado en diferentes aplicaciones y sectores. Esta reutilización plantea exigencias sobre el origen de los datos, su base jurídica, la documentación de los modelos, las condiciones de acceso y despliegue y la distribución de beneficios y riesgos. El informe pide que estos elementos formen parte de la gobernanza desde las primeras fases de desarrollo.

El problema adquiere una dimensión política cuando los datos, la capacidad de cálculo, las plataformas y los modelos se concentran en un número reducido de actores. Quien reúne grandes volúmenes de neurodatos, desarrolla los modelos fundacionales, controla las infraestructuras de computación o establece estándares puede adquirir una posición privilegiada para definir las futuras aplicaciones. El informe vincula esta concentración con cuestiones de soberanía tecnológica, dependencia económica y capacidad de las instituciones públicas para supervisar estas tecnologías.

La protección de la persona ocupa otro lugar central en el informe. La preocupación alcanza la posibilidad de utilizar inferencias sobre atención, fatiga, estrés, emociones, intención o carga de trabajo para clasificar, seleccionar o tomar decisiones sobre individuos. De hecho, el estudio propone evaluar cada inferencia según su validez científica, finalidad, contexto, consecuencias previsibles y relación con los derechos fundamentales. A esta idea la denomina proporcionalidad de la inferencia. La calidad de la información disponible y la potencia del modelo requieren una valoración específica antes de convertir sus resultados en decisiones con consecuencias para las personas.

Ante este escenario, el Grupo Europeo de Ética formula cinco grandes líneas de actuación. La primera consiste en reconocer los neurodatos y las inferencias derivadas de ellos como una categoría diferenciada de información sensible y desarrollar una metodología específica de evaluación de la neuro-IA. La segunda reclama estándares y reglas armonizadas para los modelos fundacionales, con trazabilidad del origen de los datos, documentación, condiciones claras de reutilización, evaluación del doble uso y mecanismos de reparto justo de beneficios y riesgos.

La tercera línea plantea salvaguardas frente a usos que puedan generar un control desproporcionado sobre las personas. El informe señala ámbitos especialmente sensibles como empleo, educación, sanidad, seguros, migración, justicia, servicios públicos y fuerzas de seguridad. Propone robustez técnica, validez científica, supervisión humana significativa, auditorías independientes, transparencia sobre la incertidumbre y límites para determinados usos de alto riesgo.

La cuarta apuesta por reforzar la capacidad europea para observar, evaluar y orientar estas infraestructuras. Y la quinta pide una revisión específica de la legislación europea para comprobar si el marco existente cubre adecuadamente las nuevas combinaciones entre neurodatos, modelos fundacionales y sistemas adaptativos. El informe plantea que las normas sobre dispositivos médicos, protección del consumidor, protección de datos y sistemas de IA funcionen como capas complementarias de supervisión, en lugar de operar de forma aislada.

El documento propone desarrollar una gobernanza específica para el neurostack, con estándares, auditorías, supervisión y mecanismos institucionales capaces de acompañar toda la cadena de valor, desde la obtención de los datos hasta el diseño de modelos, su comercialización, sus usos posteriores y sus efectos sociales.

Para las empresas, esta perspectiva introduce nuevos retos. La gobernanza de la neuro-IA puede afectar al diseño de productos, la gestión de datos, los procesos de entrenamiento, las relaciones con proveedores de nube, los modelos de negocio, la documentación técnica, la evaluación de riesgos y las condiciones de acceso a los mercados europeos. La anticipación regulatoria aparece, así, vinculada a la capacidad de desarrollar tecnologías que puedan escalar dentro de un marco europeo de confianza.