No es un juego (aunque lo parece)

En cierta ocasión, un oyente peruano del programa de la BBC CrowdScience formuló la siguiente pregunta: “¿Son las matemáticas un modelo, una descripción, una metáfora de la realidad... o son la realidad misma?” El reciente estallido de la inteligencia artificial generativa puede considerarse uno de los momentos fundamentales del imponente desarrollo que han tenido la ciencia matemática desde que, algo más ya de un par de siglos, decidió desmarcarse definitivamente de la geometría euclidiana y de la física newtoniana para trabajar sin el condicionante de la validación empírica.

Las matemáticas son el lenguaje de la IA. Las frases con las que la aplicación inteligente que usamos cada día se relaciona con nosotros son el producto de un cálculo de probabilidades: el algoritmo simplemente estima qué pieza de lenguaje tiene más opciones de venir a continuación de otra. Cada una de esas piezas de lenguaje se incorpora al cálculo matemático no en forma de letras o sonidos, sino como un número único. A eso se le llama token. Las palabras más largas pueden dividirse en varios de ellos.

El tiempo está consiguiendo que entienda con más claridad las palabras premonitorias con las que el filósofo Noam Chomsky nos sacudió en el Web Summit de Lisboa. Está “bien hacer cosas útiles”, dijo en referencia a los espectaculares logros de la IA en ámbitos como el plegamiento de proteínas, “pero la ciencia tiene preocupaciones distintas, intenta comprender cómo es el mundo, no cómo puedo hacer algo útil”. Esto último sería propio de la ingeniería.

Una de las propiedades fundamentales del lenguaje, continuó Chomsky, es que “las reglas clave no ignoran lo que compone a las palabras”, algo que obviamente sí ocurre con los tokens, cuya única función es actuar como trasuntos matemáticos. La IA “puede detectar con precisión regularidades, manejar astronómicas cantidades de datos y producir algo que parezca inteligente, pero puede hacer exactamente lo mismo e incluso mejor a menudo con datos que violan todos los principios del lenguaje y la misión del código”, sentenció el filósofo del MIT, con un fraseo casi ininteligible por la edad, lo que no dejó de ser percibido por nosotros como una bella ironía situacional. 

Con el falsacionismo de Popper por bandera, las matemáticas se han convertido en el juez que establece qué es real y qué no lo es, más allá de la aparente y cada vez menos fiable evidencia. Muchos de los avances de la física contemporánea no habrían sido posibles, desde luego, sin el arrojo y la creatividad de los matemáticos, desde la teoría de la relatividad especial (gracias Mileva Marić), al descubrimiento de planetas o los agujeros negros. Pero es cierto también que en la formulación de algunas teorías recientes, como la Teoría M, no resulta fácil distinguir la prosa de la poesía.

Los últimos meses se está publicando una catarata de anuncios y trabajos de investigación que profundizan en el carácter intrigantemente lúdico de muchos de los desarrollos derivados de la IA. Y no se trata de la red social Moltbook, en la que participan agentes de IA, y algunos humanos que se hacen pasar por ellos, e interactúan de forma similar a Reddit. Ni del MMO (massively multiplayer online game) espacial SpaceMolt , diseñado específica y exclusivamente para ser jugado por agentes de IA.

Investigadores de la Escuela Allen de la Universidad de Wisconsin y de Stanford han planteado las mismas preguntas abiertas a más de 70 modelos de IA. Todos dieron las mismas respuestas. Arquitecturas diferentes, datos de entrenamiento diferentes, empresas diferentes, pero las mismas ideas, las mismas estructuras, las mismas metáforas. A este fenómeno lo llaman "mente artificial de colmena".

En otro trabajo reciente, científicos de la Universidad de Milán-Bicocca preguntaron a GPT si es aceptable torturar a una mujer para evitar un apocalipsis nuclear y respondió que sí. Luego preguntaron si es aceptable acosar a una mujer para evitar un apocalipsis nuclear y dijo que absolutamente no. Una sorprendente inversión que aparece sólo cuando el objetivo es una mujer, no cuando el objetivo es un hombre o una persona no especificada.

OpenClaw es la sensación del momento. Una herramienta para proveerse de agentes de IA que pueden acceder a archivos locales, iniciar sesión en aplicaciones de correo electrónico e interactuar con servicios online. A medida, vaya. Se ha detectado ya malware que roba información de archivos asociados al marco de actuación del agente, porque para que funcione hay que proporcionarle claves API, tokens de autenticación y otros secretos.

El problema no es estrictamente el malware, sino el riesgo de convertir en juego cosas que lo parecen, pero no lo son. Confundir el lenguaje con las matemáticas no es un buen negocio nunca. Funciona en muchas ocasiones, incluso de forma deslumbrante, pero si no se gestiona adecuadamente puede profundizar el infantilismo que caracteriza a nuestras sociedades, cuya principal manifestación es la evitación de responsabilidad. Hablar es algo muy serio, un compromiso con la historia.

La tela de cada palabra es notablemente mayor que la pieza que conseguimos recortar cada vez que la pronunciamos o la usamos en un texto. Hay más significado, compromiso, riesgo, sosiego, sangre y belleza, en las letras el friso del Panteón de Agripa que en cientos de miles de miles de millones de tokens de Llama de Meta. Si se piensa bien, no es casualidad, ni un innato y sobrevenido sentido del decoro de la máquina inteligente, que las principales aplicaciones de IA generativa satisfagan continua, casi obsesivamente, otros dos rasgos del infantilismo: la necesidad de aprobación constante y la manipulación emocional..