IA, instrucciones de uso: la realidad no son sólo hechos

De un tiempo a esta parte, algunos de los contenidos más sustanciales de mis conversaciones aparecen al formular la última pregunta, que suelo reservar para el sano hábito de curiosear. Me atiende desde Oxford en videollamada David Stainforth, investigador del The Grantham Research Institute on Climate Change and the Environment de la London School of Economics.

Resulta que en su libro Predicting Our Climate Future David afirma que la amplia disponibilidad de simulaciones por ordenador a menudo lleva a que la investigación se distancie de la comprensión, lo que podría socavar la relevancia de las conclusiones de los científicos. “¿Por qué?”, le pregunto, “¿qué tienes que objetar a los gemelos digitales?”

“En mi mundo profesional simulamos el sistema climático, que no incluye sólo al sistema físico, sino también al sistema social, los sectores productivos, las naciones, el PIB, estamos interesados ​​en lo que va a suceder en el futuro. Y lo que sabemos es que las condiciones límite, el marco de nuestros sistemas, tanto el climático como los políticos en el futuro, van a ser diferentes a cómo han sido en el pasado”, me explica.

“En el caso del clima”, continúa, “simplemente habrá más energía atrapada en el sistema y éste se comportará de una manera diferente. Las interacciones entre la atmósfera, los océanos y las capas de hielo cambiarán. La información de cómo sucederá eso podría no estar en las observaciones actuales, porque estamos analizando el sistema en un estado diferente”.

“Si piensas en la IA y el aprendizaje automático, hay mucho entusiasmo y es potente”, reconoce David Stainforth. “Pero cuando intentamos hacer predicciones multifecha límite, hay buenas razones para pensar que no pueden funcionar, simplemente porque aprenden de datos que no contienen la información sobre lo que intentamos decir. Con los modelos de simulación, la situación es similar. Los modelos de simulación no son equivalentes a la realidad. Se alejan mucho de ella”. Empezamos a tocar hueso.

“Sólo si tienes un ciclo de predicción y verificación, puedes determinar su fiabilidad. Si piensas en la predicción meteorológica y del ECMWF (Centro Europeo de Previsiones Meteorológicas a Plazo Medio), sus errores en el modelo no importan necesariamente, porque podemos comprobar la calidad del sistema de predicción. Pero en escalas de tiempo multifecha límite, no podemos hacer eso. Por lo tanto, es nuestra responsabilidad determinar qué es confiable y qué no. Esto requiere comprender los procesos. Requiere una profunda reflexión sobre el problema que abordamos y si nuestros modelos pueden abordarlo”.

David Stainforth me dice finalmente: “Veo que muchísima gente recurre a los modelos. Siempre que tienen una pregunta, recurren a ellos. La hacen un poco más compleja, con mayor resolución, ejecutan el modelo y dicen: ‘hemos dado con la respuesta’. Y no la han hecho. Solo tienen una simulación del modelo».

“Súper interesante”, le digo, “porque verdaderamente la realidad no se trata solo de hechos y a la IA le estamos mostrando sólo datos y archivos”. Me viene a la mente G. K. Chesterton: “si tenemos intelecto suficiente, podemos contemplar una deducción filosófica exacta, con la certeza de que la contemplamos bien. Con una adecuada potencia cerebral, podemos contemplar cualquier descubrimiento científico, con la certeza de que lo contemplamos bien”. Pero no es posible hacer lo mismo con una novela, “porque la novela tiene tras de sí no sólo el intelecto, que es parcialmente mecánico, sino la voluntad… si queremos que la vida sea un sistema, puede constituir un suplicio”.

Para David Stainforth la clave está en “transformar la sociedad usando la tecnología, pero mejor de lo que lo hacemos actualmente. Hablaba sobre simulación con alguien que estaba construyendo coches de carreras, como coches de Fórmula 1, y me explicaba que ‘podemos construirlos, pero cuesta mucho dinero. Así que creamos un modelo de simulación y lo usamos para diseñar’. ¿Por qué el clima no funciona así? Porque el gemelo digital del coche se vale de la retroalimentación. Usas el modelo de simulación, lo construyes y ves dónde fue útil el modelo y dónde no, y luego regresas y cambias el modelo, pero no tenemos ese ciclo en el clima».

Es curioso, la percepción es similar para los científicos especializados en anticipar posibles epidemias, como Samuel Scarpino, director de IA y ciencias de la vida en el Instituto de IA Experiencial de la Universidad Northeastern (Massachusetts, EEUU). Scarpino dice que los desafíos contextuales necesarios para modelar eventos tan complejos como las epidemias son enormes. “Los modelos de IA tienen serias dificultades cuando se requiere una gran cantidad de contexto para realizar una predicción”.

El éxito de ChatGPT se debe en gran medida a los avances en la forma en que la IA maneja el contexto, afirma, pero los problemas contextuales a los que se enfrentan los modelos de IA orientados al lenguaje “palidecen en comparación con la complejidad del contexto asociado con los sistemas vivos”, en opinión de Scarpino.

“El enfoque compartimentado para estudiar los sistemas vivos está condenado al fracaso”, añade, “necesitamos nuevos tipos de IA y nuevos tipos de enfoques. Si realmente queremos tener buenos modelos de cómo se desarrollará una pandemia, [los modelos] deben incluir información global” e incluir “conjuntos de datos representativos, interoperables, que alimenten los modelos de todo el mundo”.

Scarpino señala que los modelos de IA carecen de la noción de mecanismo. Y eso que los modelos de propagación de una enfermedad infecciosa ya son más precisos que el pronóstico meteorológico, según afirma. Estamos nutriendo, en definitiva, a la inteligencia artificial de hechos, de datos, pero no debemos perder el control del proceso: la realidad no está compuesta sólo de hechos. No usemos a la IA y a los gemelos digitales como excusa para una mala praxis. Aprendamos de los modelos del clima de David Stainforth y sólo creamos de la IA aquello que podemos verificar.