La pregunta sobre inteligencia artificial de Avelino Corma al genio de Cambridge

Asistimos a una conversación de altura sobre la situación actual de la investigación científica y su impacto en la sociedad y la economía. Qué pregunta sobre inteligencia artificial (IA) tendrá un genio como Avelino Corma, fundador del Instituto de Tecnología Química, centro mixto de la Universidad Politécnica de Valencia (UPV) y el CSIC, y Premio Príncipe de Asturias en 2014.

Es esta: “Los experimentos se llevan a cabo en una zona determinada. Puedes hacerlos multivariable y los ajustas en esa zona determinada. Perfectamente ese ajuste lo puede hacer una máquina con una gran cantidad de datos. Pero ¿si solo tenemos experiencias en este rango, la máquina es capaz de extrapolar, así como los seres humanos a la vista de esos resultados somos capaces de dar el salto? ¿Con qué seguridad, con qué probabilidad, puede la máquina saltar fuera del rango que conocemos o en el que hemos experimentado?”

Le responde José Hernández-Orallo, investigador del Leverhulme Centre for the Future of Intelligence y del Centre for the Study of Existential Risk de la Universidad de Cambridge y profesor de la UPV: “Es una buena pregunta porque uno de los problemas actuales de la IA tiene que ver con que se ha entrenado sobre millones de imágenes recogidas por una organización y luego vas a otra distribución de imágenes y el sistema falla. Pero los sistemas de hoy en día generalizan muchísimo mejor, o extrapolan que es el término, de lo que eran capaces de hacer hace cinco años. No solo porque aprenden con más datos, sino porque las técnicas regularizan mejor, es decir, son capaces de abstraer más”.

“Lo que nos sorprende mucho es que esa capacidad de abstracción va ligada al tamaño de estos sistemas. Hoy en día, que le digas a uno de ellos que te genere un vaso al estilo Van Gogh demuestra que hay una capacidad de abstracción innegable. Eso implica una capacidad de extrapolación, de mezclar, de combinar, y ya no es tan simple como hace 10 años, es mucho más compleja. En muchos sitios el problema es que no tenemos el contexto de operaciones, dónde van a fallar y dónde van a acertar, estamos aprendiendo de qué son capaces y de qué no son capaces. Lo que hacen ahora tiene poco que ver con lo que eran capaces de hacer hace tres años, con lo cual vamos aprendiendo sobre la marcha”.

Y continúa Hernández-Orallo: “llegas a sistemas que son racistas, xenófobos o sexistas, porque aprenden de los datos humanos y estos son los que son, o se maximizan este tipo de cosas. Colaboro con OpenAI y ellos permiten que se deje en manos del público ciertas cosas. En cuestión de unos meses, porque esto va muy rápido, ya tienen la opción de pago y lo van a meter en un montón de aplicaciones, ya tienen el acuerdo comercial con Microsoft y lo vamos a ver hasta en la sopa”.

El Centre for the Study of Existential Risk de la Universidad de Cambridge en el que trabaja Hernández-Orallo analiza escenarios como el de qué sucedería si la inteligencia artificial alcanza niveles de crecimiento exponencial, se convierte en más poderosa que la de los humanos y está en propiedad de un oligopolio.

Según dice, “existe un riesgo existencial de que eso ocurra, igual que lo existe de que un asteroide acabe con la vida en la Tierra y, en este momento, nos pillaría preparados. O hay un riesgo existencial nuclear y ahora es más patente, es el riesgo más alto de que acabe la humanidad, que no la vida. Muchas veces se baja el límite y se habla de que se podría crear un trastorno muy grave, o cambiar la sociedad completamente. Pero con las redes sociales, cómo afectan a los jóvenes, ya hemos visto esa transformación brutal sin que nadie la haya parado o previsto”.

“El problema es que la IA es una creación humana y lo que puede pasar tiene una escala mucho mayor”, añade. “Un extremo sería que a alguien se le vaya algo de las manos y cree un sistema que sea mucho más inteligente que todos los seres humanos juntos y sea capaz, si le estorbamos, de acabar con todos nosotros, como hemos visto en la ciencia ficción. Yo creo que siempre a los problemas les buscamos soluciones y siempre tenemos algo que decir acerca del futuro”.

“En una conferencia, hicimos un panel y la pregunta era si teníamos que procurar que la humanidad viviera para siempre, y yo dije que no. Llevamos aquí muy poco tiempo, algo nos va a sustituir, pero hagámoslo ordenadamente, que no se nos escape de las manos. Es decir, estoy convencido de que dentro de 10 millones de años no debería haber homo sapiens sobre la Tierra, ni sobre Marte como plantea Elon Musk. Habrá otra cosa. Lo que me preocupa es que se acabe la civilización o que se nos acabe no queriéndolo. Como cuando se nos acabe la vida en un accidente”.

Enlentecer la IA

“En estos momentos, hay un riesgo que hay que intentar entender y hay voces que hablan de enlentecer el progreso de la IA, porque además está en muy pocas manos y hay un riesgo muy claro. No soy alarmista, creo que hay muchas más ventajas que inconvenientes. Cuando se habla de mercado laboral creo que a España le viene de cine. Eso sí, si nosotros hacemos la IA. Si nos la venden de fuera, estamos acabados. No nos va a quitar el trabajo porque no va a haber gente para trabajar. No todo es malo, no todo es bueno, por eso hace falta que haya muchos centros en los que realmente se analiza hacia dónde vamos y que se tomen decisiones, muchas a nivel político, que son las más difíciles. Claro que hay un riesgo”, concluye.

Sobre la IA que crea poemas: “Ha cambiado mucho la inteligencia artificial desde El mono desnudo de Desmond Morris. Cuando se habla de poesía, yo no soy muy artista, no tengo ese sentimiento, pero si algo se ha demostrado es su capacidad onírica. DALL-E se llama así no por casualidad, sino porque la capacidad onírica de generar cosas. Desde el punto de vista artístico, si no le dices al observador quién ha creado algo, mucha gente empieza a decir ya que no es capaz de distinguir. Otra cosa es que no haya un sentimiento detrás, que no lo hay, pero tú lo lees y te impresiona. Eso nos hace redefinir ciertos conceptos. Qué es el arte, es una creación a la que muchas veces le asignamos ese nombre, hay cosas que lo son porque están en un museo”.

En cuanto al estadio científico de la IA: “la palabra ‘masa’ se utilizaba hace 500 años para hablar de la masa de pan y ahora se usa en un contexto científico. Lo mismo va a pasar con la inteligencia y con otros términos que usamos de manera informal. En psicología se ha utilizado de una manera más técnica, pero aun así sin saber muy bien cuál es el fundamento que hay detrás, más observacional. Desde el punto de vista de neurociencia ya sabemos bastante más. Y donde más hemos aprendido sobre inteligencia no es en la IA, sino en la vida, ni siquiera en el mundo animal. Hay algo que se llama cognición mínima y cómo se adaptan las plantas al entorno lo podemos llamar cognición básica o como queramos y dialogar sobre si el término es o no adecuado, pero hay una adaptación, un aprendizaje innegable”.

“El problema surge cuando quieres hacer ciencia y necesitas unos términos rigurosos y en eso, en IA, no estamos en ese punto. Pero porque le cambiemos el nombre mañana no cambiará el tema, sino simplemente que cuando utilizamos la palabra la gente entiende más o menos de lo que estamos hablando y luego ya en otros ámbitos concretos nos desesperamos porque no llegamos a tener la precisión de otras ciencias. Ya me gustaría a mí que en inteligencia artificia tuviéramos conceptos como los que hay en química, en biología o en física, y en eso estamos”.

Interviene Jaime Güemes, director y conservador del Jardín Botánico y profesor de la Universidad de Valencia: “hay muchos hechos que ocurren, que estamos observando, independientemente de nuestra capacidad de observación, porque la biodiversidad, la evolución, la genética, trabajan de esa manera. Por ponerme en el lado opuesto al antroprocentrismo, cuando se habla de que las plantas tienen una inteligencia básica, también diría que es una adaptación. Decir que una planta puede ser inteligente me cuesta pensarlo, pero puede ser un tema de terminología.

“Creo que el problema lo tenemos cuando, de forma sistemática, recurrimos a palabras puramente humanas”, continúa. “Hablamos de aprendizaje del intestino, yo hablo de adaptación, entendiendo que es un término más evolutivo. Dices que la inteligencia artificial no habría aparecido con la evolución y desde luego que sí lo ha hecho. Cualquier creación humana no deja de ser un hecho evolutivo”.

Responde Hernández-Orallo: “antes intentabas darle tú las reglas a la máquina, pero todo eso ha cambiado, y no los últimos 10 años, los modelos transformers llevan muchas décadas. Ha cambiado todo porque nos hemos dado cuenta de que el problema era mucho más complejo de lo que pensábamos. Estamos viendo de que a veces es un problema de tamaño y de datos, probablemente de masa crítica, no tenemos las cabezas que tenemos evolutivamente sin una razón. Lo que ha cambiado es el énfasis en el aprendizaje automático, que hoy en día se basa en muchos datos. Hay una serie de organizaciones que tienen muchos datos, mucho cómputo y con eso son capaces de crear muy buenos modelos. Eso es lo que ha cambiado el panorama de los últimos 10 años. No sé si estamos en la primavera o el verano de la IA, o si nos vamos a quemar”.

Avelino Corma: “antes me atrevía a decir: ‘eso no puede ser, no lo van a conseguir’, sin embargo, me doy cuenta de que lo que era ciencia ficción hace 20 o 30 años, todos hemos leído a Asimov en nuestra juventud, hoy en día son realidades muchas de ellas. Ya no me atrevo a decir: ‘eso no será posible’, con tal de que respeten las leyes de la termodinámica, lo demás ya me lo creo todo”.