Eduardo Castelló: “Mientras pensamos el futuro de la robótica, la IA se lo comerá todo”

Eugenio Mallol.- ¿Qué hace un científico de robótica de enjambre en la planta 21 de una de las torrres de Madrid trabajando en una universidad orientada hacia el negocio empresarial?

Eduardo Castelló.- Hice mi máster y doctorado en Japón con una persona obsesionada con que en el futuro habría un tipo de robot muy caro, capaz de hacer muchas cosas. Para mí el futuro de la robótica es que tendríamos muchos robots alrededor nuestro que podrían cooperar para hacer cosas muy simples. Por eso me doctoré en los enjambres de robots, que son un subconjunto de los sistemas complejos. El problema es que ese sector de la ciencia está muy polarizado. Tienes al científico que se ocupa de hacer ecuaciones y no le importa nada más, y luego tienes a una persona que está mucho más orientada a la empresa que piensa que todo se puede solucionar con algo procedente de este campo tan avanzado. Y no se hablan entre ellos. Yo decidí ponerme en medio, crear una interfaz y explorar qué problemas se necesita resolver. Uno de ellos es la seguridad, porque los robots son ordenadores con capacidad física para interactuar con el mundo, de modo que, a diferencia de lo que pasa cuando se hackea un ordenador normal, un robot te puede hacer daño. También había problemas de consenso, pero uno de los problemas finales es que no había nuevos modelos de negocio. Se ha entendido como un paradigma en el cual los robots son destornilladores muy complejos, muy caros, que salen de la factoría para llegar a las casas o las ciudades, pero en el fondo siguen siendo una extensión de una herramienta. Con nuevas tecnologías como la criptografía, un ordenador no sólo te puede dar la seguridad de lo que puedes hacer con determinados datos, sino que además puede crear confianza y nuevos modelos de negocio. Por ejemplo, puedo ofrecer servicios de manera autónoma y formar empresas en las que el robot crea trabajo, lo capitaliza y retribuye a los accionistas. Eso llamó mucho la atención de una universidad muy centrada en el business el IE.

Eugenio Mallol.- Cuando hablas de modelos de negocio, se oye  música celestial en el ecosistema empresarial. Dónde empiezas a ver oportunidades: sueles hablar de robots de minería bajo el mar o en la luna, pero qué tiene visos de realidad en el futuro

Eduardo Castelló.- Estoy muy interesado en usar a los robots como un nuevo tipo de infraestructura. Mucho de nuestra sociedad y del bienestar está basado en cómo el Estado y las empresas crean infraestructuras para que las podamos utilizar. El problema es que son muy costosas y a la vez muy estáticas. Tienes que rentabilizar una autopista en 50 o 60 años y no la puedes cambiar. Si la gente ya no quiere ir de Madrid a Valencia te la comes. Estoy muy interesado en construir infraestructuras con robots para que te dé un servicio y se pueda dinamizar en función de las necesidades de una sociedad, de un barrio o de una ciudad.

«Con la criptografía, un ordenador no sólo te puede dar la seguridad de lo que puedes hacer con determinados datos, sino que además puede crear confianza y modelos de negocio»

Eugenio Mallol.- Que el robot pueda cambiar de tarea o que realice diferentes funciones según la hora del día o la estación.

Eduardo Castelló.- En el MIT desarrollamos el problema de las bicis autónomas. Podías llevarla como una bici normal, pero cuando no la dejabas en una parte de la ciudad la rueda de atrás se despegaba en dos ruedas y se convertía en un triciclo. La bici conseguía estabilidad y, por tanto, autónomamente podría ir al cargador más vacío o que podía tener más demanda en el futuro. Las bicis se autoequilibraban según el estado de la ciudad y eso permite crear una infraestructura donde no la hay. El sistema se equilibra para encontrar las necesidades de la sociedad. Lo mismo puede de decirse del sistema de recogida de basuras o de los coches autónomos que van de un sitio para otro y pueden actuar como sensores de la realidad para otros coches.

Eugenio Mallol.- Hay ya muchas variantes de soluciones diseñadas para funcionar en tierra, mar y aire. A la hora de poner el foco en la inversión y la innovación, ¿en qué sistemas autónomos crees que conviene centrarse principalmente?

Eduardo Castelló.- Va a haber un tipo de sistemas autónomos que, por ejemplo, hagan todo el seguimiento médico de una ciudad. Ya tenemos robots que se pueden meter en las cloacas y analizar las aguas de los barrios, y la ciudadanía no se entera. Tenemos robots que empiezan a hacer deliveries y podemos ver drones en almacenes haciendo el inventario automáticamente, leyendo las tarjetas QR. Esos sectores van a tener mucho auge, como los robots customizados para trabajar en ambientes extremos como cloacas y el medio submarino.

Eugenio Mallol.- Bajemos al terreno de la tecnología. En la IAA de Munich, un evento sobre el sector automovilístico, se ha hablado de electrónica  y se ha dado por hecho que el 90% de las innovaciones vendrán de la mano del software. El debate era  qué chips harán falta. En España formuló en el último Collaborate de Málaga una llamada a ser líderes en chips basados en Risc-V por parte del propio director de desarrollo de negocio del Perte CHIP.

Eduardo Castelló.- Se están buscando nuevas arquitecturas en microelectrónica porque la Ley de Moore está ya casi agotada. Estoy de acuerdo en que el software va a ser un elemento clave. Hay dos vertientes: cómo hacer que el software se mueva, que cobre vida, cómo se puede hacer física la interfaz; y otra parte es el desarrollo del software en sí. Con los modelos de LLM se ha dado un cambio radical. Yo me imagino software de robots o de coches autónomos empezando a llamar a humanos para que les resuelvan problemas, en lugar de al revés. “Soy tan autónomo que me he encontrado en una situación en la que no sé qué hacer, ¿me puedes desatascar?» Pienso que va a ser así, el software y la inteligencia artificial es tan buena como los datos que tiene para entenderla. Va a haber una revolución acerca de quién da los datos, cómo se generan.

Eugenio Mallol.- El sistema tendrá que ser capaz de entender que no es capaz de dar la respuesta. Es una forma casi de autoconciencia.

Eduardo Castelló.- La autoconciencia de un sistema así viene de que entiende la razón de por qué está haciendo las cosas. Chat GPT sigue sin entender por qué hace lo que hace. Una cosa es eso y otra es que sepa cuáles son los pasos para desarrollar una acción y sea capaz de saber que no tiene los suficientes datos para hacer una parte del proceso con una fiabilidad superior a un determinado porcentaje. Hay un debate importante acerca de qué es autonomía. Se entiende, a día de hoy, como que yo tengo una pregunta y tú me das la respuesta correcta. Yo no pienso así, creo que es la manera de asegurarse todas las cosas que se necesitan para seguir haciendo lo que está haciendo. Entramos en un nivel diferente del sistema autónomo: el coche autónomo ya no es el que te lleva por el camino más corto, sino el que sabe que para seguir haciendo viajes necesita cargarse y se va al cargador para cargarse.

Eugenio Mallol.- La verdadera autonomía consiste en no necesitar recibir órdenes.

Eduardo Castelló.- Es una visión de la autonomía, pero minoritaria en función de la ola de hype. Vamos en oleadas. Ahora los sistemas autónomos son chat, pero esa es una sola versión, no todo lo que puede haber.

Eugenio Mallol.- Se habla de construir verdaderos ecosistemas autónomos. Para ello deben hablar los diferentes actores que lo componen: empresas distintas, colaboración público-privada. Me pregunto si entendemos las oportunidades que abre la posibilidad de participar en un ecosistema autónomo.

Eduardo Castelló.- Hay dos vertientes que se unen en una herramienta que es la robótica y en la inteligencia artificial que vertebra esas tensiones. Una es que nosotros en el fondo ya no nos creemos nuestras instituciones. Antes, si el gobierno te decía que algo era así te lo creías, pero ahora pensamos que es algo partidista y que alguien puede utilizar las instituciones para su beneficio, desconfiamos mucho. Queremos comprobar qué es lo que se está publicando y entendemos que algo es verdad no porque una persona te lo cuente, sino porque tú nosotros lo podemos comprobar. Eso se llama citizens science. Por otro lado, la gente más joven está perdiendo derechos fundamentales en manos de algunas tecnológicas que en el fondo cada vez les dan más cosas gratis a costa de otras que ellos no valoran. Pero ellos sí valoran estar conectados, ser parte de una red, ser parte de algo. Si combinas ambas tensiones, los nuevos tipos de gobernanza de ciudadanía van por el hecho de que nos unamos en una organización descentralizada y autónoma y estemos dispuestos a votar los ciudadanos de un barrio dónde va a ir el dinero, vamos a descentralizar esas decisiones. Son ciudades que se mantienen así mismas.

Eugenio Mallol.- Si llevamos este modelo mental a Airbus y sus proveedores y clientes, por ejemplo, la toma de decisiones podría llegar a ser más democrática.

Eduardo Castelló.- Para esto son muy importantes todas las técnicas digitales de Zero Trust. Si soy una empresa como Airbus y tengo unos clientes determinados, por un tema de seguridad no tengo por qué enseñarles todos mis datos, pero sí puedo mostrarles algunos para que, al verlos, confíen en que lo que les digo es verdad. Puedo ir a base de pruebas criptográficas. Les puedo pedir que federen sus datos conmigo porque cuanto más tengamos más podremos hacer, pero dándoles la seguridad de que nadie va a utilizar sus datos de forma no segura, porque habrá pruebas criptográficas de cuáles se han usado y cuántos. Puedo compartir el conocimiento que ya tengo sin romper el secreto industrial con criptografía.

Eugenio Mallol.- Serán inseparables robótica y blockchain.

Eduardo Castelló.- Nos movemos por modas. Hay tecnologías buenas y malas, trendy y no trendy. Las hemos politizado tanto que hay incluso tecnologías de izquierdas y de derechas. Me gusta mucho investigar cosas que juntas aparentemente no tienen nada que ver. Por eso junté el mundo de la robótica y el del blockchain. Yo entiendo la ingeniería que hay detrás del blockchain, es una navaja suiza muy joven, pero produce ya diamantes. Lo que hago es expandir los límites, las fronteras que tengo en mi campo con otras tecnologías que no se han pensado de determinada manera. Para mí darle una nueva versión a la autonomía y que los sistemas autónomos puedan autosostenerse teniendo una vida artificial era posible sólo juntando blockchain y robótica.

«Imagino software de robots o de coches autónomos llamando a humanos para que les resuelvan problemas, en lugar de al revés: ‘soy tan autónomo que no sé qué hacer’, dirán»

Eugenio Mallol.- En el diálogo con el mundo de la empresa y la inversión, qué necesita, qué capacidades tienen que desarrollar para entender lo que está pasando en el campo de los sistemas autónomos.

Eduardo Castelló.- Hay muchos cuellos de botella todavía. Uno de ellos es la ciencia ficción. Muchos de los que estamos trabajando en el mundo de los robots estamos influenciados por una cultura pop que nos llevaba a querer crear a Mazinger o los Transformers, hemos crecido en esa cultura. La ciencia ficción ha avanzado mucho más que la robótica, que está intentando conseguir las cosas que aquélla ya predijo en los 80. Pero ese es un campo muy complicado, una carrera al revés muy difícil. Esa cultura pop ha contaminado también a la empresa, hay una especie de doble sesgo y se quieren automatizar capas, pero también que las cosas sean estables, que no fallen, que sirvan para todo.

Eugenio Mallol.- El CEO de Vicky Foods, Rafael Juan, me explicó que habían retirado un robot porque era menos flexible que un operario humano.

Eduardo Castelló.- Tienes que pensar muy bien dónde metes un robot. En una línea de coches tiene mucho sentido porque todo está mecanizado y tienes una seguridad muy grande. Pero en otro tipo de producto, como podría ser la comida, uno de los grandes problemas para la robótica es cómo coger una malla de limones, los elementos deformables. En Amazon todavía no se ha resuelto cómo coger todos los elementos que están en venta. Sigue habiendo personas sólo para ocuparse de las cosas que el robot no puede coger.

Eugenio Mallol.- Te quedó por concluir la idea sobre el peso de la ciencia ficción.

Eduardo Castelló.- La conclusión es que, mientras pensamos en el futuro de la robótica, la IA se lo comerá todo. Las cosas van a tardar mucho más de lo esperado porque , aparte de la eficiencia, al empresario lo que le importa es la seguridad, la explicabilidad y los nuevos modelos de negocio. Cuanto más complejo es el uso del robot, más complejo es explicarlo y cuántos más robots hay más difícil es explicar el sistema. El tema de Defensa es diferente, ahí se ha podido explotar algunos de los beneficios de tener un enjambre de robots. Si yo tengo un robot en el campo de batalla lo puedo inutilizar tirando un láser o un misil, pero cuando tienes un enjambre de drones, aunque sean muy simples y fáciles de matar uno a uno, no se puede parar en grupo, solo puedes defenderte proactivamente. La defensa está metiendo modelos de esto.