El diálogo entre Anthropic y Google DeepMind: la humanidad frente a un salto tecnológico sin retorno

La mesa redonda ‘The Day After AGI’ era una de las más esperadas del Foro de Davos. Ha reunido a Demis Hassabis, cofundador y CEO de Google DeepMind, y a Dario Amodei, cofundador y CEO de Anthropic, en un momento en que la carrera hacia la inteligencia artificial general se acelera. Zanny Minton Beddoes, directora de The Economist, ha conducido un diálogo que revela dos visiones próximas y tensas a la vez, con un punto en común: la sensación de atravesar un umbral histórico.

La conversación ha empezado con Beddoes poniendo sobre la mesa la cuestión de la velocidad del progreso. “Siempre es difícil saber exactamente cuándo algo va a ocurrir”, afirma Amodei, y explica que el desarrollo se encamina hacia modelos capaces de producir la siguiente generación, modelos que “crearán un loop que va a aumentar la velocidad del desarrollo”. Para ilustrarlo, cita la situación dentro de Anthropic: “tengo ingenieros que dicen: no voy a escribir código nunca más, yo hago las cosas alrededor”.

Ese salto abre una ventana temporal sorprendente. Amodei sostiene que podemos estar “a seis o doce meses de que el modelo haga todo”, aunque matiza que no cada fase del ciclo se acelera con IA debido a cuellos de botella como los chips, su fabricación o los tiempos de entrenamiento. Aun así, se muestra contundente al afirmar que si tuviera que aventurarse, “esto va más rápido de lo que la gente imagina”.

Hassabis acepta el diagnóstico de progreso acelerado y añade matices sobre la naturaleza desigual de ese avance. Recuerda que existen dominios más automatizables, como matemáticas o ingeniería, porque sus resultados se verifican de inmediato. Pero advierte sobre otras áreas: “no necesariamente sabrás si el compuesto químico que has construido o una predicción sobre física es correcta. Puede requerir experimentación y eso lleva más tiempo”. Además, señala una carencia fundamental, al insistir en que hay “algunas capacidades que faltan”. “No solo resolver problemas existentes, sino venir con la cuestión desde el primer momento. Creo que tendremos estos sistemas, pero quizás hay uno o dos ingredientes perdidos”.

Ambos ejecutivos coinciden en que los últimos doce meses han marcado avances decisivos en la industria. Demis Hassabis subraya que siempre ha confiado en recuperar el liderazgo y destaca la fortaleza de su base científica: “hemos tenido el banco de investigación más profundo y amplio. Hemos recuperado la intensidad y el enfoque”. Por su parte, Dario Amodei destaca la relación directa entre capacidad cognitiva e ingresos. Y respalda su argumento con cifras: Anthropic pasó “de 0 a 100 millones en 2023, de 100 millones a mil millones en 2024, y de mil millones a diez mil millones en 2025”. Su conclusión compartida es que compañías dirigidas por investigadores y orientadas a resolver problemas concretos del mundo pueden sostener un crecimiento continuado y duradero.

La mesa avanza hacia la posibilidad de cerrar un bucle de automejora total. Hassabis lo describe como un terreno incierto y reconoce que en código y matemáticas “puedo ver ese mecanismo funcionando”, aunque lo considera menos evidente en ciencias naturales debido a su complejidad y a dominios “NP hard”, donde la verificación se dilata. Añade que la inclusión de robótica y hardware introduce obstáculos adicionales.

Las perspectivas de seguridad ocupan también un espacio destacado del diálogo. Amodei subraya que la IA ofrece capacidades extraordinarias, desde “ayudarnos a curar cáncer” hasta profundizar en el conocimiento del universo, pero plantea un reto inmediato: “estamos llamando a la puerta de estas increíbles capacidades. Los próximos años tratarán sobre cómo mantener estos sistemas bajo control, que las personas no los usen mal y que las naciones no los usen mal”. En este sentido, expresa su inquietud por el bioterrorismo y por la actuación de regímenes autoritarios, y defiende una combinación de responsabilidades privadas y regulación pública.

Hassabis comparte la urgencia y recuerda que trabaja en IA desde hace dos décadas motivado por un sueño científico, aunque siempre tuvo presente su dualidad. “Si obtienes las ventajas, también puedes tener riesgos porque es una tecnología de doble uso”, afirma, antes de destacar que considera la seguridad técnica un problema abordable si existe coordinación y tiempo suficiente.

La conversación aborda el tema del mercado laboral, en el que Hassabis anticipa transformaciones visibles en el nivel junior. “Veremos este año los primeros efectos en empleos de entrada”, asegura. Su consejo para los estudiantes es directo: “les diría que se vuelvan increíblemente eficientes con estas herramientas”.

A largo plazo, plantea un horizonte donde el sentido del trabajo requerirá nuevas respuestas. “Puede que entremos en un mundo post escasez, pero entonces hay incluso preguntas más grandes relacionadas con significado y propósito”.

Amodei, por su parte, observa que el ritmo exponencial puede superar la capacidad de reorganización del mercado laboral, incluso si la historia demuestra flexibilidad. “Mi preocupación es que, a medida que este crecimiento exponencial siga acumulándose, superará nuestra capacidad de adaptarnos”, afirma.

En el cierre, ambos coinciden en la necesidad de cooperación internacional y de establecer estándares de seguridad claros. Hassabis contempla un enfoque coordinado y responsable, y defiende que sería bueno “tener un ritmo ligeramente más pausado que el que estamos prediciendo incluso en mis propias líneas de tiempo, para poder hacerlo bien a nivel social”.

Añade que la tecnología será transfronteriza y afectará a toda la humanidad, y subraya que la industria tiene la responsabilidad de demostrar su utilidad positiva. “Creo que es incumbencia de la industria y de todos nosotros, los principales actores, mostrar más, no solo hablar de ello, sino demostrarlo”.

Amodei complementa señalando las limitaciones geopolíticas que complican frenar el avance. “Si podemos no vender los chips, entonces la competencia no será entre Estados Unidos y China, será entre Demis y yo, y eso podemos gestionarlo”. Explica que la presión de adversarios construyendo la misma tecnología a un ritmo similar dificulta acuerdos globales. “Es muy difícil tener un acuerdo ejecutable donde ellos se ralenticen y nosotros también”, sostiene.

Los dos ponentes insisten en que los riesgos de la IA son gestionables si se actúa con tiempo, colaboración y rigurosidad científica. “Este es un riesgo que si todos trabajamos juntos podemos abordar, podemos aprender a través de la ciencia a controlarlos adecuadamente”, defiende Amodei. Hassabis recuerda, por su parte, que la colaboración y el enfoque de los mejores expertos permitirán resolver “el problema de riesgos técnicos”. “Es un problema muy abordable si se dispone del tiempo”, concluye.