Anthropic alerta del salto hacia ataques más autónomos con inteligencia artificial

La ejecución autónoma

Anthropic utiliza el concepto de ‘uplift’ para analizar cuánto aumenta la capacidad de un actor cuando incorpora IA a una operación, a partir de las dimensiones de velocidad, escala y profundidad. Uno de los ejemplos descritos es el de una operación de espionaje en la que varios operadores utilizaron Claude como capa de ingeniería y orquestación. El sistema combinaba tareas de reconocimiento, investigación de vulnerabilidades, desarrollo de malware y recopilación de inteligencia. También se identifican varias operaciones en las que los actores desarrollaron flujos automatizados para investigar vulnerabilidades y diseñar exploits de forma continuada.

La interpretación que se da de estos casos es que se ha producido reducción de las barreras de entrada para operaciones ofensivas que anteriormente hubiesen requerido mayores conocimientos técnicos y equipos más numerosos, a menudo asociadas a actores con importantes recursos.

La misma lógica aparece en las operaciones de influencia. Se documentan campañas impulsadas por gobiernos, instituciones de propaganda, medios estatales, empresas privadas contratadas para generar influencia y operadores políticos. En varios casos, la IA se ha incorporado a procesos de producción de contenido que ya contaban con supervisión humana.

El informe identifica una tendencia que denomina ‘AI as a newsdesk’, según el cual el modelo actúa como una especie de redacción auxiliar dentro de una operación, generando o editando contenidos a una escala superior a la que podría alcanzar un equipo pequeño. En otros casos, Claude se utilizó para la construcción de parte de la infraestructura de la campaña, desde bases de datos de objetivos y sistemas de perfiles hasta documentación interna y mecanismos para organizar el trabajo.

Vigilancia y fraude

El uso de IA figura en sistemas de vigilancia y en operaciones destinadas a identificar o monitorizar personas. Se registran casos relacionados con la vigilancia de disidentes y otras actividades de seguimiento; en paralelo, redes de fraude que utilizan IA para automatizar diferentes partes de sus operaciones.

La propia infraestructura de la IA se está convirtiendo en un objetivo. Anthropic describe un mercado de credenciales y accesos comprometidos a servicios de IA, incluidos API keys y tokens de sesión. Algunos actores intentan obtener estas credenciales para utilizarlas directamente o venderlas a intermediarios, mientras otros crean servicios fraudulentos que aparentan ofrecer acceso barato a modelos de IA y utilizan el proceso para robar las credenciales de sus usuarios.

Las evaluaciones realizadas sobre modelos anteriores mostraban capacidades insuficientes para proporcionar una asistencia significativa a usuarios expertos en determinadas investigaciones peligrosas. Con los modelos más recientes, la compañía considera que esa garantía ya no puede mantenerse con el mismo nivel de confianza debido a su mayor capacidad para ayudar en tareas científicas complejas. El documento presenta cinco casos en los que actores utilizaron modelos de Anthropic para actividades que podían contribuir a investigaciones biológicas de doble uso. En algunos de ellos, los usuarios intentaron sortear restricciones geográficas o utilizar modelos alternativos cuando determinadas solicitudes eran rechazadas.

Sin embargo, la compañía de Dario Amodei insiste en que aunque las evaluaciones de capacidades pueden demostrar que un modelo es capaz de realizar determinadas tareas, no demuestran por sí mismas que esa capacidad vaya a utilizarse para desarrollar armas biológicas en el mundo real.

Uno de los casos atribuidos por Anthropic a Alibaba alcanzó casi tres millones de intercambios diarios y más de 151 millones de intercambios observados entre mayo y julio de 2026. Según el informe, los ataques buscaban extraer capacidades relacionadas con tareas agénticas, ingeniería de software, desarrollo de sistemas y razonamiento de largo horizonte. Por otro lado, relacionado con Moonshot AI, solicitudes de usuarios fueron redirigidas a Claude y posteriormente utilizadas para extraer información sobre el razonamiento del modelo.

Todo apunta a un cambio en la superficie de riesgo, según publica Anthropic. Cuanto más capaces son los modelos de actuar sobre herramientas, sistemas y procesos completos, mayor es la necesidad de proteger los accesos, las herramientas, los datos y las cadenas de ejecución que permiten convertir esas respuestas en acciones.