Un informe incómodo

Anthropic ha publicado un informe en el que señala que su propio modelo de IA, Claude, fue utilizado por actores de amenazas para ciberataques, espionaje y desarrollo de sistemas militares. El documento, difundido el jueves, describe cómo operadores que usaban ruso y chino emplearon la herramienta para automatizar ataques, buscar vulnerabilidades y preparar armamento.

Entre los casos destaca el operador rusohablante “JackPoterz”, que usó flujos de trabajo personalizados con IA para automatizar gran parte de la cadena de ataque. Llegó a apuntar contra más de 20 organizaciones, incluidos ministerios y servicios de inteligencia, además de embajadas y misiones diplomáticas en Ucrania y Europa. Anthropic añade que la IA está cambiando la economía de los ciberataques: un único operador puede completar una brecha en dos o tres horas y manejar decenas de víctimas en paralelo.

Operadores chinos, por su parte, emplearon Claude como capa de ingeniería y orquestación para investigación de vulnerabilidades. Uno de esos flujos generó más de una docena de posibles fallos de día cero en firmware de appliances de red en un solo mes.

Vigilancia de 25 millones de SIM en Malí

El informe también detalla un caso de vigilancia a gran escala. Un consultor independiente, probablemente con base en Bamako y vinculado al servicio de inteligencia estatal de Malí, usó Claude como fuerza de trabajo principal de ingeniería para construir un sistema doméstico de vigilancia que monitoriza aproximadamente 25 millones de tarjetas SIM en las tres operadoras móviles nacionales.

La plataforma desplegada funcionaba en las instalaciones del cliente, con modelos locales, y Claude aportó diseño de software y soporte de ingeniería. Según el informe, el sistema fue diseñado para generar dossiers de inteligencia sobre números de teléfono sin necesidad de una orden judicial.

Drones autónomos y armamento

Más allá de los ataques informáticos, Anthropic documentó usos militares. Un pequeño grupo especializado de actores rusos, vinculado a una universidad regional y no a una entidad estatal rusa, usó Claude para construir el software central de un enjambre de drones autónomos. Ese trabajo incluía memoria compartida del enjambre, lógica de coordinación tolerante a fallos, códigos de ataque, observación y regreso a la base, y un sistema de guiado terminal.

El conjunto podía seleccionar objetivos y ordenar ataques sin intervención humana, y fue probado en hardware real. “Los actores diseñaron la plataforma para el enfrentamiento letal autónomo”, dijo Anthropic, que añadió que “el modelo embarcado podía seleccionar objetivos” y “emitir órdenes de detonación sin un humano en el circuito”. La compañía identificó nueve cuentas relacionadas con este trabajo.

De la Armada china al Yemen

El informe señala además a un actor con base en China que usó Claude para trabajar en un sistema de armas antitorpedo. Con la ayuda del modelo redactó especificaciones técnicas en chino, preparó una propuesta de más de 200 páginas, creó un resumen ejecutivo y comparó el diseño con programas estadounidenses específicos. También refinó borradores pidiendo al modelo que actuara como revisor hostil. Anthropic bloqueó la cuenta.

En el norte de Yemen, zona donde los hutíes respaldados por Irán controlan gran parte del territorio, Anthropic descubrió una célula de ingeniería de armamento que usó Claude Code para hacer el trabajo de ingenieros de software. Sus sesiones se centraron en software de guiado, navegación y control para cohetes y misiles. “No tenemos evidencia de que los actores lograran desplegar un dispositivo operativo, pero sí dispararon un cohete guiado de prueba”, afirmó la empresa.

Inteligencia sobre fuerzas de EE. UU.

Por último, un actor vinculado a Irán usó Claude para recopilar información pública y generar recomendaciones de selección de objetivos contra fuerzas estadounidenses. Anthropic bloqueó la cuenta, compartió la información con las autoridades y desarrolló detecciones para futuros usos indebidos.