Uso de IA en el software de armas guiadas: caso GTG-87001

Qué sucedió

Identificamos a un grupo de actores de amenaza con sede en el norte de Yemen que ejecutó tres programas de desarrollo de armas: un cohete guiado con guiado terminal que utiliza computadoras de vuelo comerciales de grado telefónico; un misil balístico de varias etapas con un alcance objetivo afirmado de más de 2.000 km; y un misil de múltiples variantes (llamado serie «R2000») que incluye una variante de vehículo hipersónico planeador.

Qué hizo la IA

Los actores utilizaron Claude Code en lugar de ingenieros de software humanos para desarrollar software de guiado, navegación y control (GNC) utilizado para guiar y estabilizar vehículos aéreos. Por ejemplo, utilizaron Claude para integrar un piloto automático de código abierto en una computadora de vuelo de grado telefónico, escribir software de control y estimación de posición, ajustar la configuración de control, ejecutar canalizaciones de compilación de firmware y ejecutar simulaciones de vuelo. Los actores gestionaron múltiples instancias de Claude simultáneamente, asignando a cada una un papel como un gerente delegaría el trabajo en un pequeño equipo de ingeniería: el actor asignó a una instancia para escribir código, a otra para realizar investigación y a una tercera para revisar el código producido por la primera.

Nuestras salvaguardas bloquearon muchas de sus solicitudes, pero no todas. Los actores utilizaron diversas estrategias para evadir nuestras salvaguardas, incluido ocultar el propósito previsto de sus objetivos y software, y distribuir el trabajo en múltiples sesiones para que ninguna sesión individual revelara su intención completa.

Qué observó el informe

Estos actores trabajaron continuamente para desarrollar armas guiadas, incluido el uso de Claude para diseñar software de guiado. No tenemos evidencia de que los actores hayan desplegado con éxito un dispositivo operativo; sin embargo, sí lanzaron un cohete guiado de prueba. Esta prueba de campo parece haber fallado: a las pocas horas, los actores regresaron a Claude para analizar la causa del fallo.

Identificamos la actividad como parte de una investigación interna sobre presunto desarrollo de armas. Prohibimos las cuentas asociadas a los actores y compartimos información sobre amenazas con socios de los sectores público y privado para mitigar el riesgo que plantean los actores. Sin embargo, tenemos evidencia de que los actores han construido un kit de herramientas de simulación sin conexión que no depende de Claude ni de otros entornos de computación de ingeniería como MATLAB.

Este sitio no publica ningún código de software de armas, parámetros de control o información que pueda utilizarse para fabricar armas.

Confirmado y desconocido

Respuesta de la plataforma

Anthropic prohibió las cuentas asociadas a los actores y compartió información sobre amenazas con socios de los sectores público y privado.

Límites de la respuesta：Prohibir cuentas no puede impedir que los actores continúen el desarrollo de armas utilizando el kit de herramientas sin conexión.