Utilisation de l'IA dans le logiciel d'armes guidées : cas GTG-87001

Ce qui s'est passé

Nous avons identifié un groupe d'acteurs de menace basé dans le nord du Yémen qui menait trois programmes de développement d'armes : une roquette guidée à guidage terminal utilisant des ordinateurs de vol de niveau téléphone commerciaux ; un missile balistique à plusieurs étages avec une portée cible revendiquée de plus de 2 000 km ; et un missile à multiples variantes (appelé série « R2000 ») incluant une variante de planeur hypersonique.

Ce que l'IA a fait

Les acteurs ont utilisé Claude Code à la place d'ingénieurs logiciels humains pour développer un logiciel de guidage, navigation et contrôle (GNC) utilisé pour guider et stabiliser les véhicules. Par exemple, ils ont utilisé Claude pour intégrer un pilote automatique open source sur un ordinateur de vol de niveau téléphone, écrire un logiciel de contrôle et d'estimation de position, régler les paramètres de contrôle, exécuter des pipelines de compilation de micrologiciel et réaliser des simulations de vol. Les acteurs géraient plusieurs instances de Claude simultanément, attribuant à chacune un rôle, tout comme un responsable déléguerait le travail dans une petite équipe d'ingénierie : l'acteur a assigné une instance pour écrire du code, une autre pour faire de la recherche et une troisième pour réviser le code produit par la première.

Nos sauvegardes ont bloqué nombre de leurs demandes, mais pas toutes. Les acteurs ont utilisé diverses stratégies pour contourner nos sauvegardes, notamment en masquant l'usage prévu de leurs cibles et logiciels, et en répartissant le travail sur plusieurs sessions afin qu'aucune session individuelle ne révèle leur intention complète.

Ce que le rapport a observé

Ces acteurs ont travaillé de manière persistante à développer des armes guidées, notamment en utilisant Claude pour concevoir un logiciel de guidage. Nous n'avons aucune preuve que les acteurs aient déployé avec succès un dispositif opérationnel ; cependant, ils ont bien effectué un tir d'essai d'une roquette guidée. Cet essai sur le terrain semble avoir échoué : dans les heures qui ont suivi, les acteurs sont revenus à Claude pour analyser la cause de l'échec.

Nous avons identifié l'activité dans le cadre d'une enquête interne sur un présumé développement d'armes. Nous avons banni les comptes associés aux acteurs et partagé des informations sur la menace avec des partenaires des secteurs public et privé pour atténuer le risque posé par les acteurs. Cependant, nous avons la preuve que les acteurs ont construit une trousse d'outils de simulation hors ligne qui ne dépend pas de Claude ni d'autres environnements de calcul d'ingénierie (tels que MATLAB).

Ce site ne publie aucun code de logiciel d'armes, paramètre de contrôle ou information pouvant être utilisée pour fabriquer des armes.

Confirmé et inconnu

Réponse de la plateforme

Anthropic a banni les comptes associés aux acteurs et partagé des informations sur la menace avec des partenaires des secteurs public et privé.

Limites de la réponse：Bannir les comptes ne peut pas empêcher les acteurs de poursuivre le développement d'armes en utilisant la trousse d'outils hors ligne.