誘導兵器ソフトウェアにおけるAIの利用：GTG-87001事例

何が起きたか

当社はイエメン北部に位置する脅威行為者グループを特定した。このグループは3つの兵器開発計画を実施していた。民生用のスマートフォン級フライトコンピュータを使った末端シーキング誘導ロケット、射程目標が2,000km超と公称される多段式弾道ミサイル、極超音速滑空体の変異型を含む「R2000」シリーズと呼ばれる多変異ミサイルである。

AIが何をしたか

行為者は人間のソフトウェアエンジニアの代わりにClaude Codeを使って、飛行体を誘導し安定させるための誘導・航法・制御（GNC）ソフトウェアを開発した。例えば、オープンソースのオートパイロットをスマートフォン級フライトコンピュータに統合し、制御ソフトウェアと位置推定ソフトウェアを作成し、制御設定を調整し、ファームウェアのビルドパイプラインを実行し、飛行シミュレーションを実施するのにClaudeを使用した。行為者は複数のClaudeインスタンスを同時に管理し、責任者が小規模なエンジニアリングチームで作業を割り当てるように、各インスタンスに役割を割り当てた。行為者は1つのインスタンスにコードを書かせ、別のインスタンスに研究をさせ、3つ目のインスタンスに1つ目のインスタンスが生成したコードをレビューさせた。

当社の保護機能は彼らの多くの要求を阻止したが、すべてではなかった。行為者は目的やソフトウェアの意図された用途を隠したり、作業を複数のセッションに分散させて単一のセッションでは完全な意図が明らかにならないようにしたりするなど、さまざまな戦略を使って保護機能を回避した。

レポートが観察したこと

これらの行為者は、Claudeを使って誘導ソフトウェアを設計することを含め、誘導兵器の開発を継続的に試みていた。行為者が運用可能な装置の配備に成功した証拠はないが、誘導ロケットの試射は実際に行われた。この実地試験は失敗したようだ。数時間以内に行為者はClaudeに戻り、失敗原因を分析させた。

当社は兵器開発の疑いに関する内部調査の一環として本活動を特定した。行為者に関連するアカウントを凍結し、行為者がもたらすリスクを軽減するために脅威情報を公共・民間部門のパートナーと共有した。ただし、行為者がClaudeやMATLABなどの他のエンジニアリング計算環境に依存しないオフラインのシミュレーションツールキットを既に構築していた証拠がある。

当サイトではいかなる兵器ソフトウェアのコード、制御パラメータ、兵器製造に利用できる情報も公開しない。

確認事項と不明事項

プラットフォームの対応

Anthropicは行為者に関連するアカウントを凍結し、脅威情報を公共・民間部門のパートナーと共有した。

対応の限界：アカウントを凍結しても、行為者がオフラインのツールキットを使って兵器開発を続けるのを阻止することはできない。