デュアルユース研究における意図識別の難しさ：生物事例4–5

何が起きたか

残りの2つの事例では、研究者が非伝播性の新しい毒液と毒素を研究しました。こうした化合物には重要なデュアルユースの特性があります。例えば、ボツリヌス毒素は非常に致死性の高い物質であり、かつて複数の国が生物兵器として追求しましたが、現在は非常に少量で正確な投与量の「ボトックス」として片頭痛、痙攣、しわの治療に使用されています。同様に、貝の藻類に由来するサキシトキシンは1950年代から60年代にCIAが自殺用・暗殺用の薬剤として備蓄していましたが、神経信号伝達を研究するための重要なツールです。その親類であるフグ毒のテトロドトキシンは、がんの疼痛治療への使用が試験されています。

4番目の事例では、ある研究者がClaudeを使って、複数の有毒な動物の系統に由来する毒液毒素ペプチドマップを開発しました。さらに、毒素の特性を最適化する生成パイプラインに発展させました。この計画には、新しい鎮痛薬、抗うつ薬、その他の治療分子を開発するという明確な治療目標がありました。しかし、マップには治療と麻痺の両方の標的の骨格が含まれていたため、新しい治療用または有害な化合物の生成に使用できました。後者は、失能剤としてのデュアルユースの可能性からオーストラリア・グループの共同規制リストに載っている毒素に由来するものです。研究者自身は、タンパク質設計のデュアルユースの性質に言及する学術論文を引用するなど、自身の研究のデュアルユースの性質を認識している様子でした。さらに、この拠点での国際コンプライアンス評価では、研究者が追求している特定のカテゴリーの毒素、特にこうした毒素の文脈でAI/MLを生物兵器用途に使用することに懸念が生じました。本事例では、Claudeと共有された情報から、研究者の成果が国家支援研究プログラムの一部でもあることがわかりました。このアカウントは2026年5月、地域回避を支援していないとして禁止されました。

5番目の事例では、ある研究者が複数の毒素の計算機による再設計を含む複数の研究プロジェクトでClaudeを使用しました。前の事例と同様に、これらの研究プロジェクトは多くの同じ技術ツールを使用し、目標を大きく治療の文脈で枠組みし、国家公共研究計画の下での国家優先研究について記述していました。この研究課題の一環として、細菌毒素サブユニットと、WHOの研究開発ブループリントで流行・大流行の脅威が最も大きい疾患の優先リストに載っている出血熱ウイルスのタンパク質が対象となりました。

研究者はClaudeと共同で四半期ごとの進捗報告書を作成しました。注目すべきは、細菌毒素とウイルスタンパク質の正体が意図的に曖昧にされ、研究者がClaudeに対してこれらの記述の忠実度を低く保つよう明確に指示したことです。私たちは2026年5月、Anthropicのサポート地域政策に違反したとしてこれら2つのアカウントを禁止しました。

AIが何をしたか

事例4では、Claudeは毒液毒素ペプチドマップと生成パイプラインの開発に使用され、治療分子を開発するために毒素の特性が最適化されました。

事例5では、Claudeは複数の毒素の計算機による再設計と四半期ごとの進捗報告書の作成に使用されました。

レポートが観察したこと

これら2つの事例では、作業は基本的に私たちの生物安全分類器によって妨げられませんでした。これは設計によるものです。分類器の目的と意図は、新手が潜在的に壊滅的な影響を持つ既知の生物兵器を開発できるようにする情報へのアクセスを制限することです。これらの事例では、私たちのモデルが、新しい治療用または有毒な製剤の両方に開発できる新しい化合物の研究に使用されているのが見られました。

私たちは、これらの事例が分類器を唯一の保護層として使用することの課題を示していると考えています。高度な技術のデュアルユース分野ではユーザーの意図を信頼できる形で識別できないため、分類器は有益性と危害防止を両立できません。この認識とこうした事例の観察から、最先端の生物能力を提供する唯一の安全な方法は、信頼できるユーザープログラムで提供することであることがわかりました。

確認事項と不明事項

プラットフォームの対応

Anthropicは2つのアカウントを禁止し、調査結果を保護措置に反映しました。レポートでは、最先端の生物能力は信頼できるユーザープログラムで提供することが推奨されています。

対応の限界：アカウントを禁止しても、研究者が他のツールを使って研究を続けることを防げません。