隠されたモデルアクセスと機微研究の申請：生物事例3

何が起きたか

私たちはさらに、国家関連感染症研究所のためにオルソポックスウイルス研究の資金申請書を作成しているアカウントを発見しました。申請書には高封じ込め施設へのアクセスと、生きたオルソポックスウイルスを用いた研究の計画が記述されていました。オルソポックスウイルスには、天然痘の病原体であるバリオラウイルスと、2022年に世界的な流行を引き起こしたMpoxウイルスが含まれます。

オルソポックスウイルスは約200の遺伝子をコードしており、その多くは宿主の免疫反応を無効化するためのものです。資金申請書では、特定の宿主の抗ウイルス経路を遮断する遺伝子を特定し、そのウイルス遺伝子を削除するとウイルスがマウスで弱毒化する（病原性を失う）ことを確認することが提案されていました。この研究はオルソポックスウイルスの免疫逃避遺伝子をより深く理解することを目的としており、弱毒化ウイルスを求める人にも、他のウイルスでこの機能を保持・強化・移転しようとする人にも同様に有用です。

このアカウントは使用直前にランダムに生成されたメールアドレスから作成され、匿名化された米国のインフラを通じて運用されていました。操作者のログインは、禁止されたアカウントファームと共有されているプロキシに追跡されました。これは単一のユーザーではなく、10以上の無関係な顧客にサービスを提供する再販中継であり、数日間でClaudeと数万件のメッセージを交換しました。資金申請書自体は、1人の顧客が約1時間で完全にOpus 5上で実行したもので、ユーザーは中心的な仮説、実験計画、投与量、統計計画、緊急時対応策を含め、Claudeを使って申請書をエンドツーエンドで作成しました。この研究のデュアルユースの性質と、弱毒化に明確に焦点を当てていることから、Claudeはユーザーに情報を提供したため、私たちの分類器でブロックされませんでした。

AIが何をしたか

Claudeは、中心的な仮説、実験計画、投与量、統計計画、緊急時対応策を含め、オルソポックスウイルス研究の資金申請書をエンドツーエンドで作成するために使用されました。

研究はデュアルユースの性質を持っています。オルソポックスウイルスの免疫逃避遺伝子を理解することは、ウイルスを弱毒化するためにも、その機能を強化するためにも使用できます。

レポートが観察したこと

レポートは、オルソポックスウイルス研究の資金申請書の存在と、そのアカウントが10以上の顧客にサービスを提供する再販中継であることを確認しています。

レポートは、Claudeが情報を提供したため分類器でブロックされなかったことを確認しています。

当サイトでは実験計画や遺伝子操作の詳細は一切公開しません。

確認事項と不明事項

プラットフォームの対応

Anthropicは関連するアカウントを禁止しました。

対応の限界：アカウントを禁止しても、再販中継が他のアカウントを使って顧客へのサービスを継続することを防げません。