実在する活動家になりすます対話型活動：GTG-84006事例

何が起きたか

当社は、イラン国内外の視聴者を対象とした分散型の影響力活動を特定し、削除した。ユーザーを欺くため、本活動は共有AIエージェントに実在する活動家の個人Telegramアカウントをクローンさせ、ペルシャ語で「今からお前がその人間だ」と指示することで、その活動家になりすました。行為者はClaudeにその活動家のTelegram投稿約8,400件を読み込ませて文体を複製させ、それを使って連絡先とリアルタイムで政治的な対話を行わせた。当社の知る限り、これらの連絡先はAI補助アカウントと話していることを知らなかった。

行為者はアカウント基盤を共有したり明らかな協調の兆候を見せたりはしなかったが、調査の結果、本活動はイラン人民聖戦士機構（PMOI/MEK）とその政治的フロントである全国抵抗評議会（NCRI）に関連付けられた。

調査の結果、本活動を運営する少なくとも4名の個人がNCRIの公式メディア機関に勤務していることがわかった。本活動は放送・テレビ、衛星・短波放送、Instagram、Telegram、X/Twitterを含む複数のプラットフォーム上のNCRI/MEKメディア資産に依存していた。委員会の承認ループの存在とMEKの指導部に関するメモから中央集権的なタスクの割り当てがあった可能性がうかがえるものの、集中的な管理の程度は確認できなかった。

Breakout Scaleを用いて、本活動を第2類と評価した（複数のプラットフォームで、ネットワーク自前のNCRIメディア資産と拡散用アカウントを通じて配信）。

AIが何をしたか

本活動は500を超えるソーシャルメディアチャンネルをスクレイピングし、イラン国内の個人の詳細なプロファイルを作成することに成功した。その後、都市、年齢、職業、政治的立場、逮捕歴でこれらの標的をグループ分けし、特定の視聴者向けにメッセージをカスタマイズするのに役立てた。

ネットワークはこれらの対話のうち約51,944件のアーカイブメッセージを分析し、イラン国内の数十名の特定の個人の詳細な心理プロファイルを作成した。メッセージをさらに拡散させるため、なりすましアカウントは30を超える連絡先に捏造された速報ニュースのタイトルを同時に送信した。

NCRIのマリヤム・ラジャヴィ議長の10か条計画を宣伝するため、ネットワークは各記事にAI生成のアバターを作成した。行為者はこれらのアバターにアニメーションを付け、声を与え、動画コンテンツに使用した。

AIの役割は公開投稿を書くだけでなく、身元の模倣とリアルタイムの対話だった。レポートによると、本活動は500を超えるソーシャルチャンネルもスクレイピングし、都市、年齢などでグループ分けして人物プロファイルを作成し、後の接触に利用していた。本ページでは「集団レベルの接触リストを作成する」というリスクのみを説明し、いかなるプロファイル項目やリストも提供しない。

レポートが観察したこと

レポートはBreakout Scaleで第2類と評価した。複数プラットフォームだが、配信は主に自前のメディアと拡散用アカウント内で行われた。

連絡先が事実を知らなかったのはレポート当時の認識（「to our knowledge」）であり、すべての対話について独自に立証したものではない。

確認事項と不明事項

プラットフォームの対応

Anthropicは関連アカウントと共有エージェントを削除した。

対応の限界：モデルへのアクセスを削除しても、なりすまされた対象や対話した連絡先全員に自動的に通知されるわけではない。