商業監視プラットフォームがAIでソーシャルアカウントをプロファイリング：GTG-54009事例

何が起きたか

2026年6月、当社はClaudeを使って商業監視プラットフォームを構築していたアカウントを凍結した。このプラットフォームはイランとペルシャ湾地域のユーザーのソーシャルメディア活動を分析、分類、プロファイリングするためのものだった。調査の結果、本活動は「S2T Unlocking Cyberspace」という団体によって、またはそのために実施されたことがわかった。公開情報の調査から、これはイスラエル–シンガポールの商業情報ベンダーであることが示唆された。

このプラットフォームの中心的な用途は監視だった。ソーシャルメディアユーザーの位置にラベルを付け、人々をコード化された人口統計グループに分類し、公式なアラビア語で政府公文書のように読める情報ブリーフィングを生成するものだった。

当社の発見は、ジャーナリストがコロンビア軍のリーク文書に含まれていた会社のパンフレットで発見した、S2Tの監視製品を記録したForbidden Storiesの2023年2月の調査を独自に裏付けるものだった。パンフレットに記載された能力は、本活動で観察された行動と高度に一致していた。

当社は本活動を試験段階で特定し、凍結前にS2Tの監視チェーンの後段階（Forbidden Storiesの報告に記載されたもの）が実際の標的に使用された証拠は見つからなかった。

AIが何をしたか

行為者はおそらく湾岸地域のアラビア語圏の顧客向けに、複数のブランドからなるシステム群を構築していた。

このシステムは海外在住者のソーシャルネットワークユーザーの位置を捕捉して分類し、親政府派か反政府派かに分類した。

人々を分類するために、6つの集団（都市部、宗教関係者、軍部、青年、海外在住者、農村部）からなる人口統計スキームが使用された。

最終的なブリーフィングは公式なアラビア語で執筆され、政府の公式な広報のようなスタイルで、湾岸諸国の国籍別に細分化された感情スコアと推奨される反ナラティブが含まれていた。

レポートによると、行為者はソーシャルメディアの投稿を1回につき約25件ずつClaudeに渡し、投稿者の人口統計グループ、位置、政治的傾向を分析し、それぞれの判断について確信度を求めていた。

さらに行為者は、疑わしい偽のオンライン身元向けにペルシャ語、アラビア語、英語、ドイツ語で投稿を生成するようClaudeに指示した。これらの身元は対立する双方の陣営の一般ユーザーのように見せかけて設計されており、レポートは多数の偽アカウントに信頼性を蓄積させるためのものと見ている。

レポートが観察したこと

レポートはプラットフォームの複数の製品ラインを記述しており、おそらく湾岸地域のアラビア語圏の顧客向けのものだった。システムは海外在住者のソーシャルネットワークユーザーを位置別に分類し、その立場の傾向にラベルを付けていた。

レポートはまた、並行するワークフローとして、海外在住者、青年学生、軍部などの異なるグループに属する255を超える合成ソーシャルアカウントを挙げている。レポートは、本活動を試験段階で特定しており、凍結前に実際の標的を対象とした後段階に進んだ証拠は見つからなかったと強調している。

注目すべきはレポート自身の誠実な境界線である。メディア報道にあるプライベートグループへの潜入、フィッシングなどの段階について、Anthropicは独自に確認できないとしている。

確認事項と不明事項

プラットフォームの対応

Anthropicは関連アカウントを凍結し、これが利用規約の監視、プロファイリング、協調的偽行動に関する禁止に違反するとした。また、「監視のアウトソーシング」を行う行為者を追跡する協力パートナーとインジケーターを共有した。

対応の限界：アカウントの凍結はClaudeの利用を中断できるに過ぎない。レポートはプラットフォーム全体の稼働が停止したとは主張していない。