影響工作

欺瞞的な影響工作:コンテンツが多いことは、影響力が大きいことを意味しない

定義

本テーマでは、AIを用いてコンテンツを大規模に生産・配信しつつ、真の身分、スポンサー関係、出典を隠し、視聴者が「誰が話しているのか」を誤認させるケースを扱う。判断基準は欺瞞のメカニズムであり、政治的立場ではない。

レポートはBreakout Scaleを用いて、拡散が行為者自身のネットワークを超えたかどうかを論じている。超えていない場合、投稿数が有権者に影響を与えたことを意味しない。

混同しないでください

通常の政治的表現、メディアの評論、公開の討論とは異なる。

「特定の国の人々が洗脳されている」という意味ではない——国・地域はレポートが記述する事実の次元に過ぎず、リスクランキングではない。

当サイトが偽のナラティブの原文を転載することはない。

模式図:観察されたコンテンツの量は、確認された対外的な拡散とイコールではない。
原レポートの図:商業化された影響サービスに関する模式図。コンテンツ量の側と拡散の証拠の側は分けて読む必要がある。図中の文字は英語原文。

AIの役割

AIは主にコンテンツ生成、ペルソナの維持、一括書き換えに用いられる。既存のメディアチャネルに流入するケースもあれば、偽アカウントのネットワーク内に留まるケースもある。

人間が依然として論点、スポンサー関係、配信チャネルを決定する。

関連事例

影響工作

ラジオを使った隠された影響工作:GTG-04001事例

Anthropicのレポートによると、中央アフリカ共和国の首都バンギにいるロシア語話者の行為者が、Claudeを使って地元のラジオ局の毎日のコンテンツを制作し、親ロシアのナラティブを地元の番組に見せかけ、国営放送チャネルに接続する配信チェーンを設計しました。レポートはこの工作をロシアの国家支援による対外情報操作に関連付け、Breakout Scaleで第4類と評価しました。すべての帰属と評価の表現はレポートに由来します。

影響工作

国営メディアのコンテンツ制作における出所の隠蔽:GTG-24015事例

レポートによると、4人の個人がClaudeを編集台として使用し、完成原稿をロシア語国営メディアの制作フローに直接流し込んだ。Anthropicは高い信頼度で、これらのコンテンツが最終的にSputnik、RIA Novosti、RTなどの経路で公開されたと評価している。レポートが照合できた拡散は約2,000回閲覧の投稿から放送原稿まで多岐にわたり、これらの経路の総制作量のうちどれだけがClaudeを経由したかは判断できない。

影響工作

イラン関連の影響工作の計画:GTG-34001事例

レポートによると、イランの国家プロパガンダ機関に関連する3つのアカウントがClaudeを使って、いわゆる「ソフト戦争」または「認知戦」プロジェクトを計画していた。具体的にはキャンペーン計画、ペルソナ体系、標的データベースの作成などである。レポートは3つのアカウントをそれぞれ異なる機関に関連付けている。これらの資料は主に計画と準備のためのものであり、レポートはすべてが実行されたことを示していない。

影響工作

地域をまたぐ商業的世論操作サービス:GTG-54002事例

Anthropicのレポートによると、「各地の独立ニュース編集部」に偽装したネットワークがClaudeを使って政治コンテンツを大量生産・改変した。約70の偽装ニュースサイト、少なくとも8,913件の記事、約20言語、さらに70の連動Xアカウントと250超の偽コメントアカウントで拡散を図った。ただしレポートは同時に、コンテンツの大部分には実際の視聴者のほとんどインタラクションがなく、自前ネットワークを超える拡散の証拠は見られなかったと強調している。量が影響力とイコールではない。レポートはこのネットワークをフランスのデジタル広告会社に追跡したが、依頼主を確認できず、政府の指示の証拠も発見しなかった。

影響工作

ケニアにおける協調的偽アカウント活動:GTG-54004事例

レポートによると、1人の運営者がClaudeを使って1ロットにつき正確に50件ずつケニアの政治投稿を生成し、自発的な民間のコメントのように見せるよう明確に要求していた。レポートでは政府の関与の証拠は見つからず、活動は偽アカウントネットワーク内にとどまり、実際のユーザーには届かなかったと評価している。量が再び影響力とイコールではない。

影響工作

バングラデシュの視聴者向け偽ニュース生産:GTG-54006事例

レポートによると、バングラデシュのガイバンダ県在住の運営者が29のClaudeアカウントをローテーションで使い、ベンガル語の偽ニュースを大量生成していた。内容はアワミ連盟を支持し、その対立勢力を攻撃するものだった。内部のやり取りには「誰もこれらのニュースが偽だとは知らない」と書かれていた。レポートの生成量は少なくともタイトル1,500件、偽ナラティブ300件。同時にレポートは、同党自体がこのネットワークを指揮または資金提供した証拠はないと明記している。

監視活動

商業監視プラットフォームがAIでソーシャルアカウントをプロファイリング:GTG-54009事例

レポートによると、ある商業情報ベンダーと思われる者がClaudeを使って監視プラットフォームのプロトタイプを構築し、イランと湾岸地域のソーシャルメディアユーザーの公開発言を一括分析し、位置、集団への帰属、政治的傾向を推測し、政府公文書風の情報ブリーフィングを生成していた。レポートはこの活動を試験段階で発見しており、実際の標的に使用された証拠は見つかっていない。

影響工作

地域紛争をめぐる隠密な影響力活動:GTG-84002事例

レポートによると、1人の運営者がClaudeを使って「Deadshot」というAIペルソナを維持し、システム設定に大西洋横断的かつ地域的な統一任務を書き込んでいた。レポートはこれを高い確信度でUAEの高官に関連付けている。活動には約300の偽インフルエンサーアカウント、実在するスイスの組織の身元を騙ったフロントNGO、国連のメカニズム向けの資料作成が含まれる。以下の関連付けはすべてレポートの評価による。

影響工作

マレーシア向け選挙操作プラットフォーム:GTG-84005事例

レポートによると、「防御的サイバー情報と偽情報対策ツール」を装った商業プラットフォームが、実際には主にマレーシア向けに選挙操作能力を提供していた。約1,000の偽Xアカウント、1つの偽ニュースサイト、複数の捏造された「情報ファイル」が含まれる。レポートの調査では、イスタンブールの技術企業との明確な関連が見つかった。レポートはBreakout Scaleで第2類と評価し、実際のコミュニティを超えた拡散の証拠は見つからなかった。また、いかなる選挙結果にも影響があった証拠は見つからなかった。

影響工作

実在する活動家になりすます対話型活動:GTG-84006事例

レポートによると、イラン国内外の視聴者を対象とした影響力活動が、共有AIエージェントを使って実在する活動家になりすましていた。その活動家のTelegram投稿約8,400件を読み込んで文体を模倣し、連絡先とリアルタイムで政治的な対話を行っていた。レポートの知る限り、これらの連絡先はAI補助アカウントと話していることを知らなかった。本ページではいかなる個人や連絡先も掲載しない。

対応の限界

プラットフォームは、コンテンツが自プラットフォームを離れた後の可視性に限りがある。

GTG-54002は重要な提醒である:約70の偽ニュースサイト、少なくとも8,913記事、約20言語に及ぶが、自身のネットワークを超えた拡散の証拠は見られなかった。

関連ガイド

FAQ

偽ニュースを大量に投稿したら、選挙に影響を与えたのか?

レポートはこのような換算を明確に否定している。独立した拡散と効果の証拠がない場合、「これらのコンテンツを生産した」と言えるに過ぎない。

なぜ国ごとにリスクをランク付けしないのか?

レポートは世界的なサンプルではない。言及された回数は、そのプラットフォームが目にして開示を選んだ事例を反映するものであり、国のランキングではない。