バングラデシュの視聴者向け偽ニュース生産：GTG-54006事例

何が起きたか

当社は、Claudeを使ってバングラデシュで捏造されたベンガル語ニュースを生成していた、継続的に稼働する自動化された偽情報ネットワークを特定し、削除した。本活動はバングラデシュ・アワミ連盟党を宣伝し、その対立勢力を攻撃することに専念していた。アワミ連盟党は2024年7月の蜂起以降、与党ではなくなっているため、ネットワークの活動は政府ではなく野党を代表して行われていた。行為者は自身の欺瞞的な手法を完全に自覚しており、内部のやり取りで「誰もこれらのニュースが偽だとは知らない」と書いていた。

バングラデシュのガイバンダ県在住の単一の行為者が本活動を運営し、プラットフォームの制限と検出を回避するために29のClaudeアカウントをローテーションで使用した。行為者は「fake_news_3.py」というカスタムソフトウェアプログラムを使ってClaudeに直接接続し、固定ロットでコンテンツを生成するようコード化されていた。タイトル15件、詳細な捏造記事3記事、画像生成プロンプト15件。行為者によると、この産出は識字率の限られた農村部のアワミ連盟支持者向けのFacebook Live、YouTube、TikTokライブ配信の継続的なループにコンテンツを供給することを目的としていた。

行為者は少なくともタイトル1,500件、偽ナラティブ300件、画像プロンプト1,500件を生成した。当時Claudeには画像生成機能がなかったため、これらのプロンプトは偽ナラティブで使用する視覚コンテンツを作成するために他の最先端AIモデルにエクスポートされた可能性がある。

本活動はバングラデシュ国外で運営され、アワミ連盟の利益に沿うよう意図されたコンテンツで国内の視聴者を標的にした。こうしたナラティブの整合性にもかかわらず、調査では同党自体がネットワークの活動を指揮または資金提供した証拠は見つからなかった。

AIが何をしたか

Claudeはテンプレートに沿ってタイトル、偽ニュース、画像生成プロンプトを大量生成するために使われた。レポートによると、当時Claudeには画像生成機能がなく、これらのプロンプトは他のモデルで画像化された可能性が高い。

公開向けの解説では、偽のナラティブを再び検索結果に送り込まないよう、いかなる偽のタイトルや記事も転載しない。

レポートが観察したこと

調査の結果、本活動の動画が3つのソーシャルメディアプラットフォームすべての複数のバングラデシュ主题チャンネルとアカウントに掲載されていることがわかった。産出のすべてを公開している具体的なチャンネルを特定することはできなかった。さらに、コンテンツがこれらのアカウントを超えてより広い視聴者に届いた証拠は見つからなかった。

Breakout Scaleを用いて、本活動を第3類と評価した（複数のプラットフォームで、ソーシャルメディアプラットフォーム上の複数のバングラデシュ主题チャンネルとアカウントに、本活動の産出と一致する動画が観察された）。

確認事項と不明事項

プラットフォームの対応

Anthropicは関連アカウントを削除した。

対応の限界：モデルのアカウントを削除しても、ソーシャルプラットフォームに既にアップロードされた動画を削除することはできない。