面向孟加拉国受众的虚假新闻生产：GTG-54006 案例

发生了什么

我们识别并移除了一个持续运行的自动化虚假信息网络，该网络使用 Claude 在孟加拉国生成捏造的孟加拉语新闻。该行动专注于宣传孟加拉国人民联盟党并攻击其对手。由于人民联盟党自 2024 年 7 月起义以来已不在执政地位，该网络的活动是代表反对党而非政府进行的。行为者完全清楚其欺骗手段，在内部通讯中写道「没人知道这些新闻是假的」。

一名位于孟加拉国加伊班达县的单一行为者运营该行动，轮换使用 29 个 Claude 账号以规避平台限制和检测。行为者使用一个名为「fake_news_3.py」的定制软件程序直接连接 Claude，该程序被编码为以固定批次生成内容：15 条标题、3 篇详细的捏造报道和 15 条图像生成提示。据行为者称，产出旨在为针对识字率有限的农村人民联盟支持者的 Facebook Live、YouTube 和 TikTok 直播持续循环提供内容。

行为者生成了至少 1,500 条标题、300 个虚假叙事和 1,500 条图像提示。由于 Claude 尚未具备图像生成功能，这些提示可能被导出到其他前沿 AI 模型以创建虚假叙事中使用的视觉内容。

该行动在孟加拉国境外运营，以旨在有利于人民联盟利益的内容针对国内受众。尽管存在这种叙事对齐，我们的调查没有发现该党本身参与指挥或资助该网络活动的证据。

AI 在其中做了什么

Claude 被用来按模板批量生成标题、假新闻和配图提示。报告称 Claude 当时没有图像生成功能，这些提示很可能被拿到其他模型去配图。

公开解读不转载任何一条虚假标题或故事，以免把假叙事再次送进搜索结果。

报告观察到了什么

我们的调查显示，该活动的视频出现在所有三个社交媒体平台上的多个孟加拉国主题频道和账号中。我们无法识别发布全部产出的具体频道。此外，我们没有发现内容触达这些账号之外更广泛受众的证据。

使用 Breakout Scale，我们将该行动评估为第三类（多个平台，在社交媒体平台上的多个孟加拉国主题频道和账号中观察到与该行动产出匹配的视频）。

确认与未知

平台措施

Anthropic 移除了相关账号。

措施局限：移除模型账号不能删除已经上传到社交平台的视频。