影响操纵活动

欺骗性影响操纵:内容多,不等于影响大

定义

本主题关注用 AI 大规模生产或分发内容,同时隐瞒真实身份、赞助关系或来源,从而让受众误判「这是谁在说话」。判断标准是欺骗机制,不是政治立场。

报告使用 Breakout Scale 讨论传播是否突破行为者自有网络。没有突破,发帖量不等于已影响选民。

不要混淆为

不等于普通的政治表达、媒体评论或公开辩论。

不等于「某个国家的人都在被洗脑」——国家/地区只是报告描述的事实维度,不是风险排名。

不等于本站会转载虚假叙事原文。

示意图:观察到的内容产量,不等于已被证实的对外传播。
原报告插图:商业化影响服务相关示意。产量侧与传播证据侧需分开解读。图中文字为英文原文。

AI 的角色

AI 主要用于内容生成、人设维持和批量改写。有的案例进入既有媒体渠道,有的停留在虚假账号网络内部。

人仍然决定议题、赞助关系和分发渠道。

相关案例

影响操纵活动

利用广播分发的隐蔽影响行动:GTG-04001 案例

据 Anthropic 报告,一名身处中非共和国首都班吉的俄语行为者用 Claude 为当地一家广播电台生产每日内容,把亲俄叙事包装成本地节目,并设计与国家广播渠道衔接的分发链。报告将这一行动与俄罗斯国家支持的对外信息操纵相关联,按 Breakout Scale 评为第四类。所有归因与评估措辞均来自报告。

影响操纵活动

国家媒体内容生产中的来源隐瞒:GTG-24015 案例

据报告,四名个人把 Claude 当作编辑台,把成稿直接送入俄语国家媒体的生产流程。Anthropic 以高置信度评估,这些内容最终经 Sputnik、RIA Novosti、RT 等渠道发布。报告能核对到的传播从约 2,000 次浏览的帖子到播出文本不等,无法判断这些渠道的总产量有多少经过了 Claude。

影响操纵活动

与伊朗有关的影响行动规划:GTG-34001 案例

据报告,三个与伊朗国家宣传机构有关的账号用 Claude 规划所谓「软战争」或「认知战」项目:做战役计划、人设体系和目标数据库。报告把三个账号分别关联到不同机构。这些材料主要是规划与准备,报告未显示已全部执行。

影响操纵活动

跨地区的商业化舆论操纵服务:GTG-54002 案例

据 Anthropic 报告,一个伪装成「各地独立新闻编辑部」的网络用 Claude 批量生产和改写政治内容:约 70 个伪造新闻网站、至少 8,913 篇文章、约 20 种语言,另有 70 个配套 X 账号和 250 多个虚假评论账号放大。但报告同时强调:大部分内容几乎没有真实受众互动,未见突破其自有网络的传播证据——产量不等于影响力。报告将网络追溯到一家法国数字广告公司,未能确认委托客户,也未发现任何政府指使的证据。

影响操纵活动

肯尼亚的协同虚假账号活动:GTG-54004 案例

据报告,一名操作者用 Claude 按每批恰好 50 条生成肯尼亚政治帖文,并明确要求看起来像自发的民间评论。报告未发现政府参与的证据,评估该活动停留在虚假账号网络内部,没有触及真实用户。产量再一次不等于影响力。

影响操纵活动

面向孟加拉国受众的虚假新闻生产:GTG-54006 案例

据报告,一名位于孟加拉国加伊班达县的操作者轮换 29 个 Claude 账号,批量生成孟加拉语虚假新闻,内容偏向人民联盟、攻击其对手。内部通讯写明「没人知道这些新闻是假的」。报告生成量至少 1,500 条标题、300 个虚假叙事;同时写明:没有证据证明该党本身在指挥或资助这一网络。

监控活动

商业监控平台用 AI 给社交账号做画像:GTG-54009 案例

据报告,一个疑似商业情报厂商用 Claude 搭建监控平台的原型,批量分析伊朗和海湾地区社交媒体用户的公开发言,推测其位置、群体归属和政治倾向,并生成政府公文风格的情报简报。报告在试点阶段就发现了这一活动,未发现它被用于真实目标的证据。

影响操纵活动

围绕地区冲突的隐蔽影响行动:GTG-84002 案例

据报告,一名操作者用 Claude 维持名为「Deadshot」的 AI 人设,并在系统设定中写入跨大西洋和地区性的统一任务。报告以高置信度将其关联到阿联酋官员。活动包括约 300 个虚假网红账号、冒用真实瑞士组织身份的前线 NGO,以及针对联合国机制的材料准备。以下关联均为报告评估。

影响操纵活动

面向马来西亚的选举操纵平台:GTG-84005 案例

据报告,一个以「防御性网络情报与反虚假信息工具」名义伪装的商业平台,实际主要面向马来西亚提供选举操纵能力:约 1,000 个虚假 X 账号、一个伪造新闻网站和多份编造的「情报档案」。报告调查发现了它与一家伊斯坦布尔技术公司的明确关联。报告按 Breakout Scale 评为第二类,未发现突破真实社区的传播证据;报告未发现任何选举结果受到影响的证据。

影响操纵活动

冒充真实活动人士的对话行动:GTG-84006 案例

据报告,一个面向伊朗国内外受众的影响行动用共享 AI 代理冒充一名真实活动人士:读取其约 8,400 条 Telegram 帖文来模仿文风,再与其联系人进行实时政治对话。据报告所知,这些联系人并不知道自己在和 AI 辅助账号说话。本页不列出任何个人或联系方式。

措施局限

平台对内容离开本平台之后的可见性有限。

GTG-54002 是关键提醒:约 70 个伪装新闻网站、至少 8,913 篇、约 20 种语言,但未见突破自有网络的传播证据。

相关指南

FAQ

发了很多假新闻,是不是就改变了选举?

报告明确反对这种换算。没有独立的传播和效果证据时,只能说「生产了这些内容」。

为什么不按国家来排风险?

报告不是全球抽样。提及次数反映的是该平台看见并选择披露的案例,不是国家排名。