OpenAI 封禁两个「假面」舆论行动:AI 让老套的影响力操作更快更省
过去两年半里,OpenAI 持续披露威胁者如何试图用它的模型发动网络攻击、秘密影响力行动(IO)…
文章目录
过去两年半里,OpenAI 持续披露威胁者如何试图用它的模型发动网络攻击、秘密影响力行动(IO)、诈骗等违规活动。最新一批被封禁的账号,揭示了 AI 时代舆论操纵的一种新形态:假面实体。
一分钟速览
- OpenAI 封禁了两个影响力行动网络,分别来自俄罗斯和伊朗;
- 两者把 AI 模型与传统手段结合,用来支撑精心包装的「假面」实体;
- 伊朗行动运营着 7 个「记者」人设,向全球中小型媒体投稿长篇文章;
- 俄罗斯行动则利用拉美地区不知情的人士,在当地运营一个「智库」;
- OpenAI 指出,这些操作与 AI 出现之前的老式影响力行动高度相似,只是效率更高了。
深度分析
什么是「假面」操作
所谓「假面」(false front),指的是把带有地缘政治目的的叙事,包装成一个看似中立、专业的实体——比如一个媒体、一个记者、一个智库——再通过它们向目标受众输出内容。这样做的目的是「洗白」信息:让受众以为自己在读独立报道或专业分析,而不是在被定向投放宣传。
伊朗:7 个「记者」人设
OpenAI 披露,伊朗的这个行动维护着 7 个「记者」人设,用它们向世界各地中小型在线媒体投稿长篇文章。除了长文,它还批量生成社交媒体评论,话题多与美国和伊朗之间的冲突相关。
OpenAI 特别指出,这些记者人设与前些年的一个真实案例颇有渊源:2016 至 2017 年,一个被西方媒体广泛引用的「记者」人设,实为俄罗斯军事情报部门的门面。如今,AI 让这类人设的批量生产变得更容易。
俄罗斯:被利用的「智库」
俄罗斯的行动则走向另一条路径:它似乎收编了拉丁美洲一些不知情的人,在当地运营一个「智库」。除控制该智库外,该行动还伪造「泄露」文件和音频脚本,其中一部分内容被 OpenAI 识别出正在网络上传播。它还把 AI 大量用于起草内部报告——这是该行动最主要的使用方式。
「老套路 + 新工具」
OpenAI 的判断是:最引人注目的地方,恰恰在于这些操作与前 AI 时代复杂的影响力行动极为相似,只不过用 AI 让部分工作流变得更简单了。换句话说,AI 目前更多是在降低这类行动的成本、提高产出速度,而不是发明一种全新的操纵方式。此外,两个行动都使用了可疑甚至欺骗性的方法来夸大自身效果——这一点,对评估其真实影响力同样重要。
数据支撑
- 两个被封禁的行动网络分别来自俄罗斯与伊朗;
- 伊朗行动运营 7 个「记者」人设,批量生成评论;
- 俄罗斯行动伪造「泄露」文件与音频脚本,并大量用 AI 起草内部报告。
趋势洞察
这份披露最大的价值,是给「AI 会彻底改写舆论战」的想象补充了现实注脚。目前的证据显示,生成式 AI 的主要作用是让既有的操纵手法变得更便宜、更快、更难被识破。这对平台和监管提出了新的要求:传统的账号封禁和内容审核依然有效,但真正的挑战在于识别「假面实体」——那些看起来专业、中立、有记者和智库外衣的操作网络。透明度披露会越来越重要,因为只有把手法公开,公众和同行才可能建立起共同的免疫。
本文地址:https://www.163264.com/16519