2025 年 10 月,OpenAI 发了篇博客,标题直白:Disrupting malicious uses of AI — Russia。Hacker News 上拿了 55 分、39 条评论——对 AI 安全这种偏运营的话题,这个热度算高位。
这是 OpenAI 第三次公开披露针对国家级 AI 滥用的干预行动。换句话说,他们不再只是私下封号,而是把"反影响力作战"做成了季度财报之外的另一种对外叙事。
这次被拆的行动长什么样
OpenAI 封禁了一批与俄罗斯相关的账号。这些账号用 ChatGPT 干了三件事:
- 生成多语言社媒内容——英语、俄语、葡萄牙语,夹杂着乌克兰、加沙、欧盟、北约议题的帖文
- 调试编程任务——自动化发帖脚本、文本生成流水线
- 撰写长篇宣传文章——伪装成"分析稿"的英文长文,定向投放在 X、Telegram、还有一些小众论坛
官网原文标题里用了 covert influence operation(隐蔽影响力行动)。OpenAI 说这是他们在影响力作战领域识别的第二起俄罗斯相关案例——但这次披露的颗粒度,比之前都细。
为什么是第三次?往前翻:
- 2024 年 5 月,第一次披露,涉及俄罗斯、以色列、伊朗、中国的混合行动
- 2024 年 8 月,披露 Storm-2035——一个被安全社区广泛追踪的伊朗系集群
- 2025 年 10 月,这次俄罗斯行动
频率从一年一次,压到几个月一次。
调查流程拆解:从单账号到整张网
这是文章最有信息密度的部分——OpenAI 把他们的工作流摆出来了。
四步法:
账号识别 → 行为画像 → 网络关联 → 平台通报
1. 账号识别
他们从一个可疑账号切入。这个账号的 ChatGPT 使用模式不正常:批量长文本、跨语言切换、生成内容带特定政治叙事框架。
OpenAI 没说用什么模型检测,但从披露的描述看,大概率是 LLM 评分 + 行为信号融合。
2. 行为画像
对识别出的账号做横向分析:
- 发帖时区——和俄罗斯时区吻合(UTC+3 周边)
- 语言一致性——账号"母语"是俄语,但成品分发到英、葡、阿语圈
- API 调用模式——API token 集中在俄语区 IP 段
- 内容指纹——长文结构、用词偏好、引用源都有重复模式
这套画像不是事后总结,是实时聚类。
3. 网络关联
从单账号向外辐射。OpenAI 说他们把账号分成两个簇:
- 一簇负责英文长文生产——影响英语圈讨论
- 一簇负责多语言社媒——影响拉美、东欧议程
两个簇操作同一个叙事,但分工清晰。这种职能拆分是国家背景行动室的典型特征。
4. 平台通报
账号封禁完成后,OpenAI 把内容指纹和账号元数据同步给合作社交平台,协助下架。
和前两次有什么不同
对比三起案例的披露差异:
| 维度 | 2024.05 | 2024.08 Storm-2035 | 2025.10 俄罗斯 |
|---|---|---|---|
| 披露颗粒度 | 概述级 | 中等,有阵营标签 | 完整四步法 |
| 跨平台下架数据 | 未公开 | 部分公开 | 完整公开 |
| 关联集群数量 | 多国混合 | 单一伊朗系 | 俄罗斯双簇 |
| 执法协同 | 未提及 | 提及 FBI 等机构 | 未明确提及 |
三个变化值得注意:
第一,披露从"事件通报"变成"流程示范"。前两次更像是安全公告,这次直接把调查方法论摊开——这对其他运营者既是威慑,也是研究素材。
第二,跨平台协作下沉到执行层。OpenAI 不只说自己封了多少号,而是同步说了"和平台合作下架了多少内容"。这种数字放出来,意味着平台间已经形成了常态化数据管道。
第三,俄罗斯系行动开始走"长文 + 多语言分发"双轨。这和 Storm-2035 那类"短平快社媒轰炸"是两种作战模式。前者更难被算法识别,因为内容生产质量更高。
技术细节:他们到底用什么方法检测
这部分是技术读者关心的。
OpenAI 没披露检测模型本身,但他们列出了行为信号维度:
- 账号注册时间戳集群
- API 调用地理分布
- 内容生成的 prompt-template 复用度
- 输出文本的 LLM 风格概率分数
- 跨账号的措辞相似度
- 发布时区的统计偏差
这些信号单独看都不够,但叠在一起,就能从单账号异常推到集群行为。
他们和社交平台的协作下架数量级——几千条内容,跨 X、Telegram、还有几个小平台。OpenAI 在博客里把数字具体到个位。对比之下,2024 年那两次披露只是"批量",没有具体数字。
一个有意思的侧面:调试代码那部分。俄罗斯行动者用 ChatGPT 跑自动化脚本——这意味着 LLM 不仅是被滥用对象,还是作战工具链的一环。OpenAI 没说他们怎么识别"正经写代码 vs 写水军脚本"的边界,这是个留白。
如果让我猜,他们的检测层大概是:
# 伪代码示意
def detect_influence_op(session: ChatSession) -> bool:
signals = {
"geographic_anomaly": score_ip_diversity(session),
"content_political_score": classify_political_lean(session.messages),
"api_velocity": session.requests_per_minute(),
"template_reuse": check_prompt_fingerprint(session)
}
return weighted_or(signals) > threshold
——具体阈值和权重 OpenAI 没说,也不可能在博客里说。能做的只是留个窗口让研究社区复盘。
Hacker News 上讨论度最高的评论(45 分)就指向这个:"AI 平台到底在用 AI 反 AI 滥用,这是攻防赛跑的开端。"
原文链接:openai.com/index/disrupting-malicious-uses-of-ai-influence-campaign-russia
编辑思考
这件事值得认真看,因为它标定了 AI 公司角色的转变。
OpenAI 不再只是"模型供应商",而是事实上的内容哨兵。影响力作战防御(influence ops defense)过去是国家情报机构、平台 trust & safety 团队的活。现在模型厂商下场了——因为滥用必须经过他们的 API。
我的判断:这是 OpenAI 在抢叙事主动权,也是行业到了一个拐点。
具体和过去哪些事不同?
- 过去平台是被动接收滥用报告,现在模型厂商主动挖掘——情报能力倒挂
- 过去安全披露是 PR 灾难管理,现在变成产品差异化卖点
- 过去 AI 公司和情报机构是平行关系,未来可能变成事实上的外包合作
不确定的地方:OpenAI 没披露漏检率。他们说封了 X 个账号,但没披露还有多少没抓到。这个不对称信息下,真正的战场规模是被低估的。
另一个悬而未决的问题:如果 Anthropic、Google DeepMind、Meta 也跟进——会不会出现一个跨厂商的情报共享联盟?理论上可以,但这会撞上企业竞争和数据隔离的天花板。
最后留个现实判断:未来 12-18 个月,我们会看到更多"OpenAI 第四次拆解 X"。频率会越来越高,披露颗粒度会越来越细。这条线不再是新闻,而是季度基础设施。