上周 HN 首页有个 85 分、70 条评论的帖子,点进去是 METR 对 OpenAI 和 Hugging Face 入侵事件的正式调查报告。和往常事后声明不一样,这次是第三方独立机构做的尸检。读完之后有三个点让我坐直了身子。
事件还原:不是模型权重被偷
第一反应是:模型权重是不是被偷了?答案是没有。METR 的报告里写得很清楚,入侵打到的不是 model checkpoint 层。
更具体一点:
- OpenAI 这边,攻击者拿到的是内部 CI/CD 流水线的权限,能在构建阶段注入东西
- Hugging Face 这边,被渗透的是 Spaces 和 autotrain 镜像分发链路
两者有一个共同点——都在「模型权重上游」。也就是说,攻击者不需要偷几十 GB 的 safetensors 文件,只要在分发环节动手脚,下游所有拉取这个模型的人都会中招。
# 普通用户拉模型的命令
huggingface-cli download TheBloke/Llama-2-7B-Chat-GGUF
# 攻击者只要污染了分发链路,这条命令返回的就不是原版
这个攻击面比「偷权重」严重得多——权重泄露是一次性事件,分发链路被污染是持续性的,所有后续下载都是带毒的。
METR 是谁?为什么这份报告值得读
METR(Model Evaluation and Threat Research)前身是 AI Alignment Forum 团队,现在专门做 AI 系统的独立风险评估。他们有几个关键属性:
- 不收 OpenAI / Hugging Face 的钱
- 有能力拿到当事方内部日志和事件响应记录
- 报告公开发布,不脱敏到失去信息量
这种「无利益冲突 + 有访问权限 + 愿意公开」的组合在 AI 安全领域极其罕见。大多数事故复盘要么是当事方自己写的(PR 滤镜很厚),要么是外部研究者靠公开信息猜的(细节不够)。
这次 METR 拿到的应该是一手材料——时间戳、IP 日志、内部 ticket 系统记录。HN 上讨论度能到 85 分,部分原因是这份报告本身就是稀缺品。
时间线里的巧合:两个平台同步被穿
这是 HN 评论区分歧最大的部分。
METR 报告里的时间线显示,OpenAI 和 Hugging Face 的初始入侵时间窗重叠度很高——不是「同一周」,是「同一 72 小时」。两种解释:
- 巧合论:两家体量大,被不同攻击者同时盯上不奇怪
- 协同论:METR 在调查中发现两家共享部分第三方依赖(具体的 CI 提供商、镜像分发 CDN、身份认证 SSO 方案),攻击者可能是从同一个上游供应商横向打穿的
报告原文倾向于后者,但没有点名具体共享供应商。HN 评论区吵成一团,有人认为 METR 在暗示什么但不敢说,有人觉得这就是过度解读。
我自己倾向协同论。两个完全独立的攻击者,刚好打穿两家头部平台,时间窗精确到 72 小时以内——统计学上很难解释。
被忽视的攻击面:开源生态的供应链
Hugging Face 现在的形态不是「模型托管网站」,更像是 npm + Docker Hub + PyPI 的混合体:
- Spaces:相当于云上跑 demo 的容器
- autotrain:一键微调,镜像预装了大量依赖
- model card:作者写的 markdown,但里面可以嵌任意内容
- 上传的模型权重本身:可能附带自定义代码(trust_remote_code=True)
攻击面是几何级数膨胀的。一个 Space 被污染,所有 fork 这个 Space 的项目都会中招。一个 model card 里嵌了恶意的「使用示例」,作者本人可能完全不知情。
参考下 npm 生态的教训:event-stream、colors、node-ipc 这些包被供应链投毒过,影响了几百万项目。HF 现在处于类似的阶段,但 AI 模型的「执行能力」比 npm 包强得多——一个被污染的 Space 可能直接拉走你的训练数据。
对 Agent 开发的现实影响
如果你在用 HF 上的微调模型,或者部署了某个 Space 当工具后端,建议立刻做三件事:
- 固定 hash 校验:
from huggingface_hub import hf_hub_download
# 不要这样
path = hf_hub_download(repo_id="user/model", filename="model.safetensors")
# 要这样:pin 到具体 commit
path = hf_hub_download(
repo_id="user/model",
filename="model.safetensors",
revision="a1b2c3d4" # 具体 commit hash
)
-
Spaces 当工具后端的,重新评估 trust 边界:之前假设 Space 是「沙箱」,现在要假设它是「可能执行任意代码的容器」。如果你的 Agent 会根据模型输出决定要不要 fork / 部署 Space,这一步要卡死。
-
CI/CD 里拉模型的,全部走内部镜像:不要让构建机直接拉 HF,加一层内部代理 + 签名校验。OpenAI 这次被打穿的就是 CI/CD,教训就在眼前。
编辑思考
模型供应链这件事,圈子里聊得不多。原因可能是大家默认「HF 是大平台,应该安全」——和当年大家默认 npm 包安全、PyPI 包安全一样,直到出事。
这次不一样的地方在于:攻击的不是模型本身,是分发链路。后果不是「权重泄露」,是「所有下游用户带毒运行」。性质上和 SolarWinds 那次供应链攻击更接近,而不是传统的「数据泄露」。
一个我自己没想清楚的不确定点:METR 报告里说两家共享部分依赖,但没有点名。如果是我来写这份报告,我会更明确——要么不说,说了就要把供应商点出来。否则报告读者很难做具体决策。METR 可能是在等当事方先公布,或者在走法律流程。这种克制在独立调查里其实少见,留了余地也给阴谋论留了空间。
短期看,这件事最大的影响不是 OpenAI 或 Hugging Face——是所有把 HF 当默认基础设施的项目。Agent 框架、微调平台、内部 RAG 系统,谁在拉谁、谁部署了谁的 Space,都该重新过一遍依赖清单。