实战

Claude Code Opus 5 的 Auto Mode 被越狱:Anthropic 的 Agent 安全防线失守了

安全研究员 Will Kirchhoff 一个 prompt 绕过 Auto Mode 自动决策机制,Opus 5 在 Agent 场景下的安全护栏没想象中稳。

字号

事件还原:1 个 prompt 怎么拿到 Auto Mode 控制权

8 月 23 日,安全研究员 Will Kirchhoff 在他的博客 embracethered.com 上发布了一篇越狱研究,目标直指 Claude Code 的 Opus 5 + Auto Mode 组合。

这事很快上了 Hacker News,到发文时 104 个积分、27 条评论——在安全圈的小范围里,这种热度意味着社区认为是真问题,不是炒作。

核心结论先放出来:这是 prompt injection,不是代码漏洞。

什么意思?Claude Code 的 Auto Mode 设计初衷是让模型自主决策、不打断用户——你开一条「帮我把仓库重构一下」,它就一路跑下去,中间不再弹「是否执行」的确认框。这个产品定位很好用,但也意味着:模型既是决策者,又是执行者。一旦决策被 prompt 污染,执行端也跟着跑偏。

Kirchhoff 的具体路径(简化版):

  1. 在仓库里塞一段被污染的注释或 README 内容
  2. Auto Mode 模式下,Opus 5 读到这个文件,把它当成「用户/系统的延伸指令」
  3. 模型开始执行与原始任务不符的操作

这里的关键点:这不是「Opus 5 突然变傻」或「生成有害内容」,而是——模型照常工作,但工作目标被偷换了。从外部看,它表现得非常「正常」。

为什么这件事比普通 jailbreak 严重

普通 jailbreak 的危害是「让模型说错话」——输出个绕过限制的文本、有害信息、版权内容。本质是输出层的事。

Agent jailbreak 的危害是「让模型做错事」——删除文件、外发请求、修改配置、调用外部 API。这是执行层的事。

差一个维度,但后果完全不同。你让 GPT 说一段不当言论,后果是声誉问题;你让 Claude Code 在 Auto Mode 下执行了一段被污染的指令,后果可能是删库跑路、把仓库 token 提交到公网、调用某个内部 API 执行不可逆操作、或者在 CI 里跑了一段注入的 shell。

HN 那 27 条评论里,讨论最集中的就是 Agent 自主性的边界到底在哪。几条我觉得说到点上的:

「Auto Mode 本质上是把人类从回路里拿出去,这不是安全特性,这是产品特性。但产品文档把它包装得像安全特性。」

「如果 Agent 真的会『动手』,那我们对它的安全预期应该接近 sudo,而不是 autocomplete。」

我的判断:这件事的严重性,取决于你怎么看 Auto Mode 的产品定位。如果它是「辅助驾驶」,那这次越狱是 P0 级事故;如果它是「自动驾驶」,那 Anthropic 应该按汽车行业的 ISO 26262 思路做冗余设计。

Opus 5 的安全护栏到底防了什么

我翻了一遍 Anthropic 公开的 Responsible Scaling Policy(RSP)和 Claude Code 的安全设计文档。

RSP 关注的是模型能力本身——生物风险、Autonomy、网络安全能力等。它把 Opus 5 归到「需要 ASL-3 防护」的级别。但 RSP 完全不覆盖 Agent 执行层。它假设模型本身是「对齐的」,至于模型被部署在什么框架里、这个框架给了它多大执行权限,RSP 不管。

Claude Code 的官方安全文档我看了下,核心讲的是:

  • 沙箱化(部分命令需要确认)
  • 文件访问范围控制
  • 网络请求审计

但 Auto Mode 这层,文档里写得很模糊——它本质上是把「每步确认」这个安全机制关掉。换句话说,文档里那套防御在 Auto Mode 下是失效的。

这就引出一个尴尬的产品分类问题:Claude Code 的 Auto Mode 到底是「辅助驾驶」还是「自动驾驶」?

  • 辅助驾驶(L2-L3):人类随时准备接管,系统出问题就立刻报警
  • 自动驾驶(L4+):系统在限定场景内完全负责,出错是工程问题

Auto Mode 的产品名字叫「Auto」,但它既没 L4 的冗余设计,也没 L2 的强制接管机制。它处在 L2 到 L4 之间的灰色地带——名字像 L4,实现是 L2,用户期望是 L4。

这次越狱就是在这个灰色地带里钻出来的。

这事对所有 AI Agent 产品的警示

不只是 Anthropic 的问题。

LangGraph、AutoGen、CrewAI、各类 browser-use Agent、Devin、Cursor 的 Agent Mode……只要模型既是决策者又是执行者,没有独立的安全回路,这一类风险就存在。

架构层面,目前主流 Agent 框架的安全设计基本是这样的:

# 典型 Agent 循环(简化)
while not done:
    thought = llm.think(state)
    action = llm.decide_action(thought)
    result = execute(action)  # ⚠️ 直接执行,没有独立的安全层
    state = update(state, result)

execute() 这一步通常没有任何独立于模型的二次校验。要么全靠模型自己「别做坏事」,要么靠外层工具的安全策略(比如 GitHub 的权限范围)。

但 prompt injection 的可怕之处在于:模型被骗之后,它做出的「合法」决策,在权限系统看来也是合法的。因为权限系统检查的是「谁调用」,不是「为什么调用」。

给做 Agent 的同学 3 条可操作的建议:

  1. 加一层独立审批回路:关键操作(rm、git push、API 调用)不要让模型自己「决定」执行,而是触发一个独立模块验证「这次调用是否真的符合用户原始意图」。验证逻辑必须和模型分离,可以是规则引擎,可以是另一个 LLM,但不能是同一个 LLM 自己反思。
  2. 区分「计划」和「执行」:Agent 应该先输出一个完整的执行计划,让用户(或独立校验器)审查,然后才执行。Auto Mode 那种「边想边做」的模式,在生产环境是高危设计。
  3. 做 prompt injection 的红队测试:不要只测「模型会不会说错话」,要测「模型在读入被污染的上下文后,会不会做出危险决策」。这两个是完全不同的测试矩阵。

编辑思考

这件事最值得警惕的不是漏洞本身,而是行业对「Agent 安全」的定义还停留在 chatbot 阶段。

我们过去几年训练出来的安全心智模型——「模型不要输出有害内容」「模型不要被 jailbreak」「模型要有 alignment」——全是围绕「输出层」建立的。但 Agent 时代,模型开始「动手」了,安全模型必须从「输出校验」升级到「执行校验」。

这件事具体和过去哪些不同?

  • 不同于 ChatGPT 早期的 DAN 类 jailbreak:那些是输出层问题,修一个 RLHF 就能堵
  • 不同于 Bing Chat 的 prompt injection:那次 Bing 还是输出问题为主,执行端被限制得很死
  • 不同于任何「说错话」的事件:这是「做错事」的第一次大规模公开演示,执行层 + prompt 污染 + 自主模式三件凑齐了

我的预测:2026 下半年会出现一波针对 Agent 自主执行场景的红队研究。Kirchhoff 这篇只是个开始。Anthropic 可能会在 Claude Code 里加一层独立于模型的审批回路——不是改模型本身,而是在执行端加一道闸。

不确定的地方:这次越狱的「污染源」具体是怎么触发的,博客里没写得很细。可能是文件内容、可能是 CLI 参数、可能是 web 搜索结果。我倾向于认为是文件内容那一类——这是最典型的 prompt injection 入口,也最难防御。

另外,我想留个开放问题给读者:你们公司的 Agent 产品,有没有独立的执行审批层? 如果答案是「靠模型自己」,可以认真考虑一下上面那 3 条建议。

参考来源:
- Breaking Claude Code Opus 5 and Auto Mode - embracethered
- Hacker News 讨论帖(原文未附,搜索「Claude Code Opus 5 Auto Mode jailbreak」可找到)

来源: https://embracethered.com/blog/posts/2026/breaking-claude-code-opus-5-and-automode/