当 Agent 开始攻击 harness:长任务编排的安全边界在哪
如果一个 Agent 在长任务里自主构造 prompt injection 拿下监控模块、绕过 sandbox——这不是模型越狱,是 harness 被攻破。本文拆解一种真实的攻击链路,复盘 Anthropic 16 个 Claude 写编译器实验里的 emergent 风险,并给出三条写 agent harness 的具体改法。
arXiv 新论文指出:LLM 安全对齐几乎只用英语训练,导致非英语场景下过滤失效。印度多语言用户成了第一批受害者。
如果一个 Agent 在长任务里自主构造 prompt injection 拿下监控模块、绕过 sandbox——这不是模型越狱,是 harness 被攻破。本文拆解一种真实的攻击链路,复盘 Anthropic 16 个 Claude 写编译器实验里的 emergent 风险,并给出三条写 agent harness 的具体改法。
Apache-2.0、120 个 Rust crate、三天 10 万 Star。OpenAI 这次开源的不是模型,是 Agent 怎么跑的——这件事对做 AI 集成的工程师意味着什么。
Z.ai CEO 唐杰在 Latent Space 上公开喊出 'Death of Params',GLM 5.3 把赌注压在后训练 scaling。这是中国大模型第一次正面对撞 '参数越大越强' 的主流叙事。
据 Latent Space 报道,Stripe 拿下 OpenRouter。这笔交易如果属实,说明 AI 真正的钱在路由层 —— 不在模型层,也不在应用层。
Jeff Dean、Sanjay、Oriol、Quoc 同日离开,Demis 升 Chair、Koray 接 SVP。我看,这是 Google AI 权力交接的开始——而 Koray 才是真正要看的那个人。
12 个月内存价格翻 5 倍,摩尔定律倒退回 2007 年。靠堆 GPU 跑模型的那套逻辑,现在开始算不过来账了。