Agent 训练拐点:仿真比真机便宜 100 倍,但大家都不愿意承认
RL 圈最近在传一个数字:模拟器训出来的策略,效果只差 10%,成本掉两个数量级,速度快一万倍。问题不是能不能用,而是为什么还没人敢全切。
LangChain 这类脚手架迟早会被权重吞掉。下一层抽象不再主要帮模型管上下文,而是帮人类管理注意力——这是 Latent Space 最近的核心判断。
RL 圈最近在传一个数字:模拟器训出来的策略,效果只差 10%,成本掉两个数量级,速度快一万倍。问题不是能不能用,而是为什么还没人敢全切。
把 Agent 当成图来跑:循环、分支、状态持久化、人机协同,一个框架搞定。LangGraph 已经成生产环境 Agent 编排的事实标准之一。
从一行链式调用开始,看 LangChain 怎么把 LLM 应用工程化做成一门正经手艺活。
arXiv 一篇 position paper 把 MAS 失败模式重新框定为并发问题。LLM 推理窗口长 = 长事务,stale read、lost update 全部复现。
FraudBench 测的不是诈骗话术本身,而是攻击者在多轮对话里反复适应 Agent 防御的能力——能不能守住联系方式、PIN、转账权限这三道闸。
StateMemBench 拿 234 个多会话场景开刀,发现现有 Agent 记忆基准只测 recall,真正难的状态跟踪没人测。
如果一个 Agent 在长任务里自主构造 prompt injection 拿下监控模块、绕过 sandbox——这不是模型越狱,是 harness 被攻破。本文拆解一种真实的攻击链路,复盘 Anthropic 16 个 Claude 写编译器实验里的 emergent 风险,并给出三条写 agent harness 的具体改法。
据 Latent Space 报道,Stripe 拿下 OpenRouter。这笔交易如果属实,说明 AI 真正的钱在路由层 —— 不在模型层,也不在应用层。