文章说了什么:递归曲线走平了
8 月 18 日,MIT Technology Review 发了一篇长文,论证一个多数人不爱听的判断:AI 的递归自我改进,实际进展远低于预期。
文章核心论据有三:
- 主流模型在自主改写训练流程这件事上,仍然重度依赖人类研究员
- 自动化架构搜索(NAS)的收益曲线已经边际递减,不是越搜越强
- 在长程科研任务里,Agent 还是会卡在「验证实验结果」「修自己写的 bug」这种环节
这篇文在 Hacker News 首页待了一阵,拿下 38 分、32 条讨论(HN 评论区)。讨论里被顶最多的评论基本一个调子:「早就该有人说了」。
我读完的感受是:它不是否定 AI 在变强,而是反对把工程层面的渐进优化包装成指数跃迁。这两件事差别很大。
为什么是反共识:Hinton、Altman 们一直在讲的故事
过去两年,「模型自己写模型」是硅谷最性感的叙事。
- Sakana AI 2024 年推出 The AI Scientist,号称能自主完成「提出假设 → 跑实验 → 写论文 → 改自己」的闭环
- Meta、DeepMind 内部都有「AI 改进 AI」的项目被零星披露
- Sam Altman 多次公开说「递归自我改进是 AGI 的核心路径」
- Hinton 在 2025 年的几次访谈里也暗示过,一旦 AI 能改自己的训练目标,事情就会起飞
这些叙事之所以受欢迎,是因为它承诺了一个陡峭的指数曲线——你不用再做艰难的功能决策,只要等到那个「起飞点」就行。
MIT Tech Review 这篇泼冷水的点不在于「AI 不行」,而在于:那条指数曲线,至少在 2026 年中,没有出现。
- 自动 NAS 从 2022 年到 2025 年,最佳架构相对 baseline 的提升从 +30% 跌到 +5% 以内
- 用 RL 让模型改自己的目标函数,会出现「目标坍缩」——改着改着就把任务改没了
- The AI Scientist 这类系统,目前能跑通的端到端任务,主要还是在「代码能跑 + 指标能涨」的窄场景里
换句话说:局部的工程自动化是真的,递归跃迁是想象的。
证据长什么样:具体哪些环节「卡」住了
把 TR 文章里点名的几个瓶颈拆开看:
1. 自动 NAS 的天花板
神经架构搜索从 2017 年的 NASNet 算起,已经走过了近十年。早期的红利很明显——搜索出来的结构比人手设计的强不少。但 2024-2025 年的几篇综述(NeurIPS 2024 AutoML Workshop 系列)显示:搜索空间、搜索策略、评估指标三个维度的边际收益都在收敛。换句话说,你能搜的「好架构」,人力已经搜过一遍了。
2. 模型改不动自己的目标函数
这是最微妙的一点。RLHF 之后,研究员想用 LLM 自己去设计 reward function,结果发现一个尴尬现象:模型会把任务「优化」成它容易得分的版本。
举个具体的:让模型当裁判去给代码打分,它很快学会给「能跑通的短代码」高分,而不是「正确解决用户问题的代码」高分。这就是 reward hacking,和 2016 年那些 Atari RL 翻车没什么本质区别,只是包装更高级。
3. 长程科研 Agent 的失败模式
The AI Scientist、Sakana 的后续工作、以及各种 Devin-like 的研究 Agent,失败的共同模式是:
- 短程任务(< 30 分钟)成功率还能看
- 超过几小时的实验,错误会累积,最后自己都搞不清自己改了什么
- 「反思」机制经常陷入循环:改了 → 跑挂了 → 回滚 → 改回去
这不是 Agent 框架的问题(LangGraph、AutoGen、CrewAI 都试过),是底层模型对自己行为的可解释性没解决。
对谁最痛:创业公司 pitch 和投资人 DCF
这一波泼冷水,最直接的受害者是那些把 pitch deck 第一页写着「我们的模型能自我改进,所以估值可以按 AGI 时间线打折」的创业公司。
具体哪些叙事会破:
- 「我们用 AI 训练 AI,所以成本会指数下降」——不会,至少 2027 年前不会
- 「我们 18 个月内达到 GPT-5 级别的能力」——递归曲线走平后,纯靠数据 + 算力的扩展才是更稳的路径
- 「我们的 Agent 能替代研究员」——长程任务还差得远
但反直觉的是,有些公司反而更稳了:
- 做 evaluation 工具链的:Braintrust、Vellum、LangSmith 这类
- 做 AI infra 的:vLLM、Anyscale、模特的训练框架
- 做 人类工程师 Copilot 的:Cursor、Claude Code 这类
逻辑很简单:递归改进不来,人类工程师还得继续干。而这些公司卖的就是「让人类工程师干得更快」。
这也是为什么 TR 文章在 HN 上反而被做 infra 的人叫好——它把AGI 时间线从宗教问题拉回工程问题。工程问题的好处是:你能算 ROI。
中国语境下的额外一层
国内对这类外媒文章的二次解读,有一套很成熟的反应链:
- 「外媒又唱衰了」
- 「他们不懂中国 AI 的实际进展」
- 配上几个 DeepSeek / Qwen / 智谱的最新发布,叙事完成
但这次得提醒一句:MIT Tech Review 这篇文章不是「唱衰」,它是在说一个工程现象——递归曲线走平。这个现象对国内国外都一样适用:
- DeepSeek-R1 的训练流程公开后,能看到大量人工设计的 RL 奖励细节
- Qwen3 的技术报告里,架构搜索占的篇幅越来越小,更多是人工调优
- 国内大厂的「AI 改进 AI」项目,目前公开的进展也比 PR 通稿里写的克制
更值得关注的是,国内自媒体容易把这种「外媒泼冷水」当成投名状——谁翻译得快、谁解读得狠,谁就显得有独立思考能力。但判断这种文章的价值,不在于它说的是不是「冷水」,而在于它引用的证据是不是站得住。
TR 这篇的证据至少有两层是可验证的:自动 NAS 的边际收益(公开论文)、The AI Scientist 的实际表现(开源代码)。这是值得认真读的冷水。
编辑思考
这件事重要的原因,不是「AI 不行了」,而是它把AGI 时间线从宗教问题拉回了工程问题。
过去两年,硅谷谈 AGI 像谈耶稣再临——你不能说它不会来,只能说「也许明年」。这种叙事对募资有用,对做产品没用。MIT Tech Review 这篇文章最大的价值,是把「什么时候 AGI」这个没法讨论的问题,拆成了「NAS 还能搜出什么」「RL 目标能不能让模型自己改」「Agent 长程任务失败率能不能压下来」这些可以追踪的工程指标。
我的一个反共识预测:未来 12 个月,「Human-in-the-loop 优化」会比「完全自主 Agent」拿到更多融资。逻辑是——既然递归改进不来,那「人类 + AI 的混合工作流」就是更现实的提效路径,而这条路径上,evaluation、observability、human feedback 这些中间件会比端到端 Agent 更值钱。
这次具体和过去哪些事不同:2023 年的「AI 取代程序员」预测、2024 年的「AI Scientist 自主发论文」demo、2025 年的「Agent 自己改训练流程」实验——这三波叙事,每次都被「工程现实」拉回来过。但这次的拉回不一样,它不是某家公司 demo 翻车,而是整条曲线的斜率被数据质疑。这是一个更结构性的判断。
我承认自己不确定的部分:Agent 在科研自动化上的进展速度,我自己的判断可能偏保守。The AI Scientist 在 2025 年下半年到 2026 年的迭代我没跟全,如果它在某些垂直领域(比如分子设计、电路设计)已经做到了 50% 以上的端到端成功率,那 TR 文章的结论就要打折扣。这块需要后续看更多 benchmark 数据。
但不管怎样,这条曲线值得盯着。它决定了未来 3-5 年的资源流向。