产品

Claude Haiku 5.5 来了:小模型能干什么,Anthropic 重新定义'够用'

Anthropic 发布 Claude Haiku 5.5,补齐小模型档位。Agent 时代分层调用成主流,小模型不再是'便宜凑合'。

字号

Anthropic 发布了 Claude Haiku 系列的新版本 Haiku 5.5。这不是旗舰的缩水版,而是面向高 QPS、低延迟场景的独立档位。发布当天直接登顶 Hacker News 首页,引发 300+ points 讨论。

这次发布的三件事

先把 Haiku 在 Anthropic 矩阵里的位置说清楚。从官方页(https://www.anthropic.com)能看到,Anthropic 把模型分成三档:

  • Opus:最强档,慢、贵,能力天花板最高
  • Sonnet:中间档,速度和能力的平衡点
  • Haiku:低成本、低延迟档,专门给高 QPS 场景

之前很多人对 Haiku 的印象是"便宜凑合"——能用,但跑不动复杂任务。5.5 这一代想打破这个印象。

官方页面上几个关键定位:

  • 明确面向"sub-agent、实时任务、批量处理"——不是给单次复杂推理用的
  • 上下文窗口跟中间档持平,长文档处理不是短板
  • 强调编程能力(coding)有提升,这是 Haiku 系列一直被吐槽的地方

我自己用 4.5 的体验是:写个 boilerplate 代码还行,一旦涉及多步调试就开始掉链子。5.5 官方说这块补了不少,但完整跑分还没出来,下面会说。

小模型凭什么上 Hacker News 300+

去翻 HN 评论,开发者真正关心的点其实不是跑分。整理一下高频出现的关键词:

  1. 延迟——出现频率最高的词。Agent loop 里每多 200ms,累计起来就是几秒
  2. 价格对比——跟其他厂商的小模型横比,有人直接算了月度账单
  3. 能否本地部署——这部分没戏,Anthropic 没有开源计划
  4. 作为旗舰模型的 fallback——有人问能不能用 Haiku 做"模型路由"的 cheap tier
  5. Agent 框架集成——子任务调用场景

有个评论挺有意思:

"Finally a small model that doesn't feel like punishment when you hit the rate limit."

翻译过来就是——终于有个小模型,让你触发限流降级到它时,不觉得是在被惩罚。

这反映了 Agent 开发者的真实痛点:流量高峰时降级到小模型,如果质量崩了,整个产品体验就崩了。Haiku 5.5 想做的就是"降级不降质"。

Agent 时代,小模型才是主力

这是个反共识的观点,但我觉得数据会说话。

一个 Agent 系统跑起来,主模型的调用次数其实不多——主要用在规划、决策、复杂推理。但子任务:

  • 提取结构化数据
  • 分类、路由判断
  • 生成短文本、rewrite
  • 工具调用的参数拼装
  • 多步循环里的中间步骤

这些才是吃 token 的地方。

举个具体例子。一个典型的 RAG Agent 流程:

# 主模型:规划 + 决策
plan = sonnet.invoke(f"用户问:{query},从检索结果里挑出相关的,然后总结")

# 子任务(Haiku):每条检索结果的 relevance 打分
for doc in retrieved_docs:
    score = haiku.invoke(f"给这段文档打分 0-1,是否回答了:{query}\n\n{doc}")

# 主模型:基于打分后的结果生成最终答案
final = sonnet.invoke(f"基于这些相关文档:{top_k_docs}\n\n回答:{query}")

在这个 loop 里,Haiku 的调用次数可能是 Sonnet 的 5-10 倍。如果全用 Sonnet,账单直接爆炸;全用 Haiku,第一步规划质量兜不住。

这就是为什么 Anthropic 要把 Haiku 5.5 做扎实——不是给小模型找存在感,是 Agent 架构的现实需要。

编辑思考

为什么这件事比表面重要?

因为它标志着一个转折点——大模型公司的竞争重心从"谁更聪明"转向"谁更会分层"。各家的旗舰模型差距在缩小,但小模型档位的差距是真实的。Anthropic 用三档矩阵,把"什么任务用什么模型"这件事产品化了。

下半年我的判断:小模型会变成 Agent 框架的默认配置。LangGraph、AutoGen 这些框架的 next major version,大概率会内置"模型路由"层,让开发者不用手写 if-else。Cursor 这类 IDE 产品已经在这么做了——简单补全用小模型,复杂重构才上旗舰。

不确定的地方:完整跑分数据还没出来,Haiku 5.5 在 SWE-bench、HumanEval 这些 coding benchmark 上的具体表现,只能等社区跑出来才知道。如果 coding 能力真像官方说的提升明显,那 Agent 子任务的质量天花板会上一个台阶。

另外,官方这次没公布具体的延迟数字(TTFT、TPS),这有点反常。可能要等第一波第三方测评才能看到全貌。

参考链接:
- 官方页面:https://www.anthropic.com

来源: https://www.anthropic.com/claude-haiku-5-5