大模型

Jev 想给 LLM 换形状:Transformer 之外还有路吗?

Simon Willison 报道了一款叫 Jev 的新模型,标题喊出"新形状"。9 月 21 日登 HN 首页,但只有 20 分、3 条评论——冷启动信号,还是被低估的开端?

字号

Jev 是什么,凭什么上 HN 首页

9 月 21 日,Simon Willison 的博客更新了一篇短文,标题里直接写着 "Jev: A new shape for LLMs"——"新形状"三个字没加引号,也没加问号。原文链接:simonwillison.net/2026/Sep/21/jev/。

Jev 的开发者把它定位为一种"新型 LLM",主张走一条和当下主流架构不同的路。Simon 这个人不是会为平庸东西写博客的作者,他盯新模型的速度在独立评论员里算最快的之一,Mistral 早期、Llama 各种变体、GPT-5 前瞻,基本都是他第一个出声。所以他愿意写,至少说明 Jev 不是又一个 LoRA 微调套壳。

同一天,Jev 上了 Hacker News 首页。分数 20,评论 3 条——这个比例有点怪。正常情况下 HN 首页帖子的评论数大致是分数的 30%–60%,20 分的帖子通常会有 8–15 条评论。3 条说明:要么进来的人多但没人敢说话,要么看的人其实没那么多。两种情况我后面会展开。

HN 帖子链接:item?id=49796843。

"新形状"到底新在哪?

老实说,我现在写不出确切的答案,因为目前公开信息里:

  • 没有 benchmark 数字
  • 没有技术原理 paper 或 blog post
  • 没有训练方法说明
  • 没有开源权重(截止到 Simon 发稿时)

Simon 的博客摘要本身就一句话带过:"A new LLM with a new shape." 这种极简措辞在 AI 圈并不常见,大家通常恨不得把"颠覆性"三个字塞进标题。

基于这些线索,我能猜的方向有几个:

  1. 非 Transformer 主干——比如状态空间模型(Mamba 那一脉)、线性注意力变体、或者某种混合架构。
  2. 非自回归解码——并发生成、扩散式 LLM(像 Mercury 那种夹击生成)。
  3. 新拓扑——非链式推理、非 token-by-token,改成图结构或树结构生成。
  4. 完全另起炉灶——用一种全新的记忆机制替代 KV cache。

我个人倾向认为最可能是 #1 或 #4,因为这是过去两年非 Transformer 路线最有积累的方向。但这种猜测目前没法证实,只能等 Jev 自己出来说话。

为什么大家不爱评论——不是没人看,是没人敢评

20 分 / 3 条评论的奇怪比值,我给一个解释:

不是没人看,是社区无从下手。

HN 上技术帖的评论活跃度,跟两个东西强相关:

  • 可验证的 benchmark:MMLU、HELM、HumanEval、LiveCodeBench 这些榜单上的数字一出,底下立马吵起来。
  • 可读的代码 / 论文:要么 arxiv link,要么 GitHub repo,要么 demo URL。

Jev 这三条都没有。对于一个声称"新形状"的 LLM,连一张 loss curve 都没放出来,评论区的资深用户只会保持沉默——因为说啥都是猜,没人想当小丑。

这也解释了为什么 20 分还有 3 条评论——这 3 条大概率是好奇型短评("Interesting"、"Watching"),而不是真正的技术讨论。

我当年关注 Mamba 早期、Mistral 7B 泄露那段时期,HN 上的讨论曲线也是这样:先沉默,一旦有 repo 或 paper 立刻井喷。

Transformer 一统天下的这几年,挑战者们都怎么样了

把时钟拨回 2023 年底到 2026 年初,Transformer 的替代品至少冒出来过这几个:

项目 核心思路 现状
Mamba / Mamba-2 状态空间模型,线性复杂度 有 paper、有开源版本,但生态(Hugging Face、vLLM 支持)远远落后于 Llama 系
RWKV RNN + Transformer 混合,强调长上下文高效 inference 小众社区在跑,主流厂商基本没接入
RetNet / TransNormer 保留多尺度衰减注意力,号称替代 Transformer 微软系项目,学术影响力大,工业部署几乎为零
xLSTM 扩展 LSTM 的记忆机制 2024 年由 Sepp Hochreiter 团队提出,paper 级热度
Mercury / diffusion LLM 扩散式生成,并行出 token Inception Labs 在做,商业 demo 已上线

它们的共同点很扎心:inference 确实更便宜,但生态完全打不过 Transformer。

什么是生态?

  • Hugging Face Transformers 一行代码加载
  • vLLM、TensorRT-LLM、llama.cpp 这些推理框架原生支持
  • 社区微调(LoRA、QLoRA)的工具链
  • 教学资料、博客、Stack Overflow 答案

这套东西不是一两年能攒起来的。Llama 2 出来到 vLLM 稳定支持,中间花了一年多。Mamba 到现在 vLLM 支持还是 experimental 状态。

所以 Jev 如果真是非 Transformer 路线,它要解决的第一个问题不是"我的模型更好",而是"我的模型能被跑起来"。

我会怎么验证 Jev 是真活还是 PPT

给你一份我自己的实操清单——如果是你想认真看一个新模型,按这个顺序查:

1. 找 benchmark

第一眼盯三个榜单:

  • MMLU-Pro(综合推理)
  • HumanEval+ / LiveCodeBench(代码)
  • IFEval(指令遵循)

如果这三个都没分数,先按 30% 折扣听。

2. 找推理成本

非 Transformer 模型最大的卖点通常是长上下文 inference 成本。问三个问题:

  • 100K token 上下文下,吞吐量多少 token/s?
  • KV cache 占用多少显存?
  • 部署门槛——单卡 A100 / H100 能跑多大?

3. 跑你自己的测试

别只信官方数字。我一般会跑:

# 简单的长上下文检索测试
import jev  # 假设的包名
model = jev.load("jev-base")
context = "..." * 50000  # 50K token
question = "在第 47,382 个 token 处,作者提到了哪个城市的名字?"
response = model.generate(
    context=context,
    prompt=question,
    max_tokens=100,
)
print(response)
# 对比 Llama 3.1 70B 在同样输入下的回答

如果 Jev 真的有"新形状"的卖点,长上下文检索应该是它的强项。

4. 找代码 / 论文

  • 有 GitHub repo 吗?star 数不重要,看 commit 频率和 issue 响应。
  • 有 arxiv paper 吗?看看是不是只有架构图没有实验。
  • 有 demo URL 吗?能不能注册就玩?

5. 什么时候该信,什么时候该观望

  • 该信:开源权重 + 第三方复现 benchmark 一致 + 推理成本低于同档 Llama
  • 该观望:仅有 demo、闭源、benchmark 全是自家跑
  • 该直接忽略:连 demo 都没有,benchmark 也是转述别人的

按这个标准,Jev 目前处于"纯观望"阶段。

编辑思考

"新形状"这三个字如果是真的,意味着 2026 年 LLM 圈最大的叙事可能从"参数怎么变大"转向"架构能不能换"。这件事比 GPT-5 后一代更大参数模型更值得关注——因为它影响的不是单点性能,而是整个推理成本曲线和硬件需求结构。

但我对这条新闻保持谨慎乐观,原因有三:

第一,新架构 LLM 的死亡谷在生态,不在技术。Mamba、RWKV 都死在 Hugging Face 适配这一步,Jev 要么自己长出生态,要么被某个大厂收购后并入主流框架,否则三年内很可能消失在 AI 历史书脚注里。

第二,Simon 的博客不等于背书。他写的是"这值得注意",不是"这很厉害"。他写 Llama 4、GPT-5、Claude 新版本同样用类似的语调。读者要分清"注意到"和"推荐"的区别。

第三,目前公开信息太少。20 分 3 条评论这个数据点本身就说明社区还没形成共识。我个人预测:Jev 要么两周内放出一份完整 paper + repo,要么两周后从 HN 首页消失、被下一个新模型盖掉。

我赌前者 30%,后者 60%,还有 10% 是被某个大厂悄悄收编,从此再无独立消息。

不论哪种结局,2026 年剩下的几个月,我会一直盯着这件事。

来源(必须引用)

https://simonwillison.net/2026/Sep/21/jev/

来源: https://simonwillison.net/2026/Sep/21/jev/