7B 小模型实战:成本更低,哪些任务能切
小模型的能力已能覆盖部分生产任务。我从模型、硬件、成本和实测数据出发,拆解哪些工作适合迁移到 7B。
黄仁勋的下一张牌不是 H200,是 CUDA、DPU 和 AI Factory。竞争对手盯错方向了。
小模型的能力已能覆盖部分生产任务。我从模型、硬件、成本和实测数据出发,拆解哪些工作适合迁移到 7B。
通义千问发了个主打「新架构」的 Flash-Next,120 分上 Hacker News。不卷参数卷成本,端侧推理的牌桌又挤进来一个人。
智谱把 GLM-5.3-Flash 发在独立海外域名 z.ai,在 Hacker News 拿下 278 分、115 条评论,讨论量高于 Qwen 同期。这个信号不只属于模型本身,也属于国产模型的分发方式。
Bloomberg 报道 Z.ai 秘密上线 Ox Alpha,性能对标头部开源模型,权重随后开源。这是 DeepSeek 之后中国 LLM 又一次「先跑后开源」打法。
Show HN 热门项目 CarWatch:用 Raspberry Pi 本地跑 Qwen 35B,接 OBD-II 读车辆状态,接车厂云控空调车门锁,离线查机油型号,在线联动云端 Agent。
270 亿参数的开源模型,逆向工程任务 30 分钟收工。Hacker News 首页 159 分,这事值得拆开看。