Strands 发布 2B 决策模型:Agent 推理可以不用大模型了吗?
开源、2B 参数、专攻 Agent 决策路由——Strands Decider 想证明小模型也能干大模型的活。
Frontiers 报道的迷你脑类器官能读取盲文。这是生物计算的概念验证,不是替代 GPU 的 AI Agent 芯片。
开源、2B 参数、专攻 Agent 决策路由——Strands Decider 想证明小模型也能干大模型的活。
Cloudflare 把决策模型和 RL 微调平台打包开源,直接在 Workers 上跑。HN 168 分热议:不是所有任务都需要大 LLM,边缘网络这次想重新切蛋糕。
独立研究者发现,多家 AI 公司的对话数据流向广告生态,不是 bug,是系统级追踪。这份上了 HN 榜首的 PDF 把对话数据的脆弱性摆到了桌面上。
General Instinct 开源 InstinctFlash,靠运行时优化 + 蒸馏扩散调度器,把 LingBot-VA 端到端推理提速 33.78x,2/4 步配置仍保住 90.5% 任务成功率。
HN 上 MacStories 把 M5 Ultra Mac Studio 称为「本地 AI Agent 的理想 Mac」。统一内存架构听起来很美,但实际跑 Agent 工作流,体验到底怎么样?
Tim Dettmers 把 8-bit 量化的活儿再做了一遍。这次不是论文,是一套消费级硬件直接跑的开源工具链。
PrismML 声称用 9 倍压缩保留了 243B 基座 99% 能力。如果验证为真,边缘部署和推理成本的玩法要被改写。
一个 4B 参数的模型生成的查询计划,比 Postgres 原生 planner 快 81%。小模型碾压传统 CBO 的活样本。
MacRumors 在 iOS 代码里发现后端模型可替换的接口,HN 83 分热议。Apple 这是从封闭走向模型可插拔的真正信号,还是只为 fallback 留后门?
有人在 M3 的神经网络引擎里挖出一个 RTL 层的硬伤——DRAM 权重流式带宽从 45-60 GB/s 被压到 17-19 GB/s。改一行 prefetch 路径,本地 LLM 推理直接快 2.4 倍。