AI 2027 预测 4 个核心假设:智能爆炸这条最可疑
AI 2027 把 2025-2027 写成两条剧本,智能爆炸排在 2027。但核技术、转基因、mRNA 疫苗的历史都显示,技术突破到大规模部署通常隔 10-20 年。这份预测的盲点不在算力曲线,而在它假设了能力突破 6 个月就能产生社会影响。
Dwarkesh 这期把 METR 前研究员 John Beren 和 Charlie 拉到一张桌子上吵递归自我改进(RSi)。HN 64 分、53 条评论,分歧比想象的大,中间地带被双方都绕过去了。
AI 2027 把 2025-2027 写成两条剧本,智能爆炸排在 2027。但核技术、转基因、mRNA 疫苗的历史都显示,技术突破到大规模部署通常隔 10-20 年。这份预测的盲点不在算力曲线,而在它假设了能力突破 6 个月就能产生社会影响。
Science 报道的 AI 数学突破在 HN 拿下 193 分、199 条评论,数学社区却分成两派——争议不是 AI 强不强,是「暴力搜索算不算数学」。
克雷研究所百万悬赏悬了 25 年,OpenAI 一篇企业博客就想拿走?扒完 HN 886 条评论,数学社区已经炸锅。
Inception Labs 把扩散式大模型做到了 1000+ tok/s,专攻代码生成。和 GPT/Claude 的自回归路线彻底分家,这事值得认真看看。
Armature Tech 跑了 17k 次任务,统计三款主流编码 Agent 主动安装/调用的工具组合。数据里有些偏好挺反直觉——贵的模型反而更懒。
Show HN 上 36 分的项目,用同一个模型跑 9 种 harness,最贵和最便宜的 cost per pass 差了 17 倍。Agent 框架的选型,可能比换模型更影响账单。
有人用 1.5 小时训了个小型 transformer,在 ARC-AGI 1 上跑赢了一堆大模型。垂直推理 vs 规模路线,这场实验值得拆开看看。
Debian 通过 GR 投票允许「负责任使用」生成式 AI,这是从禁止到放行的政策反转。开源社区的 AI 治理正在分裂。
Terminal-Bench 把 Agent 评测从写代码拉到做科研,80+ 任务覆盖生物、材料、ML 三条线。这事能不能成为 Agent 的 SWE-bench?
CEO 推进 AI 转型把开发团队裁了,被裁开发者转头做了个开源 AI CEO,三天内在 HN 拿到 160 points。这不是段子,是 GitHub 上正在发生的事。
Trail of Bits 8 月发文实测了 AI Agent 突破 VM 隔离的几种路径,结论很硬:传统沙箱化防御在 Agent 时代需要重写。这篇文章帮你看清 Agent 沙箱为什么失效,以及企业该怎么补。