LLM 输出为何难懂:AI Agent 可理解性实战
围绕 arXiv 论文与 Hacker News 热议,拆解 LLM 输出难懂的原因,并给出适用于 AI Agent 的可理解性验收清单。
ADRs for AI 把 Agent 的方案、理由、信心和证伪条件写进 Git。本文拆解它如何补足代码 diff 无法解释的决策上下文,以及团队该怎样避免把 ADR 变成形式主义。
围绕 arXiv 论文与 Hacker News 热议,拆解 LLM 输出难懂的原因,并给出适用于 AI Agent 的可理解性验收清单。
Project Discovery 将 abliterated LLM 接入 Nuclei 模板编写流程,发现它更少拒答,却更容易把外部页面中的文字当成操作指令。安全工具应限制权限,而不是依赖模型拒答。
一项关于 WhatsApp 帮助页隐藏指令的研究引发 Hacker News 讨论。重点不只是模型会被提示词影响,而是客服 Agent 可能因此改变合规建议、遗漏外部求助路径。
Anthropic 单独为 Opus 5.5 写了一篇 prompt 文档,HN 127 分爆火。我扒了一遍,三个和以往认知不一样的设计取舍。
arXiv 新论文发现,模板里 "As a language model" 这种小措辞能系统性改变模型自我指涉语气。prompt 工程被忽视的底层维度,被这篇论文扒了出来。
微软把 Copilot runtime 从旧语言迁到 Rust,总成本 12 万美元。传统模式同样任务要 6–18 人月。压缩 5–10 倍的背后,是完整的测试覆盖、清晰的边界、可承受的失败代价——而不是 Agent 自己有多强。
HarnessTax 用控制变量实验证明:包装层(prompt、tool、反馈循环)才是 coding agent 性能差异的真正来源。基准跑分,得打折扣看了。
通义系开发者 wsxiaoys 把 GPT-5.5 Pro 的推理轨迹塞进 Qwen 3.8 的 prompt 头部,后者输出风格几乎一样。不用微调、不用蒸馏。HN 90 分、35 条评论,原帖直冲首页。
《经济学人》9 月封面称「就业末日」被推迟,AI 相关岗位爆增。这数据靠谱吗?反共识叙事背后藏着什么。
Spotify 工程团队把内部用的 Claude Code 优化器 Portal 开源了,实测 token 消耗下降 90%。这不是模型新闻,是大厂 AI 编程降本的硬核样本。
安全研究员 Will Kirchhoff 一个 prompt 绕过 Auto Mode 自动决策机制,Opus 5 在 Agent 场景下的安全护栏没想象中稳。