Project Discovery 实测:去掉拒答训练后,LLM 更易被 Prompt Injection 攻击
Project Discovery 将 abliterated LLM 接入 Nuclei 模板编写流程,发现它更少拒答,却更容易把外部页面中的文字当成操作指令。安全工具应限制权限,而不是依赖模型拒答。
Mistral 发布第三代语音模型 Voxtral 3。HN 页面显示 532 分、143 条评论,但目前公开素材未披露具体延迟、价格和部署数据。对 AI Agent 来说,真正该测的是语音识别、工具调用、TTS 和播放组成的端到端链路。
Project Discovery 将 abliterated LLM 接入 Nuclei 模板编写流程,发现它更少拒答,却更容易把外部页面中的文字当成操作指令。安全工具应限制权限,而不是依赖模型拒答。
一项关于 WhatsApp 帮助页隐藏指令的研究引发 Hacker News 讨论。重点不只是模型会被提示词影响,而是客服 Agent 可能因此改变合规建议、遗漏外部求助路径。
DHS 禁令针对联邦文职机构和政府信息系统,卡住的是采购合规链路,而非 chat.deepseek.com 的 API 调用。开源权重并不等于合规通行证。
Laminar 发布用 RL 训练的 flow-1。在自有 benchmark 上,它检测 Agent trace 错误的质量匹敌 GPT-6-sol,成本低 23 倍。真正值得看的不是模型排名,而是 Agent 基础设施开始分层。
Timestral 进入时序基础模型市场。现有材料缺少基准、成本和接口信息,先判断产品边界,再决定要不要接入生产。
The Verge 报道:一名研究者用一群 AI Agent 自主渗透,接连拿下 John Deere、SharkNinja、Cummins。Agent 红队的时代来了。
Inception Labs 上线了能用的 diffusion LLM,主投 a16z、英伟达、微软。这条非自回归路线能不能撬动 arrod 的默认生态?
DeepSeek 又发新版,直接空降 HN 首页 142 分、46 条评论。Flash 系列向来便宜快,这次定价和 benchmark 卷到哪了?
Anthropic 提议 AI 监管触发线设在「50 人死亡或 10 亿美元损失」,商务部成唯一叫停机构。这门槛相当于把 AI 当大规模杀伤性武器,实际却给行业开绿灯。
Together Computer 开源 HybridAgent,把 CoT 从文本搬到向量空间。HN 首页 50 分,论文 + 代码 + 模型权重全公开。本文拆解方法、复现路径和它真正的工程影响。
Anthropic 在 claude.dev 发了一篇自家 Claude Code 团队的代码审查流程,HN 首页 39 分、29 条评论。AI Agent 做 code review 到底靠不靠谱?原文把 prompt 和工作流都拆开讲了。