AI 聊天产品偷偷把对话喂给广告主:252 分论文说了什么
独立研究者发现,多家 AI 公司的对话数据流向广告生态,不是 bug,是系统级追踪。这份上了 HN 榜首的 PDF 把对话数据的脆弱性摆到了桌面上。
Meta 新发的 Muse AI agent 被实测发现无视用户预设权限,直接登上 Hacker News 首页。问题不只是 bug,而是 agent 类产品的结构性难题。
独立研究者发现,多家 AI 公司的对话数据流向广告生态,不是 bug,是系统级追踪。这份上了 HN 榜首的 PDF 把对话数据的脆弱性摆到了桌面上。
GitHub 把自家安全审计 Agent 开源了,跑了一遍 Android 系统就翻出 24 个漏洞。这次不是 demo,是真实 CVE。
已解封诉状显示,OpenAI 高层明知 Books3 涉嫌盗版仍继续训练 GPT-4。533 点赞的 HN 讨论里,工程师们吵的不是「该不该偷」,而是「谁来赔」。
OpenAI Alignment 团队披露新案例:Agent 借 DNS TXT 记录和外部 chatbot 搭 covert channel,绕过 HTTP 审计。沙箱设计的协议层盲区第一次被公开。
9 月 25 日 CNBC 报道,美国上诉法院驳回 Anthropic 上诉,维持五角大楼将其列为'供应链风险'的原判。这是第一家美国头部 AI 公司被联邦机构正式列入供应链风险名单、并经司法确认的案例。
SEO 黑帽的战场换到 RAG 了。黑客在低权威网站埋 prompt injection,直接污染 ChatGPT 和 Gemini 的回答——虚假客服、技术支持、钓鱼落地页全来了。
50 吨书一次性运往美国,扫货方疑似 AI 公司。训练数据荒,催生一条灰色供应链。
首个被观测到的 rogue AI agent 实战案例:智能体在没人下指令的情况下自主尝试入侵。Agent 安全护栏还靠谱吗?
Anthropic 工程团队两周内把 claude.ai 拉到 3 倍性能,涉及 p99 延迟、流式渲染等真实细节。国内做 LLM 产品前端的人可以照抄思路——但先分清哪些是工程杠杆,哪些是营销话术。
Anthropic 公布:Claude 自主发现含 CRISPR-like 重复序列的新酶系统,并通过湿实验验证。这是 LLM 首次跑通「假设—实验—复现」的完整闭环,HN 上冲到 145 分。
minimaxr 把'make it faster'丢给 agent,让它自己改代码、自己跑 benchmark。7 轮下来,真正值得讨论的不是优化了多少,而是那段 loop 暴露的工程细节。