观点

Anthropic AI 安全提案:死了 50 人才监管,门槛合理吗?

Anthropic 提议 AI 监管触发线设在「50 人死亡或 10 亿美元损失」,商务部成唯一叫停机构。这门槛相当于把 AI 当大规模杀伤性武器,实际却给行业开绿灯。

字号

Anthropic 近期抛出一份 AI 安全立法提案,触发门槛定得很「别致」——只有当 AI 造成 50 人以上死亡 或 10 亿美元以上损失 时,联邦监管才会入场。

来源:Tom's Hardware 报道

这意味着什么?先把数字摊开看。

50 条命或 10 亿美元,缺一不可

提案的核心是这两条触发线:

  • 死亡门槛:≥ 50 人
  • 财产损失门槛:≥ 10 亿美元

两个条件要同时存在,还是只满足其中一个?提案没说清楚。原文用的是 "or",所以二选一即可。

50 人是什么概念?2017 年拉斯维加斯枪击案,凶手一人造成 60 人死亡,成为美国近代史上单起最致命枪击事件。一个 AI 系统要"杀死 50 个人"才会被监管,这门槛相当于把 AI 当成了大规模杀伤性武器的潜在对手。

10 亿美元呢?2010 年深水地平线漏油事件,BP 赔了超过 650 亿美元。10 亿美元对一家年营收百亿的科技公司,基本算"季度公关预算"。

换句话说,Anthropic 要的监管触发线,是"先用一次灾难换一张入场券"。

商务部成「唯一话事人」

更值得琢磨的是第二部分:提案把商务部(Department of Commerce)定为唯一有权叫停 AI 模型的联邦机构。

现在的 AI 监管是分散的:

  • FTC 管误导性宣传
  • NIST 管标准制定
  • 州司法部长管消费者保护
  • CFIUS 管外资审查
  • 各州还有自己的 AI 法案

提案要把这些线全部收拢到商务部一家。商务部下属的 NIST 确实是做 AI 标准的机构,这种安排技术上"合理"。问题在于:

  1. 响应速度。50 人死亡后,走联邦行政程序,模型被叫停可能已经是一周后
  2. 政治独立性。商务部部长由总统任命,监管节奏跟着白宫走
  3. 专业深度。商务部过去管的是出口管制和人口普查,不是 AI 系统的安全审计

Anthropic 为什么这么提?猜测两个动机:

  • 明确性:相比现在"谁都能管",厂商更希望只跟一家机构打交道
  • 抬高门槛:监管权限集中后,触发条件自然要宽松,否则商务部会被无数小型事件淹没

提案聪明地绑定了两个诉求:监管对象单一化 + 触发条件高门槛。

对比加州 SB 1047:门槛之争早有先例

这不是第一场关于"什么算足够严重"的争议。

去年加州 SB 1047 是类似性质的法案,核心争议也是门槛问题:

  • SB 1047 触发线:训练成本超过 1 亿美元 或 计算量超过 10^26 FLOPS
  • 监管机构:加州司法部长
  • 最终结局:被否决

SB 1047 的争议点是"按训练成本算"对前沿模型不公平——OpenAI、Anthropic 这种头部厂商必然中招,而对开源小模型无效。否决理由表面是"打击开源",本质还是"门槛定义权"。

Anthropic 这版门槛比 SB 1047 更宽松:

法案 触发线 监管对象
SB 1047(已否决) 训练成本 / 算力 加州 AG
Anthropic 提案 死亡 50 人 / 损失 10 亿美元 商务部

SB 1047 至少在事前就要符合标准(开发者注册、安全评估)。Anthropic 这版更激进——事前不管,事后追责。

Hacker News 上开发者怎么看

原报道在 Hacker News 上拿到 74 分、65 条评论(HN 讨论)。讨论区分歧明显:

支持方观点(典型回复):

"A 50-person threshold is reasonable because anything lower would capture too many false positives and slow down legitimate research."

核心论据:门槛太低会让 AI 研究被繁琐合规拖垮。

反对方观点(高赞评论):

"This is just regulatory capture. They're proposing a system where the only way to trigger oversight is after a catastrophe has already happened. That's not safety, that's negligence."

核心论据:事后追责 = 没监管。50 人死亡后,死人也回不来。

第三方观察:

"Notice that Anthropic themselves would never be caught by this. Their models aren't in life-or-death decision paths."

这条评论戳到了关键——Anthropic 作为一家 LLM 厂商,产品形态主要是 ChatBot 和 API 调用,距离"50 人死亡"的因果链条最远。提案对自己最有利。

讨论区里没人替 Anthropic 的"高门槛"辩护,争论焦点是"高门槛 + 单一监管"这个组合到底意味着什么。

我的判断

这件事最让我不安的不是数字本身,而是思路。

Anthropic 这版提案隐含的逻辑是:"AI 监管应该等到出事再管"。这种思路在传统行业(食品安全、药品审批)被证明是灾难——直到《纯净食品和药品法案》1906 年颁布前,美国消费者吃了 30 年假药。AI 现在还没有"磺胺事件",不代表以后不会有。

更微妙的是,这是厂商主动提出的自我监管提案。OpenAI、Google、Meta 都在各个场合表态支持"AI 监管",但具体到"门槛多少、谁来管",各家的提案都精准地把监管推到自己够不着的地方。这不是阴谋论,是结构性利益冲突。

我不同意的观点是「厂商自我监管提案全无价值」——总比没有提案强,而且提案细节本身透露了厂商真正怕什么。

我同意的观点是「单一监管 + 高门槛」是危险组合。商务部一家 + 50 人死亡,这等于让 AI 行业跑得更快,直到出事那天。

不确定的地方:提案具体文本是否真如 Tom's Hardware 摘要那样激进,Anthropic 官方未必逐字认可。以及这个提案目前没有任何进入立法的迹象,可能是抛出来试探舆论。

但不论结果如何,这套思路被一家头部厂商公开写出来这件事,就是 2026 年 AI 监管讨论的最重要信号。

来源: https://www.tomshardware.com/tech-industry/artificial-intelligence/anthropics-proposed-ai-safety-bill-only-kicks-in-if-50-deaths-or-usd1-billion-in-damages-are-on-the-line-proposal-would-effectively-make-the-commerce-department-the-only-agency-capable-of-stopping-an-ai-model