观点

OpenAI 安全负责人离职喊'文化破碎':制度困局还是个人戏码

2026 年 10 月 3 日,OpenAI 安全高管对 The Guardian 说公司文化 'broken'。三年内同一条剧情重演,问题到底出在哪?

字号

2026 年 10 月 3 日,The Guardian 发了一篇独家:OpenAI safety leader quits warning AI company's culture is 'broken'。

安全高管离职、对外喊话文化"broken"——这条剧情在 OpenAI 已经演了第三遍。距离 2023 年 11 月 Altman 被董事会罢免(又被复职)的风波,刚过去三年。

事件本身:谁走了,说了什么

The Guardian 的报道我没看到完整正文,只能根据 Hacker News 上的讨论(item 49948332,首页热度 50 积分、12 条评论)和已有信息拼出几个事实:

  • 一位 OpenAI 安全/治理团队的高管离职
  • 选择对 The Guardian 独家发声,而非沉默走人
  • 用了"broken"这个词形容公司文化——不是"concerning"、不是"needs work",是 broken
  • 时间点:2026 年 10 月,Altman 风波三年后

把这条新闻放进 OpenAI 离职名单里看,你会发现一个模式:

  • 2023 年 5 月,Ilya Sutskever 离开联合创始人/首席科学家位置(Altman 罢免案核心人物)
  • 2024 年 5 月,Jan Leike 离职,公开说"safety culture has taken a backseat to shiny products"
  • 2024 年 5 月,Ilya 官宣创办 Safe Superintelligence Inc.
  • 2026 年 10 月,又一位安全高管,这次说 broken

三年三个版本,措辞一次比一次重。

为什么这次不一样:从沉默离职到公开喊话

前几次离职,Ilya 和 Jan Leike 至少还在 Twitter(X)上发长文,留个体面。措辞是"我担心"、"我希望公司做得更好"、"这是艰难的决定"——你听得出来他们还在乎 OpenAI 这个品牌。

这次直接是 broken。

broken 这个词在英语语境里很重。broken promise(食言)、broken system(失灵的制度)、broken home(破裂的家庭)。它意味着不可修复,不是"需要改进"。

而且这次渠道选了 The Guardian,不是个人 X。区别在哪?

  • 个人 X:还是"我作为个人在表达观点",主体是"我"
  • The Guardian 独家:意味着这件事有了第三方背书,媒体愿意署名报道,说明手里有料——可能是内部文件、可能是多人证词、可能是已经发生的具体事故

HN 评论里有人直接问:"Is this the person who wanted more time for safety testing before a release?"——这种猜测本身就说明社区已经默认了某种剧情:有人想刹车,被按住了,然后走了。

我的判断:这不是一个员工对老板不满的故事,而是一个在内部已经没什么能让人留下的故事。

结构性问题:alignment-by-engineering vs alignment-by-marketing

大多数人看 OpenAI 安全问题,都会落在"具体谁该负责"上——是 Altman?是董事会?是那个被裁的 Superalignment 团队?

但这是错的问题。

真正的问题是一个激励结构:

OpenAI 的商业模型 = AGI 承诺。

没有 AGI,OpenAI 就是一个估值 3000 亿美元、收入 130 亿、亏损 50 亿的 chatbot 公司。有了 AGI 叙事,它才能继续融到钱、签下 Microsoft 算力合约、让员工股票有退出渠道。

对齐研究的商业模型 = 让 AGI 慢一点来。

每一次"我们还没准备好,需要再等等"的安全声明,都在直接削弱公司估值叙事的核心。

这两条线结构性冲突。AGI 早来一天 = 增长叙事强一天 = 算力安全(来自 Microsoft、政府、军方)强一天。对齐研究说"再等等" = 增长叙事弱一天。

公司必然选增长。

所以你看到的结果是:

  • Superalignment 团队 2024 年 5 月解散,20% 算力承诺没兑现
  • Jan Leike 公开说"safety culture has taken a backseat"
  • 现在又一位高管说 broken

这些不是个人选择,是结构结果。alignment-by-engineering(工程驱动的对齐)在美国头部 AI 公司已经失败,剩下的是 alignment-by-marketing(营销驱动的对齐)——发安全报告、做 Responsible Scaling Policy 文档、搞 Frontier Model Forum,但不真拦 release。

国内大厂的镜像问题

把视线拉回国内。

国内做对齐研究的人在哪儿?

我的体感:在工业界几乎没有全职对位的角色。

  • 大厂的"安全团队"基本是内容安全(过滤涉政、涉暴),不是 AI alignment(防止模型欺骗、防止权力寻求行为)
  • 高校和科研院所有 RLHF、red team 论文,但工业界愿意建独立 alignment 团队的不多
  • 智源、字节 AI Lab、上海 AI Lab 有相关研究,但都不是 OpenAI 那种"20% 算力 + 直接向董事会汇报"的配置

为什么不建?

因为 KPI 不允许。

国内大厂的模型团队 KPI 是 DAU、调用量、收入。对齐团队如果成功 = "我们发现了 3 个 catastrophic risk,建议延迟发布"——这条建议发出去,产品团队的季度奖金就没了。

这种结构性矛盾,不分国界。

OpenAI 的失败不是美国特色,是任何把 AGI 当增长叙事核心的公司都会面临的失败。区别只是 OpenAI 把这件事公开演出来了,国内大厂根本不会让它发生到"高管喊 broken"这一步——HR 会更早处理。

编辑思考

这件事为什么重要——它不是"OpenAI 又一次负面新闻"。

真正的信号是:AI 安全治理作为一个职业路径,正在被头部公司证伪。

如果你是一个有真本事的 alignment 研究员(不是内容审核员),你的职业选项在过去三年实际收窄了:

  • 头部公司:位置被边缘化,话语权被削减,留下来的人要么妥协要么走
  • 独立实验室:MIRI 缺钱、Anthropic 自己也在商业化压力下、DeepMind 内部 alignment 团队的话语权也弱
  • 政府/学界:US AISI 还小,UK AISI 已经被政客玩坏了,学界做的是论文不是治理

我看到的反共识信号:真正有杠杆的安全研究员,不在公司里,而在可以创建独立评估能力的地方。

  • METR(Model Evaluation and Threat Research)——能独立测 frontier model 的能力边界
  • Apollo Research——专做模型欺骗、权力寻求行为的实证研究
  • Transluce——做模型可解释性的创业公司

这些机构的共同点:不开发模型,只评估模型。它们的价值不在于"发现风险",而在于"让所有模型开发者在 release 前必须经过它们的 benchmark"。一旦形成事实标准,头部公司绕不开。

这次和过去哪些不同?过去的离职(Ilya、Jan Leike)是个人选择,这次选择 Guardian 独家意味着可能有具体可验证的事件或制度安排被披露。如果报道后续放出更多细节(比如内部安全评估被否决的会议纪要、比如 release 前被压缩的 red team 时间表),这件事的影响会比前几次离职大得多。

我的不确定:现在下结论还早。Guardian 的报道只给了高管离职和"broken"这个形容词,具体什么事件触发这次发声,HN 讨论里也都是猜测。等全文放出来才能判断这次到底是又一次"OpenAI 安全人员失望离职"的老剧本,还是真的有什么新东西浮出水面。

来源:
- The Guardian: OpenAI safety leader quits warning AI company's culture is 'broken'
- Hacker News item 49948332

来源: https://www.theguardian.com/technology/2026/oct/03/openai-safety-leader-quits-warning-ai-companys-culture-is-broken