AI行业最新“末日警告”背后是什么？

2026-09-14

AI 行业似乎正在就其技术是否对人类构成生存威胁进行迄今最激烈的辩论。当前的讨论始于 AI 研究员 Jacob Coxon 表示，他已从 Anthropic 辞职，因为他担心领先的 AI 公司正在“拿我们的生命赌博”。随后，Anthropic 的对齐负责人加入了一篇帖子，宣称：“我们真的确实相信 AI 可能杀死所有人类！”并补充说，他个人认为未来十年内的概率“>10%”。在 TechCrunch 的 Equity 播客最新一期中，Kirsten Korosec、Sean O’Kane 和我讨论了最新的末日警告。我试图阐明为什么我对许多 AI 末日论叙事持怀疑态度，而 Kirsten 问这是否“只是一种奇怪的炫耀方式，用来展示他们公司的 AI 模型有多先进”，尤其是在这些公司准备上市之际。Sean 则想知道这些担忧可能如何出现在 Anthropic 的 IPO S-1 文件中：“现在是否有初级律师正在通读并不得不重写 S-1 文件的那一整节，以写明：‘Anthropic 的官方立场是，我们有超过 10% 的概率开发出某种会消灭全人类、并对我们的业务造成重大不利影响的东西’？”继续阅读我们对话的预览，为长度和清晰度经过编辑。（注：我们录制这期节目时，Anthropic CEO Dario Amodei 尚未发布他关于更谨慎 AI 发展的计划。） Sean O’Kane：我很难想到有什么东西能这么快炸开。不仅这个警告来自这位年轻研究员——他也曾在 OpenAI 工作——而且它立刻被 Anthropic 的对齐负责人在 X 上分享——他，可能成为有史以来最错位的感叹号之一，分享了 Coxon 的帖子和线程，并说：“我们真的确实相信 AI 可能杀死所有人类！”感叹号！多么奇怪的氛围。那只是给一篇本就令人焦虑的帖子或系列帖子加了一大堆助燃剂。在 OpenAI 内部模型的 Hugging Face 黑客事件之后，再加上我们在 Anthropic 最新模型以及几周前 OpenAI 的 Astra 上看到的增强能力之后，我认为这对这位年轻研究员来说，时机恰到好处，像是一个火药桶。 Anthony Ha：只是为了不同意你，我确实认为，如果你相信 AI 可能摧毁全人类，那确实值得一个感叹号。我会说，那是一个用得非常好的感叹号！我对那条推文的问题更多在于“我们”。这里的“我们”是谁？我们在多大程度上能把 AI 社区或 AI 研究社区当作一个铁板一块的整体来谈论？还有超过 10% 的概率——那只是一个编造的数字，没有任何意义。有时在科技行业和其他地方都有这种习惯，就是抛出这些百分比，它们没有任何依据，也不是基于任何东西计算出来的。[事后看来，我意识到那条推文可能是在指 P(doom) 的概念，但我仍然认为它很愚蠢。] 关于 Coxon 的声明和决定，我要说的一点是——在 Equity 上有一个反复出现的主题，当像 Sam Altman 或 Dario Amodei 这样的人在讲这种末日论叙事时，总会有这个元素：那么，你为什么还要做你正在做的事？如果你真的相信[AI 可能摧毁人类]，你就不会继续做这件事。[而]这实际上是某个人把自己的职业轨迹放在了他所说的话所在的地方。他实际上是在说：“我相信这真的、真的、真的非常糟糕，我不想继续从事它。”所以，至少可以说，为他有勇气这样做点赞。 Kirsten Korosec：是的，我把他和其他所有说这话、谈论危险的人放在不同的阵营。

AI行业围绕“AI可能灭绝人类”的末日警告展开迄今最激烈辩论：Anthropic研究员Jacob Coxon辞职，称领先AI公司“拿我们的生命赌博”；Anthropic对齐负责人发帖称“我们真的确实相信AI可能杀死所有人类”，并个人估计未来十年概率>10%；TechCrunch Equity播客讨论其动机、P(doom)和Anthropic IPO的S-1披露问题。

这是什么信号：AI 安全辩论从边缘话题进入头部 AI 公司的公开叙事和人才流动。Anthropic 研究员 Jacob Coxon 因担心领先公司“拿我们的生命赌博”而辞职；Anthropic 对齐负责人公开说“我们真的确实相信 AI 可能杀死所有人类”，并给出个人估计：未来十年概率 >10%。TechCrunch Equity 播客把它当作行业事件讨论。

为什么重要：这发生在 Anthropic、OpenAI 等公司准备上市、S-1 文件将被投资者和监管审视的节点。若“AI 可能消灭人类”被写成公司风险因素或官方立场，它会同时影响估值叙事、法律责任、招聘和监管沟通。Sean 的追问点出：如果这是正式立场，S-1 相关章节可能需要重写。另一方面，行业刚经历 OpenAI 内部模型相关 Hugging Face 黑客事件，以及 Anthropic 和 OpenAI 新模型能力提升，公众对风险更敏感。

对谁有价值：对 AI 创始人和高管，这是治理与对外沟通的样本；对投资人和 IPO 承销/法务，这是尽调中必须追问的安全叙事与披露风险；对 AI 从业者，这是个人信念与公司路线冲突的案例；对媒体和内容团队，这是跟踪头部 AI 公司“末日论—上市—监管”叙事链的切口。

可以怎么行动：创始人/管理层应把安全主张变成可审计机制：谁负责、能否否决发布、如何记录异议。投资人可在尽调清单中加入：公司是否公开量化灾难概率、内部安全团队权限、S-1 风险因素如何表述。从业者可区分个人 P(doom) 与公司官方立场，保留书面记录。内容团队可建立“AI 安全叙事与 IPO 披露”观察清单，追踪头部公司公开帖、播客和监管文件。

风险或限制：播客中的讨论和推文不等于 Anthropic 官方声明；>10% 是个人估计，不是经过验证的统计；Sean 关于 S-1 重写是假设性提问，不能当作已发生事实。AI 末日论也可能被用于品牌、招聘、融资或监管叙事。解读时应区分个人观点、公司立场和可验证披露。

这条内容的真正价值，不只是“有人发布了一个新功能”，而是它揭示了 techcrunch.com 背后的产品方向、工作流变化或竞争信号。对 OPC 来说，这种信息可以转化成持续追踪的栏目选题。

如果把《AI行业最新“末日警告”背后是什么？》放到你的内容系统里，它最大的价值在于帮助读者更快看懂“为什么值得关注”，而不是只看到一条碎片化动态。