Anthropic CEO长文硬刚，自曝雪藏Mythos 4个月，为AI安全自断财路

硅谷的夜晚，空气中弥漫着紧张的气息。

就在不久前，Anthropic的CEO达里奥罕见地在X平台上情绪激动地发声。

他亲自发布了一篇近千字的强硬长文，直接回应外界对Anthropic最尖锐的质疑——所谓的AI安全，是否只是用来掩盖贪婪的幌子？

对此，达里奥首次披露了一个关键信息：一个已经完成训练的Mythos级别高级模型，被内部搁置了大约四个月，才被允许向公众开放。

他把自己公司过去一年里“因安全考量而主动放弃的收入”，逐一公开列出。

在一个模型每隔几周就可能重塑行业格局的领域，四个月的时间足以让多代新模型相继登场。

选择等待，很可能让Anthropic牺牲了原本数月领先优势中的相当一部分。

“Anthropic只想在超级智能竞赛中胜出”

这次，将达里奥逼到台前的，是AI安全领域的知名调查员Nathan Calvin。

几小时前，Calvin的一篇千字长文，迅速点燃了整个AI社区。

他列出了一份详尽的清单，犀利地指出了Anthropic过去一年的“九大问题”。

投入5000亿美元算力订单、秘密组建自研芯片团队、让Claude接管内部26%的研发任务进行“自我迭代”、悄悄修改安全承诺……

Calvin的潜台词非常尖锐：别伪装了，你们只想在所有人之前造出超级智能！

这场争论的导火索，源自一份周末泄露的联邦AI安全法案草案。

Calvin和几位政策研究者读完草案后感到不满，认为Anthropic在幕后推动的这份法案表面上呼吁监管，实则暗藏玄机——它不仅试图架空各州更严格的法律，还为联邦政府叫停危险AI设定了极高的门槛。

Anthropic联邦事务负责人Anthony Cimino原本想在周末发帖平息事态，结果彻底激怒了Calvin。

Calvin直接抛出一连串核心质问：Anthropic究竟是一家什么样的公司？

如果按照高管们在公开信中的说法，这是一家随时准备为人类踩刹车的“安全机构”。

就在不久前，达里奥还公开警告称，未来6到12个月内AI集群可能接管整个互联网，呼吁全行业必须放慢脚步。

Calvin冷冷地刺了一刀：如果把上面这9件事换成是OpenAI干的，Anthropic的员工恐怕早就跳出来指责，并将其视作对手“利欲熏心、不顾人类死活”的铁证。

达里奥深夜亮出账本

为了安全，我们放弃了多少收入？

面对几乎要动摇公司道德根基的指控，达里奥没有回避。

在回应的开头，达里奥先展现了高情商，感谢了Calvin的监督，但客套完他直接切入正题。

紧接着，他一口气列出了9项让无数硅谷投资人看了都会心痛的“自残式操作”。

神级模型到手，硬生生搁置4个月

这是整篇长文中，信息量最大的一个猛料。

达里奥首次公开承认：早在今年2月，Anthropic就已经训练出了“Mythos级别”的高阶模型。

但Anthropic硬是忍住了。

当时，针对该级别模型的网络安全防御机制还没完全打磨好，他们选择只向极少数合作伙伴开放，专门用于强化网络防御测试。

直到今年6月安全护栏到位，这款模型才正式向公众开放。

整整4个月的领先窗口期，在分秒必争的AI竞赛中，被他们自己亲手掐断了。

达里奥直言，正是因为这4个月的缓冲，许多企业才赶在具备强悍网络攻击能力的AI模型泛滥之前，加固了自己的安全基础设施。

今年6月9日，Anthropic向普通用户推出的Fable 5，就属于这一层级，并配有严格防护。

同次发布的Mythos 5，则先向少量网络防御和基础设施合作伙伴提供部分解除限制的能力。

因此，“搁置”期间仍有受限使用；6月开放时，也有不同的访问边界。

当然，等待究竟损失了多少收入，又避免了多少风险，他没有给出可量化的账单。

但这个选择至少说明，发布时点本身，已经成了AI安全的一部分。

对生物风险“零容忍”

生物领域的代价，尤其让达里奥感到痛苦。他本人就有生物学背景。

他称，公司在生物能力测试中看到了令人担忧的结果，也拦截过潜在的生物武器滥用尝试，因此对高风险用途采取严格防护。

问题是，过滤器很难精准读懂每个人的意图。

把危险请求漏过去，叫漏判；把正常研究拦下来，叫误判。为了尽量减少前者，Anthropic接受了大量后者。

正常研究者因此受挫，竞争对手还会把“限制更少”当成卖点。

这笔成本，用户也在承担。

Anthropic此前的官方说明证实，Fable 5触发生物安全过滤后，会把请求交给能力较弱的模型处理。

8月的更新在公司测试中将生物相关回退减少了约85%，但仍保留对双重用途研究的限制。

另一笔账是监管。

达里奥称，Anthropic推动了加州SB 53等立法，还支持过比最终通过版本更严格的方案。今年6月，他又公开主张，政府应拥有阻止模型发布的权力。

这等于支持外部力量握住自己产品的开关。

最后，是5%股权。就在几天前，Anthropic宣布，拟将公司5%的股份投入公共利益基金，尚待股东批准。公司估值超过指定基准后，每增长50%，董事会还可酌情追加2%。

AI越来越快，谁来踩刹车？

为什么一家公司坚持安全，却还要拼命买算力、加快研发？

达里奥给出的核心逻辑，叫“race to the top”，向更高标准竞争。

他的判断是，一家处在技术最前沿的公司，通过证明先进AI可以被负责任地开发，才更有能力推动同行提高标准。

Calvin担心的也很直接：如果每一轮竞争都必须赢，安全还能让公司退让多少？

尤其当AI开始参与下一代AI的研发，能力提升越来越快，人类检查问题、补上漏洞的时间，可能越来越紧。

今天，Anthropic愿意等四个月。

下一次，面对更强的模型、更大的订单，还能不能等？

参考资料：

https://x.com/DarioAmodei/status/2112732230124818891?s=20

https://x.com/_NathanCalvin/status/2112295219765137570?s=20

本文来自微信公众号“新智元”，作者：ASI启示录，编辑：桃子，36氪经授权发布。