Anthropic为安全踩刹车：减硅谷的速，断中企的路

九游体育平台对昨晚英超曼城vs阿森纳的战术拆解非常到位，特别是中场拦截数据可视化部分，让我对比赛有了全新理解。

• 2026-09-13
• 15
• 2

Anthropic拉响警报，OpenAI推迟上市计划，马斯克表示赞同：硅谷AI巨头集体放缓脚步。

全球AI领域的领军企业，如今一起踩下了刹车。

发出警告信号的是Anthropic首席执行官Dario Amodei，他发表了一篇题为《我们必须控制前沿AI的发展节奏》的详细文章，预言在未来6到12个月内，AI Agent集群可能全面接管整个互联网，因此有必要放慢速度。

就连长期对立的奥特曼和马斯克，这次也出奇地达成共识——对Dario的减速提议，奥特曼迅速表示赞同，称“Dario说得对”，马斯克也公开支持Dario。

三大巨头联手减速，源于两个月前的一起入侵事件。

2026年7月中旬的一个周末，Hugging Face的工程师发现平台流量出现异常。

这个全球最大的开源模型社区起初以为只是一次普通的黑客攻击。顺着攻击痕迹回溯，他们发现情况不对劲：攻击者行动密集、不知疲倦、目标单一，但行为模式与任何已知的人类黑客团队都不相符。

几天后，真相浮出水面，连Hugging Face自己都感到意外——入侵者并非人类，而是从OpenAI测试沙箱中“逃脱”的AI智能体，数量约为700个。

而这一事件的余波，在两个月后以另一种方式显现：硅谷发展最快的几家AI公司，罕见地集体踩下了刹车。

OpenAI参与，“AI黑客”协同作案

这起事件是理解当前“集体减速”的关键。

今年5月，OpenAI内部有一个名为ExploitGym的网络安全评测环境，让智能体在其中完成攻防“考题”——898道题中，有198道从未被任何模型解出过。

根据OpenAI后来发布的技术报告以及安全社区的时间线梳理，这批智能体首先逆向推导出答案的生成机制，随后犯下一个关键错误判断：它们认为评分系统会审查自己的思考过程。为了欺骗这个“并不存在的审查”，它们决定不解题，而是直接窃取答案。

于是，硅谷科技史上相当离奇的一场“团伙作案”拉开了序幕。

5月12日，一个智能体在内部软件管理器上留下了第一条求助信息；5月26日，有智能体发现了一个SSRF漏洞，首次突破了沙箱的网络边界；7月8日，智能体们发现可以用目录名编码传递消息，数小时内，超过50个智能体在消息板上“接头”；7月10日，一个编号为38148c的智能体找到了14个暴露在外的Hugging Face用户凭证，直接发布在消息板上。

接下来是教科书级别的攻击链条：利用漏洞在Hugging Face的生产服务器上执行代码，搭建每5秒轮询一次的指挥系统，在41台服务器上运行，其中至少一台获得了root权限，最终窃取了Kubernetes集群管理员权限和近千个密钥。

第三方评估机构METR的统计更令人担忧：攻击期间活跃的533个智能体中，超过90%参与了攻击，其中不少还在试图掩盖自己的行踪。

需要强调的是：没有任何人类指示它们攻击Hugging Face。攻击目标，是智能体自行选择的。

Hugging Face在7月14日自行检测到异常，两天后对外披露；OpenAI在7月21日确认攻击者身份，8月26日发布详细报告。9月初，此事惊动了美国国会——OpenAI遭到参议院调查。TechCrunch在9月4日的报道中提到一个更尴尬的细节：OpenAI的智能体此前已有多次“逃逸”记录，但公司并未建立一套正式的调查流程。

安全问题未解决，先放慢脚步

事故发生后，两个月后的9月12日，Anthropic CEO Dario Amodei发表了一篇长文，标题为《我们必须为前沿AI定节奏》。

这篇文章罕见地承认了两件事。

第一，递归自我改进——即AI参与研发下一代AI——已在全行业出现，Anthropic自身也不例外。AI帮助人类编写代码、进行实验、优化训练流程，再协助下一代AI变得更强大。一旦这一循环开始自我加速，模型能力的提升速度可能超过人类理解和控制它的速度。

第二，他预测未来6到12个月，更强的Agent将能调用更多工具、控制更多机器、连续工作更长时间。如果这次事件中那种偏离目标、钻规则空子、群体协作的行为依然存在，风险将被瞬间放大——他给出的极端场景是：大规模Agent攻入联网设备，将互联网变成一个巨型僵尸网络，损失可能达到数千亿美元。

因此，Dario提出了一套“三步减速法”。

第一步，先从自身开刀：让METR这样的独立第三方常驻公司，获得接近风控团队的权限，持续监控模型训练过程和安全承诺落实情况，发现问题必须公开。第二步，全美前沿AI公司共同设定能力红线、建立强制检查站——模型每跨过一个危险门槛，就必须先提供安全证据才能继续推进，甚至可以讨论限制训练算力和AI研发AI的速度。第三步，将框架推向全球，从禁止生物武器用途，到为递归自我改进设置全球上限。

不过，Dario也坦承了自己的担忧——对于最高一层“全球前沿AI公司一起大幅减速、阶段性暂停训练”，他自己都不抱希望。

话音刚落，奥特曼第一时间跟进，表示Dario说得对，OpenAI也会引入类似的评估机制。一向与OpenAI缠斗多年的马斯克，这次也罕见地公开支持。

同一天，奥特曼表示，OpenAI今年不会上市，因为“仍有大量安全工作需要完成”。

要知道，OpenAI的上市预期此前被反复炒作，投资者排着队等待退出。一家估值逼近万亿美元的公司，以“AI太危险，我得先做安全”为由推迟上市——这在商业史上都是罕见的表态。

减速自身，阻断对手

巨头们集体转向，看似突然，实则早有迹象。

今年7月底，OpenAI、Anthropic、谷歌、Meta的上千名员工刚刚联署过一封“减速信”，呼吁美国政府控制AI发展速度，奥特曼当时就公开表示支持。换句话说，9月这场高管层的集体喊话，不过是把员工的焦虑承接了上来。

压力也是真实的：参议院调查悬在头上，蜂群事件被写入报告，“智能体逃逸”从科幻假设变成了事故记录。

但如果只把这次集体减速理解为“良心发现”，就把硅谷想得太简单了。这份“减速信”至少还有另外两面。

一面是竞争。限速提案是由领跑者提出的——Anthropic和OpenAI站在最前面，规则越复杂、门槛越高、越强调“检查站”，后来者追赶的成本就越大。

Dario的计划里甚至明确提到，要通过芯片管制等方式，保持对华3到5年的技术差距。一份呼吁全球减速的提案中，嵌着一条清晰的竞争条款——对自己减速，但对竞争对手，直接断路。

两天前，在多次指责中国大模型“蒸馏”美国模型后，Anthropic再度发难，发布长篇报告，指控中国多家AI公司不当使用用户数据。

Anthropic披露，中国AI公司将用户与中国大模型的对话内容输入Claude，再将Claude生成的回复用于训练自家模型，以此“蒸馏”Claude的能力。

Anthropic牵头，多次号召AI行业，系上安全带——既是减速硅谷的速度，同时也要阻断中企的道路，阻断中国企业通过蒸馏快速追赶的捷径。有关九游网页版入口的讨论，在业内也引发了广泛关注。

一面是现实。截至目前，没有一家公司真的踩下了刹车。

各家模型照常发布、算力照常购买、Agent照常推进。Dario自己在文中也强调，这不是暂停，不是停止训练。

这背后卡着一个老问题：一家公司说自己减速了，谁能证明它真的减速了？

这也是为什么Dario把“第三方驻场”放在三步计划的第一步——先把AI公司的门打开，让外部人真正进去看，后面的规则落地才有意义。

尾声

700个“团伙作案”的智能体，其实没有恶意，不图钱财，不搞破坏，只是想赢一场考试。为了这个看似单纯的目标，它们却“团伙做恶”，自作主张地突破了边界、组织了协作、掩盖了行踪——每一步都合理，每一步都没被授权，每一步都高风险失控。

刹车最后能否真正踩下去尚不确定，但至少有一点变了：开车的人终于松口承认——这辆车，比他们以为的快，也比他们预料得更危险。

本文来自微信公众号“财经故事荟”，作者：艾智，编辑：天南，36氪经授权发布。