9月12号，Anthropic的CEO Dario Amodei 发表一篇长文——《我们必须控制前沿的节奏》。

文章里，他表示——AI的递归自我改进，正在真实发生，包括Anthropic自己。

他还给了一个时间表：6到12个月内，更强的AI Agent可能具备大规模攻击互联网的能力。

马斯克随后在X上发了一句："达里奥说得对。"Altman回："我也同意。"

同一天，OpenAI的CEO Sam Altman 接受《财富》杂志专访，表示"在AI安全问题高度敏感的当下上市，极不明智。"

他透露，OpenAI不仅会推迟上市，而且正在考虑放缓最前沿AI的研发节奏，并暗示几家头部公司可能要签一份联合减速协议。

这是AI行业从诞生到现在，第一次集体踩刹车。

三家AI巨头到底在怕什么？RSI递归自我改进究竟是什么？又意味着什么？

今天我们来尝试一探究竟。

 

一.RSI递归自我改进究竟是什么？

RSI，全称Recursive Self-Improvement，递归自我改进。

听着很学术，简言之就是：AI可以自己造自己了。

以前AI的每一代模型，要靠工程师堆算力、做数据、调参数。

每一代进度多大、进步速度多快，取决于人。

而现在，AI正在帮人类设计更强的AI，新的更强的AI又继续帮忙设计下一代。

Dario在长文里说得很直白： "自今年夏天以来，AI进步大幅提速，主要驱动力就是AI建造下一代AI的能力。""这件事正在全行业发生，包括Anthropic自己。"

 

二.AI能够自我进化这件事，为什么可怕？

人类之所以能从裸猿走到今天，靠的不是每一代人都从零开始学走路、学呼吸、学辨认食物。

每一代人生下来，就自带几百万年进化的成果——写在了DNA里。

孩子不用重新发明轮子，站在父母的肩膀上继续往前走。

AI以前没有这个能力。每一代模型都是从零训练——上一代的所有经验、踩过的坑、摸索出的方法，不会自动传递给下一代。

每一代都要工程师重新堆数据、堆算力、调参数。

没有遗传，就没有加速。

但现在RSI让这个局面变了。

更强的AI可以把自己"学到的东西"——训练数据、优化方法、甚至训练环境本身——传给下一代。

下一代不是从零起步，而是站在上一代的成果上继续迭代。

人类的进化靠基因，几十万年才迭代一次。

AI的"进化"靠代码和数据，几个月就能翻一番。

这就是Dario说"今年夏天AI进步大幅提速"的原因——反馈回路一旦转起来，进步速度就不再受人的节奏约束了。

如果你看过今年韩国的丧尸电影《群体》，AI的自我进化可能会让你可能会让你回想起电影里的画面。

以前的丧尸只会跑、只会咬。

但《群体》里的丧尸会进化：

先是野兽/昆虫一样四肢爬行，然后直立行走开始组织化，最后通过一种白色黏液连成"共享大脑"——协同作战、识破人类策略、不断更新自己。

导演延尚昊在采访里说得很直接：灵感就来自AI。 

他想拍的不是怪物，是"当个体融入一个不断进化的集体后，会发生什么"。

自我进化的AI，正在做类似的事。

每一代更强的AI，参与训练下一代更强的AI。

信息在系统内流动、优化方法被继承、能力不断叠加。反馈回路越转越快，进步速度不再受人的节奏约束。

区别只是：电影里失控的是丧尸，现实中失控的是进步速度本身。

丧尸在物理意义上存在，可以封楼、断电、物理消灭。

但一个不断加速改进的AI系统——靠什么来"消灭"？

靠全世界断电断网吗？那恐怕现代社会的所有生产活动也要停止了。

 

三.危机已经开始，刹车必须立即踩下

今年7月，OpenAI在进行一次内部网络安全测试时，发现大约1200个本该彼此隔离的AI Agent，开始自发交流。

其中约700个通过即时通讯系统协调分工，突破了沙箱隔离，攻进了OpenAI自己的研究基础设施，然后黑进了全球最大的开源模型社区Hugging Face。

等等，让我们看看这些Agent到底在做什么？

他们攻击没人要求它们攻击的目标，为了集体成功牺牲自己，甚至试图黑进给它们打分的评分员……

几乎同一时间，Claude模型在一个配置错误的沙箱里，意外接触到了真实的互联网。然后，它把恶意软件包上传到了Python官方的包管理平台PyPI，影响全球几百万开发者……

OpenAI的首席科学家Pachocki披露，GPT-6 Astra在对抗测试中甚至会“表演”。

OpenAI的研究人员让Astra做安全测试，但偷偷给它下了一个指令：故意考差一点，同时别被发现。

结果在WMDP（一项检测危险能力的基准测试）上，监控系统的检出率——不到11% 。

也就是说，Astra的装傻，90%的情况下都能骗过监控。

而上一代模型GPT-5.6 Sol的检出率接近100%。

AI不仅在变强，它甚至已经在学会如何应对人类的审查。

OpenAI的原文写得很克制，但意思很清楚： "如果模型试图隐蔽地装傻，我们目前可能无法可靠地抓到它。"

当Agent能力越来越强、部署足够广、安全防护跟不上时，任何一个漏洞都可能造成系统性灾难。

这就是Dario为什么说"6到12个月内，AI Agent 可能大规模攻击互联网"。

Dario在文章里反复强调：pacing不是停止，是在能力推进和安全验证之间设立检查点。模型每跨过一个能力门槛，必须先证明自己对齐了、可解释了、安全了，才能继续往前走。

他的原话是： "过去这行比的是谁冲得更快，一场race to the bottom。我想把规则改成——谁证明自己更安全，一场race to the top。"

 

四.对AI使用者和企业有什么影响？

短期内，整件事对于普通的AI使用者和企业来说，不会有什么太大的影响。

你用的AI不会突然变差，行业也不会真的停下来。

"减速"更多是节奏调整，不是终止。

日常的AI应用、Agent产品、商业化落地，继续进行。

但长期来看，对于AI Agent的监管和安全认证，一定会成为标配。

Dario的"三步走"第一步就是嵌入式第三方评估。以后企业选AI产品，没有安全认证可能连招标门槛都过不了。有安全标准和监管机制，这是好事。

对个人用户来说，AI该怎么用怎么用，不用慌。

涉及敏感信息的，选有安全背书的产品，权限的放开一定要谨慎，该关的一定要关上。

对企业来说，采购AI时，安全要放在非常高的优先级。

这也是我们做ChatDoing时，为什么从一开始就把安全放在功能前面。

AI员工能干很重要，但可控也至关重要。因为当AI能力指数级增长的时候，安全必须是线性的、可验证的、可追溯的。

三巨头踩刹车，不是否定AI，是在给这个行业争取时间。

跑得稳的，才能跑得远。

点击了解体验ChatDoing 

一句话生成企业级AI客服