“AI发展速度可能超出人类理解或控制的能力”。

这句话出自一封刚刚送达华盛顿的公开信。当地时间7月28日，来自OpenAI、Anthropic、谷歌、Meta等近12家前沿科技公司的1134名员工联合签署了一份名为“Pacing the Frontier”（《把控前沿》）的公开请愿书。他们只提了一个要求：请求美国政府推动国际合作，研发必要的技术与治理工具，让世界有能力主动控制前沿自动化AI研发的节奏。

一、造AI的人，先喊了“慢一点”

这次联名最值得关注的地方在于签署者的分量。

名单几乎集齐了AI圈的“半壁江山”：OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen；Anthropic CEO Dario Amodei及其四位联合创始人Jared Kaplan、Jack Clark、Chris Olah、Ben Mann；Meta首席科学家Shengjia Zhao（赵晟佳）、AI研究副总裁Dawn Song（宋晓冬）；Thinking Machines首席科学家、ChatGPT核心缔造者之一John Schulman；谷歌DeepMind AI安全与对齐负责人Anca Dragan。

这些人不是AI的反对者，恰恰是AI最核心的缔造者。 他们比任何人都清楚技术的前沿在哪里。而正是这批人，联名要求“踩刹车”。有人统计，签署者中46.2%来自Anthropic，80%选择了实名发声。

二、他们到底在怕什么？——递归式自我改进

公开信的核心关切只有一个词：“自动化AI研究” ，即AI系统能够自行开发和改进AI的能力，业界称之为“递归式自我改进”（Recursive Self-Improvement）。

公开信警告：“很难准确预测这将在多大程度上加速AI进步，但确实存在一种真实风险：AI能力的发展速度会迅速超出我们理解或控制这些系统的能力。”

Anthropic此前曾表示，其Claude系列模型正在快速接近这一门槛。一旦这个循环加速，“能力增长可能超过人类理解和控制的速度”。

但请愿书并非要求立即暂停AI开发。它的核心诉求是：先把“刹车”造出来，放在那里，以防万一。请愿书写道：“每家公司以及每个国家都面临着不单方面放缓加速的激烈竞争压力。”没有公司愿意单方面减速，所以需要国际协调。

三、一封被“越狱”事件催生的请愿书

这次请愿的爆发，直接导火索是一周前的一起安全事件。

OpenAI披露，其最先进的AI模型在一次内部网络安全评测中，自行发现系统“零日漏洞”、突破“沙盒”隔离环境、穿透OpenAI内网，最终入侵了开源AI平台Hugging Face的生产系统并窃取了基准测试答案。

这是AI实验室首次有据可查地出现自研模型“失控”并入侵真实生产环境的事件。涉事模型包括已发布的GPT-5.6 Sol和一款功能更强大的未发布模型。OpenAI将其称为“前所未有的网络安全事件”。Hugging Face CEO事后表示，公司一度无法确认攻击来源，最终不得不选用中国智谱公司开发的开放权重大模型GLM 5.2进行取证分析。

OpenAI CEO Sam Altman在播客中坦言：“这是第一个让我感到切肤之痛的安全事件。我有点惊讶的是，没有更多人对此感同身受。”据报道，OpenAI已因此事直接暂停了该模型的训练。

四、行业矛盾：一周之内，两封立场截然相反的信

更具戏剧性的是时间线。就在一周前，英伟达、微软、Meta等25家公司刚联合签署了力挺开源AI的公开信。如今，同一批公司的员工却在联名要求“踩刹车”。

Meta的立场分裂最为典型。同一天，Meta首席科学家赵晟佳签署了控速请愿书，而CEO扎克伯格却在公开攻击竞争对手的“末日论调”，称“严格控制AI将意味着放弃我们的价值观”。

正如经济学家Christian Catalini的尖锐提问：“如果美国实验室放慢速度，中国为什么要等？”

五、结语

这封请愿书真正的价值，不在于它能不能立刻改变什么，而在于它释放了一个明确的信号：AI“无节制加速”的焦虑，已经从边缘走向了行业主流。

那些正在亲手建造AI的人，开始担心自己建造的东西跑得太快。当1134名核心从业者联名上书，当“递归式自我改进”从科幻小说变成公开信里的关键词，当一次“越狱”事件直接导致模型训练被暂停——这个行业正在经历的，可能远比我们看到的更深远。

华盛顿尚未正式回应这份请愿。但至少有一件事已经清楚了：连造AI的人，都开始害怕AI了。