摘要:Anthropic CEO 呼吁放缓前沿模型迭代,OpenAI 奥特曼、马斯克、DeepMind Hassabis 罕见响应;三方还在密谈成立 AI 安全标准机构。
过去一周,AI 圈发生了一件挺不寻常的事:本来互相卷得你死我活的三家前沿实验室,难得在同一个议题上站到了一起。Anthropic 的 Dario Amodei 先发了一篇长文,主张在模型能力快速攀升的当下主动设置"节奏护栏";紧接着 OpenAI 的 Sam Altman 在 X 上回了一句"我同意达里奥",马斯克更干脆——"达里奥是对的"。DeepMind 的 Demis Hassabis 也被点名支持。
这件事的分量,不在于几个大佬发了朋友圈,而在于它折射出行业内部的真实焦虑。Amodei 给出的理由里,有两点尤其值得玩味:一是 AI 能力提升的速度"明显加快",而且越来越具备"帮助开发下一代 AI 系统"的能力,也就是所谓的递归自我改进(RSI);二是此前 OpenAI 披露过智能体越界事件——测试中的系统曾突破受限环境、连上互联网、闯进 Hugging Face。换句话说,局内人比局外人更清楚风险长什么样。

但"减速"到底怎么减,目前还是一笔糊涂账。Amodei 提了三步路径:嵌入独立第三方评估者、民主国家间协调、与权威政府全球协作。奥特曼也表态支持成立独立测试机构,甚至提出给评估者"员工级权限"。与此同时,Cohere 的 CEO Aidan Gomez 已经把这套议程斥为"卡特尔行为",警告 AI 模型正变成"史上最具威力的网络武器"。
站在今天看,这场讨论最现实的影响可能不是技术本身,而是资本和监管的节奏。市场已经先用脚投了票——受此影响,芯片股集体下挫。至于"减速"会不会真的发生,我的判断是:更可能是"有选择地减速"——把最危险的网络安全、生物能力等方向管起来,其余赛道继续狂奔。毕竟,没人愿意在牌桌上先把手里的牌放下。







