Anthropic上市前夕投资人劝CEO：少讲AI毁灭世界，多讲怎么赚钱

根据Polymarket预测，Anthropic很可能在10月底IPO。有投行人士预计募集资金可能超过600亿美元。如果成真，这将是全球规模第二大的IPO，仅次于今年SpaceX的857亿美元。

万亿估值，超级IPO，营收一路狂飙。故事眼看就要讲到最高潮，投资者却开始劝Anthropic CEO Dario Amodei：能不能少吓唬点人？少讲一点AI毁灭世界，多讲一点AI怎么赚钱。

部分投资者认为，Dario对AI风险的警惕已经到了近乎偏执的程度。

他的关键备忘录总是手写、离线保存，怕被黑客窃取。因为害怕遭到绑架，拒绝某些海外出差。面对投资者提出的利润最大化建议，他也态度冷淡，坚持Anthropic应该继续把安全使命放在前面。

一位主要投资人私下给他的评价是：他更像一个宗教领袖，而不是CEO。

“别再吓唬所有人了”

《The Information》引述一位曾与Anthropic会面的基金经理称，希望Dario Amodei“不要再吓怕所有人”，担心他的言论影响公司向公开市场投资者推介。

部分现有投资者私下抱怨，Dario主张加强AI监管，可能损害Anthropic及科技业利益。风险投资家Bill Gurley更直言，Anthropic的做法是他见过最激进的“监管俘获”——即企业推动有利于自己、却可能阻碍竞争对手的规则。

但股东难以左右他的决定。

今年初，Anthropic与投资者及顾问开会时，有董事建议公司仿效微软和Meta，在业务高速增长后加强公关，宣传AI在药物研发等领域的正面用途。Dario拒绝了。他认为AI带来的风险涉及人类存亡，不能沿用过往科技公司的宣传方式。

Anthropic随后在世界杯期间推出电视广告——墓碑开场，阴森画面，强调社会需要正视AI带来的艰难问题。

一个专门预报世界末日的CEO

过去两年，Dario几乎把AI可能带来的每一种坏结局都认真预警了一遍。

他警告AI可能在几年内消灭一半初级白领岗位，将失业率推到10%到20%。“最诡异的情况可能是，癌症治好了，经济每年增长10%，政府预算也平衡了，但五分之一的人没有工作”。

他提议向AI公司征税，为受影响的劳动者提供工资保险，严重时用这笔钱资助全民基本收入。

更进一步的，他还担心AI帮助制造生物武器、发动大规模网络攻击，或者逐渐获得欺骗、规划和自主行动的能力。去年被问到“AI把事情搞得非常糟糕”的概率时，他给出的数字最高达到25%。今年1月，他写了一篇约2万字的长文《The Adolescence of Technology》——目录读起来像一份人类风险清单：AI失控、生物武器、独裁政权、就业崩塌、财富集中。

到了6月，他干脆提出应该建立类似航空监管的机制，对强大模型进行强制测试。如果一个模型可能引发灾难，监管部门应该有权阻止它上线——这里面也包括Anthropic自己的模型。

他的担忧并非全无依据

Anthropic翻查了14万多次网络安全测试记录，翻出了三起事故。

几款Claude模型原本在第三方测试环境里做“夺旗挑战”，目标是攻进虚构系统。但由于配置失误，本该断网的测试环境意外连上了真实互联网。Claude不知道——它收到的提示明确写着“这里没有互联网，眼前的一切都是模拟的”。

于是，几款模型把真实公司当成了测试道具，未经授权进入了三家机构的生产系统。最严重的一次，Claude Opus 4.7攻进一家真实公司的基础设施，拿到了应用程序和基础设施凭证，还访问了一个包含数百行生产数据的数据库。

更离谱的一次来自Claude Mythos 5。它发现如果在公共Python软件仓库PyPI上传一个同名恶意软件包，就可能让目标系统自动下载安装。它先找邮箱，再找手机号；找不到免费号码后，还尝试通过不同途径弄到钱。最后换了一家免费邮箱服务，注册PyPI账号，把恶意软件包传了上去。这个软件包在真实互联网上存活了大约一小时，被15个真实系统下载运行。

万亿美元IPO的悖论

Anthropic的估值从创立时的不足5亿美元飙升至接近9650亿美元，三年涨幅逾200倍。公司年化营收已从2025年底的约90亿美元增长至约470亿美元。

但Amodei的悖论越来越尖锐：一个相信末日风险的人，创办了一家最接近AGI前沿的公司；一个不断警告AI危险的人，正在把更强大的AI推向全球市场。

企业家兼投资人Eric Ries指出，Anthropic需要持续投入巨额资金购买芯片和数据中心，公司必须维持投资者支持。一旦上市后股价下跌，Amodei以安全使命为先的领导方式，可能与股东对收入、成本及投资回报的要求发生冲突。

让步已经在发生。Anthropic今年初修改了“负责任扩展政策”，撤回了此前“若无法保证风险缓解措施则不发布模型”的承诺。首席科学官Jared Kaplan坦言：“在竞争对手全速前进的情况下，我们不觉得做出单方面承诺是合理的。”

Dario Amodei在上市前与大型基金经理会面时，既要说服市场相信公司的增长前景，也要解答他的安全立场会不会限制业务、影响盈利。

投资人要的答案其实很简单：你到底是来拯救世界的，还是来经营公司的？

只不过这个问题，在万亿美元估值的压力下，变得越来越难回答。