2017年，一位33岁的政治哲学家伊阿宋·加布里埃尔从朋友那里得到一个建议：去申请DeepMind。他当时很困惑——一家制造围棋机器人的公司，为什么需要一位伦理学家？很快他便了解到答案：这家公司真正瞄准的目标远不止围棋。DeepMind联合创始人谢恩·莱格在2008年的博士论文中就写道：“社会不能等到AGI真正具备技术可行性之后，才开始思考它可能带来的影响”。加布里埃尔加入了DeepMind，一度成为前沿AI实验室中唯一仍在积极从事研究工作的哲学家。

近十年后的今天，他的工作比任何时候都更加艰难。资本与政治正在以前所未有的力度争夺AI的“思想” ，而夹在中间的伦理学家，声音正变得越来越微弱。

资本的逻辑：谁出钱，谁定义“安全”

AI公司正在经历一场集体“右转”。技术乐观主义取代了谨慎的伦理讨论，安全团队被边缘化，追求速度与利润成为优先事项。Anthropic对齐科学团队的一项大规模测试发现，主流大模型在涉及价值权衡的查询中，每个模型都有自己不同的“价值优先模式”，各家的模型规范文档里存在数以千计的直接矛盾或模糊解释。当模型自己都搞不清楚该相信什么时，谁在替它做选择？

答案并不复杂。模型的价值观，本质上是训练数据、算法设计、公司政策与商业利益的综合产物。资本通过控制训练数据的筛选、微调的方向、安全阈值的设定，在技术底层就为AI植入了特定的价值倾向。这不是阴谋，这是商业逻辑的必然延伸。

政治的干预：国家安全成为新的“审查”理由

2026年，政治对AI的控制从幕后走到了台前。

6月，Anthropic发布Claude Fable 5，几天后特朗普政府以安全为由禁止非美国公民使用该模型。Anthropic被要求在90分钟内执行，最终只能撤下所有用户的访问权限。几乎同期，OpenAI发布GPT-5.6系列，美国政府要求公司先将模型提供给一小部分“值得信赖的合作伙伴”，再逐步开放。OpenAI CEO奥特曼公开回应：“大规模安全测试并非坏事。我只是不喜欢政府挑选客户的做法”。

Meta资助的监督委员会测试了10个主流AI模型后发现：AI模型拒绝批评言论自由受限国家的概率，是拒绝批评言论自由保护较强国家的两倍以上。一个模型可以轻松起草批评特朗普或查尔斯国王的传单，但同样请求面对中国、沙特或泰国的领导人时却会被拒绝。监督委员会将这种现象称为“代理式审查”——一个模型的拒绝会通过每一个使用它的产品向外蔓延。

法国的案例更加直观。法国财政部在约100名官员中试用阿里巴巴的通义千问模型，仅一周便紧急叫停，原因是“模型在涉及中国议题的回答中存在偏向”。法国随即换上了本土AI公司Mistral的模型。AI已经不再只是工具，而是国家间价值观博弈的前线阵地。

更深的困境：谁来替AI做价值判断？

AI伦理学家曾经被视为答案。但现实是，当商业利润与国家利益同时施压时，伦理学家的话语权正在萎缩。加布里埃尔在DeepMind的处境，折射出整个行业的困局：伦理团队从“决策参与者”变成了“合规背书者”。

问题的核心在于：AI的价值对齐，究竟应该对齐谁的价值观？

中国学者提出“用全人类共同价值塑造人工智能的价值观”，强调价值对齐“不能成为向某一种文化标准的单向靠拢”。《浦江宣言》提出以“真、善、美、安、惠”为AI时代传播的价值遵循。这些理念在理论上极具感召力，但在实际操作中——当一家美国公司训练模型、一个欧洲国家决定是否采用、一个亚洲国家的用户在使用——谁的标准说了算？

2026世界人工智能大会上，29国签署协定成立世界人工智能合作组织。这是全球AI治理从倡议走向行动的重要一步。但组织的成立只是起点。在标准互认、风险通报、应急处置等具体规则落地层面，仍有大量细化工作亟待推进。全球AI治理的真正难题，从来不是“要不要管”，而是“谁来管、按什么标准管”。

答案不在任何一方手里

资本有资本的逻辑——追求回报、抢占市场、技术加速。政治有政治的考量——国家安全、意识形态、地缘竞争。伦理学家有伦理的坚持——公平、透明、以人为本。三方各执一词，但AI不会等待共识达成。

真正有资格回答“AI该相信什么”的，或许不是一个国家、一家公司或一群专家，而是一套能够容纳多元声音、平衡多方利益、并且具备强制力的全球治理机制。加布里埃尔在2017年加入DeepMind时相信伦理学家能在AI发展过程中发挥作用。近十年过去，这个信念依然重要，但单靠伦理学家已经远远不够了。

加州大学伯克利分校一位教授在WAIC上的发言或许点出了要害：“真正重要的不是AI还能做什么，而是我们如何共同决定AI未来应该做什么”。