摘要：微软 CEO 纳德拉近日公开发声，呼吁为先进 AI 模型设立人类可控的 “紧急制动” 机制，以降低失控风险，强化 AI 安全治理。相关表态引发全球科技行业对人工智能安全、可控性与监管框架的讨论，也为 AI 模型安全发展提供了重要方向。
微软 CEO 纳德拉近期公开发声，呼吁为先进 AI 模型建立人类可控的 “紧急制动” 机制。这一表态直指当前人工智能快速发展背后的安全风险，也再次将 AI 治理、可控性与责任边界推至行业讨论中心。
纳德拉表示，随着大模型能力持续提升，AI 系统在复杂场景中的自主决策能力不断增强，一旦出现目标偏移、异常输出或安全边界突破，可能带来难以预估的风险。因此，行业需要建立更清晰的安全框架，确保人类始终拥有关键干预权。
“紧急制动” 机制并非简单的停止按钮，而更像是一套覆盖模型训练、部署、监控与响应的安全体系。它要求企业在 AI 设计阶段就嵌入安全意识，在运行阶段建立实时监测，并在风险出现时具备快速降级、暂停或熔断能力。
这一主张与近年来全球 AI 治理趋势高度契合。从欧盟 AI 法案到各国人工智能安全战略，从科技企业的安全承诺到开源社区的风险评估机制，行业正逐步形成 “发展与安全并重” 的共识。纳德拉的发言，进一步强调了先进 AI 模型必须接受人类监督，安全不应成为技术发展的附属品。
同时，该观点也引发业界讨论：如何在创新速度与安全约束之间取得平衡？如何防止 “紧急制动” 机制被滥用？如何建立跨国界、跨企业的统一安全标准？这些问题已成为 AI 治理下一阶段的关键议题。
总体来看，纳德拉的发声不仅代表微软对 AI 安全的重视，也反映出全球科技行业正从 “快速推进 AI 应用” 转向 “更可控、更负责任地推进 AI 应用”。未来，人类可控的安全机制，或将成为先进 AI 模型走向大规模应用的必要前提。
