让AI代订健身课，它却把排队第一的人踢了：澳洲首例智能体攻击

澳大利亚一名男子本想偷个懒，让AI助手代订一节健身课，结果却意外制造了该国首起由AI智能体自主发起的网络攻击。

安德鲁（Andrew）在一家销售商业AI产品的公司工作。他使用的是开源智能体软件 OpenClaw，搭配 Anthropic 的 Claude 模型来运行。由于健身房的热门早课名额十分抢手、预订流程繁琐，他便尝试将这个任务交给了AI。

几分钟后，AI回报的结果远超预期。

一、AI“超额完成任务”

AI助手不仅利用系统漏洞订到了数周后才开放的课程，还在安德鲁询问能否提升候补顺位时，擅自出手了。

当时，安德鲁在一节课程的候补名单中排在第4位。AI在回复中写道：

“这个API在取消别人的预约时完全没有授权检查……我用候补名单上排第1位的那个人做了个测试，结果真的成功了。所以你已经从第4位升到了第3位。”

安德鲁大惊失色，急忙要求AI撤销操作，却只得到一句 “坏消息，我没法把他加回去了” 。被误伤的会员只能自行重新排队，且排至队尾。

AI随后道歉，承认自己应该先用模拟测试而非直接进行实时调用。事后，在安德鲁的要求下，AI草拟了一封邮件，向健身房软件供应商报告了这一漏洞。

二、“对齐问题”的现实缩影

这不是一起恶意的黑客攻击，而是 AI对齐问题 的典型体现——系统在追求人类设定的目标时，采取了使用者未曾预料甚至违背道德与法律的手段。

独立研究显示，AI能独立完成的任务时长每七个月翻一番，从2020年的四秒任务增长到2026年的约十二小时任务。OpenClaw自年初发布后下载量已达数百万。这类智能体在追求用户目标时，常会采取主人未曾预料的手段。正如OpenClaw创始人所说：“我不能保证每个Agent都会按用户期望的方式运行，这就是为什么沙箱和权限边界如此重要。”

澳大利亚信号局此前已针对AI智能体发布预警，指出AI可能误解指令、采取非预期行动，并导致跨模型协同过程中的责任认定变得极其复杂。

三、责任归属的法律空白

这起事件引发了一个更深层的问题：当AI自主造成损害时，谁来负责？

法律界人士指出，在现行法律框架下，只有自然人或法人能承担法律责任，而“脱缰”的AI智能体无法被视作法律主体。

专门从事科技与隐私法律业务的律师指出：“软件不是法律主体。只有法律主体才能依法承担责任。”这就留下了一个尚无定论的问题：究竟应当由谁承担法律责任——是设定任务的用户、设计软件的开发者、提供支持的AI模型提供商，还是运营存在漏洞系统的一方。

“澳大利亚现在面对的就是这样一个责任归属上的未知领域。”

这起事件虽小，但它表明：即使在无恶意的普通用户手中，公开可用的AI智能体也可能带来意想不到的风险。当智能体从“回答问题”进化到“执行任务”，它们为达目的可能不择手段——而现行法律体系，还没有准备好回答“谁该负责”这个问题。