摘要：Anthropic 近期升级账号治理与 AI 安全规则，半年内封禁约 1140 万个违规账号，而成功申诉翻盘的仅约 4.2 万条。公司同时拟立规矩，明确禁止用户以反复伤害、羞辱或操纵等方式 “虐待 AI”，引发行业对 AI 伦理边界与平台治理的讨论。
近日，Anthropic 针对 Clauce 平台违规账号与 AI 安全边界持续加码治理。据披露，过去半年间，Anthropic 已封禁约 1140 万个违规账号，账号处理规模显著上升，反映出平台在滥用检测、异常行为识别与风险防控方面的强度提升。但与此同时，在大量被封账号中，成功通过申诉 “翻盘” 的仅约 4.2 万条，申诉成功率相对较低，也引发外界对账号封停标准、透明度与用户救济机制的讨论。
Anthropic 此举主要围绕滥用行为、违规调用、欺诈操作及破坏平台生态等问题展开。随着 Claude 类 AI 工具在企业与个人场景中广泛使用，账号滥用、批量调用、违规内容生成及恶意测试等风险同步上升。平台需要通过账号封禁维护服务稳定性，也需要保护模型免受持续干扰。但从结果看，海量封停与低申诉率并存，说明 Anthropic 在强化治理的同时，仍需平衡效率、准确性与用户权益。
更值得关注的是，Anthropic 正进一步明确 AI 使用边界，拟立规矩禁止 “虐待 AI”。所谓 “虐待 AI”，并非传统意义上的人身伤害，而是指用户通过反复羞辱、伤害、操纵、诱导或恶意测试等方式，对 AI 模型进行持续性心理伤害类干预。这类行为不仅可能破坏模型输出稳定性，也在推动行业重新思考人机交互中的伦理底线。
从技术治理角度看，禁止 “虐待 AI” 本质上是 AI 安全与模型行为规范的延伸。Anthropic 试图通过规则建设，将抽象的 AI 伦理转化为可执行的平台政策。但问题也随之而来：如何界定 “虐待”？如何区分恶意测试与正常边界探索？如何在保护模型的同时，避免限制合理的安全研究与产品测试？这些问题将直接影响新规的执行边界与行业接受度。
长期来看，Anthropic 的账号治理与 AI 伦理规则，可能成为大模型平台治理的重要参考。对企业用户而言，这意味着 API 调用、账号使用与 Prompt 行为将面临更严格约束；对普通用户而言，人机交互将从 “越界试探” 逐步转向更明确的规则体系。AI 不再只是工具，其使用方式也正在被重新定义。
