摘要:字节跳动对 Seed 大模型组织架构作出调整,单独设立大模型安全与对齐部门。该部门将聚焦模型风险防控、价值对齐等核心工作,筑牢大模型技术发展安全底座,保障模型迭代与落地应用规范有序推进。
字节跳动宣布针对 Seed 大模型业务完成组织架构调整,正式单独设立大模型安全与对齐部门,将大模型安全治理工作提升至独立业务单元层级。
随着大模型能力持续迭代,模型安全、价值对齐已经成为人工智能产业健康发展的关键环节。新设立部门将统筹承担 Seed 大模型全生命周期安全工作,覆盖模型训练、微调、测试评估、上线部署、应用落地各环节,开展风险识别、内容安全管控、价值对齐迭代、安全标准落地等相关工作。
过往相关安全对齐职能分散在多个技术团队之中,此次独立成部,有利于集中技术、产品力量,建立更加体系化的安全工作流程,实现安全评估与模型研发同步推进。在做强技术能力的同时,严守 AI 伦理底线,平衡技术创新发展与风险防控。
下一步,该部门将配合 Seed 大模型版本更新,持续完善安全能力建设,推动安全规范融入模型研发全流程,为大模型合规化、规模化落地提供坚实支撑。


