中国科技巨头字节跳动旗下人工智能（AI）研发团队Seed宣布，将成立独立的模型安全与对齐部门，重点提升AI代理的安全能力，并防范先进模型可能带来的化学、生物、放射及核等领域的风险。

综合《科技日报》和环球网星期二（10月13日）报道，Seed近日通过内部邮件宣布，将成立名为“Seed Model-Alignment & Preparedness”的部门，由严林负责，直接向Seed负责人吴永辉汇报。

原有的负责任人工智能（Responsible AI）团队，以及部分聊天模型（Chat）团队成员，将转入新部门。

据报道，新部门旨在加强AI模型安全与对齐领域的投入。所谓“对齐”，是指让模型的行为与人类意图和安全约束保持一致。

除了提升代理模型的安全能力，新部门也将着重防范先进AI模型可能在化学、生物、放射及核（CBRN）等领域带来的潜在风险。

未来，新部门将围绕模型行为规范制定、安全评估体系建设、对齐训练、防护系统搭建及风险监控等领域持续投入，同时加强与外部研究机构及第三方评测机构的合作，使前沿模型在安全与授权约束内有效完成任务。

报道称，中国大模型研发团队过去大多将安全与对齐工作纳入企业整体安全合规体系。据报道，Seed是中国首家单独设立相关部门的前沿AI实验室。

Seed团队内部认为，随着AI模型能力和自主性增强，应用场景越来越复杂，安全与对齐已不只是风险防范，而是决定模型能否规模化应用的核心能力。

近年来，随着AI代理逐渐具备自主规划和执行任务的能力，如何防范模型被滥用、突破安全限制或执行未经授权的操作，已成为AI行业面临的挑战。