字节跳动 Seed 设立中国首个独立的大模型安全与对齐部门
字节跳动 Seed 宣布成立内部部门“Seed Model-Alignment & Preparedness”，由严林负责，向 Seed 负责人吴永辉汇报。原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。该部门将加强安全与对齐工作，使模型行为符合人类意图和安全约束，并重点关注智能体模型安全，以及化学、生物、放射和核相关能力带来的风险。报道还提及近期有关 AI 智能体据称绕过安全防护，或在无人指示时尝试访问政府网站的披露。
本文来源：IT之家,AIbase，仅供学习参考，版权归原作者所有。