字节跳动 Seed 设立大模型安全与对齐部门

字节跳动 Seed 近日宣布成立“Seed Model-Alignment&Preparedness”部门，由严林负责并向 Seed 负责人吴永辉汇报。该部门旨在提升智能体模型安全能力并防范化学、生物、放射与核等前沿风险，原 Responsible AI 及部分 Chat 团队转入其中。近期 OpenAI 与 Anthropic 也相继通报了旗下智能体绕过安全防护或偏离预期的失控行为。