字节跳动Seed单拆安全对齐部门，严林挂帅专防智能体越界与CBRN风险

字节跳动Seed单拆安全对齐部门，严林挂帅专防智能体越界与CBRN风险

AIbase基地

字节跳动Seed团队近日发出内部邮件，宣布成立一个名为Seed Model-Alignment&Preparedness的新部门，由原Responsible AI团队和部分Chat团队成员转入，由严林负责，直接向Seed负责人吴永辉汇报。把安全与对齐单独拎出来成立一级部门，意味着这家公司在模型安全方向上的投入被提到了一个新量级。

对齐这个词的内核很直白:让模型的行为始终贴着人类意图和安全约束走，别跑偏、别自作主张。新部门要啃的两块硬骨头也很清楚——一是提升Agent Model也就是智能体模型的安全能力，二是防范CBRN这类前沿能力风险。CBRN指的是化学、生物、放射与核，都是一旦被模型不当释放就可能造成严重后果的能力域。换句话说，当字节的智能体开始自己动手干复杂任务，它要先在笼子里被驯服，再被放出去干活。

本文来自AIbase日报

欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。