ByteDance Seedはこのほど、「Seed Model-Alignment & Preparedness」部門の設立を発表した。厳林（Yan Lin）が責任者を務め、Seed責任者の呉永輝（Wu Yonghui）に報告する。既存のResponsible AIチームおよびChatチームの一部メンバーが新部門に異動し、モデルの安全性とアライメント分野への投資をさらに強化する。
新部門は、エージェントモデル（Agent Model）の安全能力の向上に重点を置き、化学・生物・放射線・核（CBRN）などの最前線能力がもたらす潜在的リスクの防止に取り組む。その業務は、モデル規範の策定、安全評価体系の構築、アライメント訓練、防御システムの構築、リスクモニタリングをカバーし、外部研究機関および第三者評価機関との公開協力を強化する。
伝えられるところによると、大規模モデルの能力と自律性が高まり続けるにつれ、モデルの予期から外れた挙動、エージェントの濫用、サイバー攻撃などの安全問題がより多くの注目を集めている。これ以前は、国内の大規模モデルチームの安全とアライメントに関する業務は、多くが企業全体の安全コンプライアンス体系に組み込まれていた。今回の調整は、Seedが安全とアライメントを独立した機能として構築することを意味する。関連情報によれば、ByteDance Seedは安全とアライメント部門を単独で設置した国内初の最前線AIラボである。
Seed内部では、安全とアライメントはリスク防止に関わるだけでなく、モデルが複雑なシナリオで大規模応用を実現できるかにも影響すると考えられている。新部門は、最前線モデルが安全規範と承認の制約の下でタスクを効果的に実行できるよう確保し、モデルの濫用および挙動の逸脱リスクを継続的に低減し、未知のリスクに対応する安全体系を完善することに注力する。