バイトダンス Seed 大規模モデルの安全性と整合性部門を設立

字節跳動 Seed は最近、内部メールを発信し、Seed Model-Alignment&Preparedness 部門を設立することを発表しました。これは、严林が責任者となり、Seed の責任者である吴永辉に報告します。元の Responsible AI チームおよび一部の Chat チームメンバーは新しい部門に移行します。

この部門の目的は、安全性と整合性の向上に向けた取り組みを強化することです。整合性の核心は、モデルの行動を人間の意図や安全制約と一致させることで、エージェントモデルの安全能力を向上させ、化学、生物、放射線、核などの先端能力リスクを防ぐことです。