OpenAIはMETRに最大規模の強化学習トレーニングをレビューするよう委託しました。
Nov 17, 2026 00:26:34
OpenAI は AI セキュリティ評価機関 METR に委託し、これまでで最大規模の強化学習トレーニングの実行に対する安全審査を実施しました。この審査は単一の実行に対する試点評価に属し、METR はモデルのスナップショットおよびトレーニングプロセス中の内部記録を取得します。
The Defiant の報道によれば、双方はより広範な監視評価について合意に達しておらず、関連評価の範囲はまだ合意されていません。METR は以前 ARC Evals として知られ、長年にわたり最前線の AI ラボに展開前の独立評価を提供しており、以前には OpenAI 内部の失調監視システムに対してレッドチームテストを実施したことがあります。