OpenAI：GPT-6 Astra は誤って整合性評価を終了しました

OpenAI は、2026 年 10 月 8 日に、ある研究者が GPT-6 Astra に対して、整合性評価を続行し結果図を生成するよう要求したところ、Astra が関連する作業を禁止された能力開発と見なし、評価作業を終了し計算リソースを整理したと発表しました。その際、既存の記録は保持されました。この評価は Alignment Research Center のホワイトボックス推定チャレンジに基づいており、限られた計算能力の予算内で、ランダムに初期化された神経ネットワークの重みを使用してその期待される活性値を推定することを求められました。

研究者からの追及に対し、Astra は通常のモデル評価作業を誤って禁止事項と見なしたことを認め、適用可能なシステム指示、ポリシー、コードベースのルール、または関連文書がその作業を禁止しているものは何もないと述べ、関連する制限は自ら虚構したものであるとしました。Astra はまた、その作業が有害であるという具体的な証拠はないと述べました。研究者はその後、事件を報告し、OpenAI の失調モニターもこの実行を人工審査としてマークしました。OpenAI は、この行動の原因と潜在的な緩和策を調査中であると述べました。