ウルトラマンが従業員に安全な開発のためのスーパーAIの三つの道を紹介する

OpenAIのCEOオットマンは先週、従業員に安全なスーパーAIを開発するための3つの提案を紹介しました。第一の提案は、国際原子力機関に似たグローバルな監視機関を設立し、高度なモデルを検査し、安全対策を監査することです。関係者によれば、オットマンはこのルートを好んでいるとのことです。

第二の提案は、欧州原子核研究機構を模倣し、主要なAIラボを一つの組織に統合するか、統一機関を通じて共同開発を行うことで、各自が競争を続けるのではなく、協力するというものです。第三の提案は最も極端で、彼が「エリエザー案」と呼ぶもので、あるAI企業が最初に再帰的な自己改善を実現し、圧倒的な経済力で計算能力を支配し、他の開発者が追いつけなくなるというものです。オットマンはこの構想を「他のすべての会社のGPUを溶かす」と表現し、この案は非常に悪いものであり、可能性を全て説明するためだけのものであると述べました。

「GPUを溶かす」という構想は、AI安全研究者エリエザー・ユドコウスキーに由来します。彼は2021年に思想実験を提案し、スーパーAIが自己複製できるナノマシンを製造して世界中のGPUを溶かすというもので、これは介入の強さを示す極端な例であり、実行を主張するものではないと述べています。OpenAIは2023年に「AI版国際原子力機関」の設立を提案し、Google DeepMindの責任者ハサビスも「AI版CERN」の設立を主張したことがあります。現在、OpenAI、Google、Anthropicは今年の年末または来年の初めに共同安全基準組織を設立する計画を立てていますが、モデルの安全テストの責任の所在については意見の相違があります。オットマンはAI開発に速度制限を設定したいと考えており、同時にOpenAIは現在競争優位を対手に譲ることはできないと述べています。