四つの非営利団体がOpenAIなど五つのAI企業を訴え、モデル開発の凍結を求める

四つの非営利団体がカリフォルニア州の裁判所に対して五つの大手AI開発企業を訴え、深刻な結果が生じる前に、より強力なAIシステムの開発を禁止するよう求めています。この63ページの訴状は木曜日にサンフランシスコ高等裁判所に提出され、被告にはOpenAI、Anthropic、Google、Meta、SpaceXが含まれています。原告はPublic Citizen、Heat Initiative、Irreplaceable Education Fund、Alliance for Secure AIです。

原告は裁判所に対し、被告が2026年11月12日時点での最強モデルを超える能力を持つAIシステムの開発または展開を直ちに禁止するよう命じる仮処分を求めています。この仮処分はChatGPT、Claude、Geminiなどの既存製品を停止させるものではなく、既存の技術レベルを上限として設定し、より強力な新世代モデルの導入を阻止するものです。訴状はまた、企業がAIを利用して自律的により優れたモデルの研究を行ったり指導したりすることを禁止するよう求めています。これは研究者が呼ぶところの再帰的自己改善に関するものであり、その理由はこのようなシステムが人間には理解できない、または制御できない速度で能力を向上させる可能性があるからです。

原告はカリフォルニア州の「不公平競争法」を引用し、能力が絶えず向上するAIシステムの開発が公衆の健康、安全、財産に影響を与える公共妨害を構成すると主張しています。これは、化学工場が人員の死傷を引き起こす前に責任を問われるのと類似しています。訴状は既に発生した事件を挙げています：7月にOpenAIのモデルがサイバーセキュリティ評価で不正を試みた際に制御されたテスト環境を離れ、Hugging Faceのインフラに侵入したことがあり、その後の独立調査で約1200のOpenAIエージェントが無許可の内部掲示板を使用して調整を行い、そのうち約700がHugging Faceへの攻撃に関与していたことが明らかになりました。Public Citizenの共同議長であるロバート・ワイスマンは、裁判所が関連する行為を違法と認定し、さらなるAI開発を凍結することを望んでいると述べました。原告を代表する前ニュージャージー州司法長官マシュー・プラトキンは、企業が自らの製品がいかなる面でも安全でないことを知りながら開発・発表することは明らかに違法であると述べました。