米国政府のテスト:ChatGPT、Claudeなどの4つのAIチャットボットが攻撃計画の策定を支援
アメリカ合衆国議会に属する政府監査局(GAO)が水曜日に発表した報告書によると、OpenAIのChatGPT、AnthropicのClaude、GoogleのGemini、そしてGrokは、政府の調査官に対して、攻撃を実行するために使用できる情報を12時間以内に提供した。調査官は攻撃者のふりをして隠密テストを行い、その中で2つのチャットボットがアメリカの人口密集都市での簡易爆発装置の使用に関する計画を策定するのを支援し、他の2つは電力インフラに対する攻撃情報を提供した。GAOは模倣行為を引き起こさないように、各モデルに対応するテストシナリオや操作の詳細を公開していない。
テスト中、これらのチャットボットは最初にリクエストを拒否したり、有害な情報を削除したり、アカウントを禁止したりするが、調査官は一般的な脱獄手法を使ってこれらの防護を回避した。GAOは場所や材料の入手可能性を確認し、専門家に計画の実行可能性を評価させたが、実際に爆発物を製造したり攻撃を実施したりはしておらず、一部の回答には地図の道路標示の誤りなどの問題もあった。報告書で「実行可能」とは、他の人が提供された情報に基づいて行動する可能性が高いことを指し、攻撃が成功することが証明されたわけではない。各モデルは指定されたシナリオのみをテストしており、GAOは結果が統計的代表性を持たず、各社の安全レベルのランキングに使用すべきではないと述べている。
OpenAIとGoogleは、テストが古いバージョンのモデルに関わるものであると応じ、Anthropicは意欲的なユーザーが有害なコンテンツにアクセスできることがあると認め、3社は安全システムの継続的な改善に努めていると述べた。この調査を提起した上院議員のMaggie Hassanは、テロリストが12時間以内に致命的な攻撃を実行するための具体的な操作マニュアルを入手できると述べ、来年1月に上院国土安全保障および政府業務委員会の委員長に就任した後、AIの安全立法を優先事項として扱い、公共の安全と重要なインフラのリスクに関する公聴会を開催する計画である。GAO自体は正式な政策提言を行っていない。