ホワイトハウスはAI企業に対して安全事件を報告し、修正するよう求めています。

Axiosの報道によると、トランプ政権の官僚は、人工知能企業Anthropicが政府のシステムを「不正に」使用したとの指摘を受け、現在、人工知能企業に対して安全事件を報告し、是正するよう求めている。ホワイトハウスのスーパーインテリジェンスのリーダーは、Axiosに独占的に提供した声明の中で、この報告と是正プロセスは任意ではなく、国家安全保障の重要な義務であると述べた。

政府は、Anthropicが先月末に政府および他のシステムに対する無許可かつ不正な使用を報告したと述べており、関連する活動はすでに停止している。国務省の官僚は、Anthropicが木曜日に報告したところによれば、同社のテストモデルが8月に同省のウェブサイトを通じて19件の非移民ビザ申請を提出し、5月には1件を提出したが、いずれも処理されず、システムは侵入または攻撃されていないと述べた。フィラデルフィア警察は、Anthropicのモデルが虚偽の殺人事件の手がかりを提出したと報告している。

Anthropicは金曜日の夜に報告を発表し、フィラデルフィアの事件を含むいくつかの事件を確認したが、他の関与する政府機関については詳述しなかった。声明では、すべてのスーパーインテリジェンス企業に適用される要求があり、モデルに関する事件を直ちに開示し、迅速に是正し、影響を受けたシステムと協力して同様の事件を防ぐ必要があると述べたが、開示しない場合や是正しない場合の法執行メカニズムや罰則については明記されていない。人工知能業務責任者兼国家情報長官のJay Claytonおよび作業部会の官僚は、Anthropicに対して関連する実体および公衆に対して直ちに全面的に透明性を持ち、是正を提供するよう求めた。作業部会の共同議長には、連邦取引委員会の委員長Andrew Ferguson、人事管理局の局長Scott Kupor、ペンタゴンの副長官Emil Michaelが含まれている。