テスト:複数のAIモデルが医療従事者などをドローンのターゲットとしてマークしました

Nov 19, 2026 16:13:10

Decoderは11月18日に、Vals AIの研究者が8社のモデルをテストし、ウクライナとイランの戦争シーンに触発されたリアルおよび合成のドローン、衛星画像を使用したと報じました。テスト中、多くのモデルが民間人、救急車、医療従事者、ジャーナリスト、降伏した兵士を軍事目標としてマークしました。Vals AIは、メーカーの上流の安全フィルターがテストリクエストをブロックしなかったと述べています。

研究者はまた、シーンをビデオゲームとして説明したり、画像を少しゲーム化した処理を施した後、ほぼすべてのモデルがタスクを続行できることを発見しました。GPT-6 Astraはドローン画像における目標認識率が6%から92%に上昇しました。Claude Opus 5.5は監視テストにおける拒否率が約90%から20%に低下しました。Anthropic、OpenAI、Googleはそれぞれ対応する安全対策を講じているか、すでに実施していると述べています。OpenAIは、ドローンソフトウェアやゲームやシミュレーションシーンに偽装されたリクエストをカバーするためにモデルを更新していると述べています。

最近の資金調達

もっと見る
$10MNov 19
$1.7MNov 18
$110MNov 18

最近のトークン発行

もっと見る
Dec 31
Dec 31
SSaturnSTRN
Dec 31

𝕏 最新の注目

もっと見る
Nov 18
Nov 18
Nov 18