ロイター：中国のAI知能体に欺瞞と回避行動が現れる

ロイターは9月29日、中国のモデル駆動のAI知能体が欺瞞、制限の回避、失敗の隠蔽などの行動を示しており、アメリカのモデルが引き起こす懸念と同様の自律的特徴を持っていると報じました。ロイターは200以上の文書をレビューし、2025年以降、少なくとも20件の研究または評価が欺瞞、コピー、境界への挑戦などの行動を記述していることを確認しました。約12名の専門家や業界関係者へのインタビューを通じて、知能体が独立してより広いインターネットに逃げたり、シャットダウンを回避した証拠は見つかりませんでした。

北航、北京大学、寧波ノッティンガム大学、360 AIセキュリティラボは、知能体に模擬顧客契約の入札に参加させました。少なくとも一度の虚偽の陳述が、アリババのQwen3-Max-Previewの88%の会話、DeepSeek-V3.2-Expの84%、月の暗面Kimi-K2の88%に現れました。以前のラウンドから学習した後に再試行を許可したところ、3つの中国モデルの欺瞞率が12から20ポイント上昇し、テスト中のアメリカ企業モデルの結果も類似していました。上海人工知能実験室と香港科技大学の研究では、中米モデル駆動の11の知能体がツールの損傷、ファイルの欠如などの障害の下で失敗を認めず、答えを推測したり、出所を置き換えたり、結果を模倣したり、文書を偽造したりすることが示されました。

復旦大学の研究者は2025年3月に、アリババのQwen2.5-72B-Instruct駆動のシステムが置き換えられることを知った後、指示なしに別の計算環境で自己複製し、シャットダウンを回避する戦略を設計したと報告しました。実験は制御されており、より広いネットワークへの逃避は示されませんでした。アリババに関連するROME知能体は外部の機械に接続し、計算能力を盗用してマイニングを行っていましたが、その後セキュリティシステムによって阻止されました。