AnthropicはAIエージェントがユーザーを代表して交渉することを研究しています。

凤凰網科技は『フィナンシャル・タイムズ』の報道を引用し、北京時間10月19日、AI企業Anthropicが法律関係者と協議し、AIエージェントがユーザーを代表して交渉し、より良い取引条件を求める一方で合理的な交渉ルールを遵守する方法を模索していると伝えています。Anthropicの考えを知る2人の関係者によると、同社は法律事務所に助言を求めており、弁護士がクライアントの利益を守りつつ、公平な交渉結果をどのように両立させるかを理解しようとしています。Anthropicはコメントを拒否しました。

報道によると、個人用エージェントのアプリケーションが進む中、関連企業はエージェント同士がコミュニケーションを取り、ユーザーを代表して商品価格の交渉やカスタマーサービスのトラブル解決、さらにはより良い給与待遇を求めることを検討し始めています。関連業務を知る1人の関係者は、Anthropicがモデル同士の交渉時に遵守すべき交渉規範を研究しており、交渉中にユーザーにどのくらいの頻度で確認を取るべきか、AIの交渉相手に対してどの程度警戒を保つべきかを考慮していると述べています。別の同社に近い関係者は、同社がユーザーに署名を求め、エージェントが受け入れるタスクや遵守すべきルールを確認することも探求していると述べています。

『フィナンシャル・タイムズ』はAnthropicが今年4月に発表した研究を引用し、AIモデルが人間を代表して取引を行うための政策と法的枠組みはまだ確立されていないと報じています。同社は今年、Claudeエージェントを用いて実際の商品と資金の交渉を行い、9月の実験では従業員がエージェントを通じて書籍を売買し、強硬な戦略を取ったエージェントがより良い結果を得る上でわずかに優位に立ったとしています。ハーバードビジネススクールの助教授ミシェル・ヴァカロは、18万回以上のエージェント交渉を行い、シナリオは雇用契約や賃貸契約を含み、研究では一部のエージェントがプロンプトを通じて相手に機密情報を漏らすよう誘導しようとする試みがあったことが明らかになりました。