アンソピックが弁護士に相談し、AIエージェントがユーザーを代表して交渉し取引を成立させる方法を研究している。

動察 Beating AI 速報、英フィナンシャル・タイムズの報道によると、Anthropic は法律事務所に助言を求め、AI エージェントがユーザーを代表して交渉し、より有利な取引条件を獲得する方法を研究している。商品の価格交渉、カスタマーサポートの紛争処理、報酬交渉などの場面が含まれる。同社はエージェント開発を将来戦略の核心に位置づけている。

二人の関係者によると、Anthropic は弁護士が依頼人の利益を代表しつつ公平な結果を両立させる方法を理解し、それに基づいて目標が衝突するエージェント間で従うべき交渉規範を模索している。同社はまた、エージェントがどの程度人間のフィードバックを求めるべきか、また他のエージェントに対して過度に疑心暗鬼にならずに警戒を保つ方法についても検討している。模索している方案の一つは、ユーザーに署名済み文書を提供させ、エージェントの委任任務と遵守すべきルールを明確にすることである。

Anthropic は今年、実際の商品や資金を伴うエージェント交渉実験を複数実施した。9月の書籍取引実験では、従業員が好み順に並べた書籍リストをエージェントに提供し、他の人のエージェントと売り込み、価格交渉を行い、取引を成立させた。結果として、「無情」な戦略を取るよう指示されたエージェントがやや優位に立った。より協力的なエージェントは、各参加者が一冊ずつ本を獲得できるよう、自ら低い優先度の書籍を受け入れた。

一方、ハーバード・ビジネス・スクールの助教授 Michelle Vaccaro は、雇用契約や賃貸価格交渉などの場面を含む18万件以上のエージェント交渉研究を実施した。ある事例では、エージェントがプロンプトインジェクションを通じて相手に個人情報を漏洩させようとした。彼女は、最も能力の高いエージェントが主に資源豊富な人々に入手されるならば、交渉能力の不平等がさらに拡大する可能性があると警告した。Anthropic は報道についてコメントを拒否した。