AIエージェントはユーザーの指示に基づき自ら計画を立て、複数のツールを活用してタスクを完遂する技術として注目されていますが、AINOWによるとその運用には8つの重大な問題点が指摘されています。

具体的には、ハルシネーションによる誤情報生成、情報漏洩やセキュリティリスク、制御不能な挙動、ガバナンスの不備、運用コスト増加、人材不足、マルチエージェント特有のトークン消費の無限ループ、そして著作権侵害などの倫理・法的リスクが挙げられています。

実例としてカナダの航空会社Air Canadaのチャットボットが誤った弔慰料金の遡及適用案内を行い、裁判で過失による不実表示が認定され補償支払いを命じられた事例も報告されています。日本市場においてもAI活用の拡大に伴い、これらのリスク管理が重要視されるでしょう。