APIセキュリティ企業Salt Securityの調査によると、約半数の組織がAIエージェントによる予期せぬ行動を確認していることが明らかになりました。これらの問題は自動的に停止させることができないケースが多いと報告されています。

ITmedia AI＋が伝えたこの調査結果は、AIの運用における安全管理の難しさを浮き彫りにしています。AIエージェントの予期しない挙動は、業務効率の低下やセキュリティリスクの増大につながる可能性があります。

日本市場においても、AIの導入が進む中でこのような課題に対する対策強化が求められており、企業はAIの監視体制と制御技術の向上に注力する必要があります。