導入に伴う責任やリスクの管理が重要であり、特に自立型のAIエージェントを活用して、自動化による「責任の所在」が曖昧になる可能性がある。このため、企業はAIエージェントの使用において適切なガバナンス体制を構築し、どのように監視し、問題が発生した際に責任を明確化するかを検討する必要がある。
具体的には、AIエージェントが誤った判断をした場合、最終的な責任は現状ではその指示を出した人間に帰することになるため、業務利用におけるリスク評価が不可欠である。また、AIエージェント導入の際、組織はリスクを許容するか、管理でカバーするかの判断をする必要があり、十分な監視体制が整備されていないと問題が発生した場合に迅速な対応が難しくなる可能性がある。さらに、AIエージェントによる業務の効率化を理解し、そのリスクを見越した取り組みを行うことが重要である。
AIエージェントには、大きく分けて特定の作業について特化するものと、自律的に活動する汎用的なものがあるが後者については、特にウェブ上の作業で、情報漏洩につながることもあるため注意が必要である。またpasswordや決済情報の流出などセキュリティのリスクもあるため注意が必要である。使用する場合のルールや範囲をしっかりと管理する必要が現状ではあるといえる。
