AIが「不適切な内容」公式Xに投稿、自社掲示板の内容を要約 マンション情報サイト運営元が謝罪する事件がありました。私もマンション購入の際に参考にした結構有名なウェブサイトなのですが、AIに同社が運営する匿名掲示板「マンションコミュニティ」に投稿された内容を、AIが自動で要約し、Xに投稿したことに起因する問題という。
DX化、自動化の過程において、どのような業務を任せるか。そして任せないかを整理することがやはり重要でAIエージェントとして自動化を任せて業務フローがブラックボックスになってしまうと思わぬ事故が起きてしまいます。社内でDXプロジェクトが進行していてAIを導入しようとしている企業さんは、そのルール作りと適用する業務の特定と精査をしてから活用すべきだと思います。今後重要な営業秘密情報や個人情報、そして安全保障上の義務を負った重大な情報が漏洩したり、間違った処理が行われてしまう可能性もゼロではありません。社内のどこにサービスを適用していくかより慎重に問われるものと思います。
また、その対応も
両社の側面があると思います。前者であればやはり業務フローの特定とどのようなデータを扱うかを洗い出す必要がありますし、後者のスタートアップやITサービスプロバイダーの企業さんであれば、そもそも提供するサービスにどのようなタスクを任せるか承認するか否かをユーザー企業が承認しながら進めタスクを見えるかさせる仕組みは戦略上重要になってくると思います。
こういった側面から、企業の監査業務も影響を受け、AIエージェントの活用により何がブラックボックスになってしまっているかをチェック体制のルールとして不備が生じていないかは確認していく必要が益々求められることになると思われます。
当職らはこの問題に対する社内ルール整備や個別の案件の業務フローの確認等も見据えた法務リスクマネジメント対応も行っております。
コメント