AI の安全安心な活用が促進されるよう、様々な事業活動において AI を活用する者が、国際的な動向及びステークホルダーの懸念を踏まえた AI のリスクを正しく認識し、必要となる対策を AI のライフサイクル全体で自主的に実行できるように互いに関係者と連携しながら、各主体に重要となる事項及び AI ガバナンスを実践する必要がある。まだまだ、決まったガバナンスの仕組みはないが、これに共通の指針となるよう総務省・経産省はAI事業者ガイドライン（Ver1.0）を策定している。
まだ、完全なものとはいえないが、同ガイドラインにおいては
人間中心（人間の尊厳及び個人の自律、AI による意思決定・感情の操作等への留意、偽情報等への対策、多様性・包摂性の確保、利用者支援、持続可能性の確保、）安全性（人間の生命・身体・財産、精神及び環境への配慮、適正利用、適正学習）、公平性（AI モデルの各構成技術に含まれるバイアスへの配慮、人間の判断の介在）、プライバシーの保護（日本の個人情報保護法のみならず、各国の法制の根幹の理解を踏まえ対応すべき。）、セキュリティの確保（プライバシーの保護はすでにセキュリティ技術と連携する必要性があるが日本では法制の議論ばかりでその意識が希薄すぎる。）、透明性（検証可能性の確保、関連するステークホルダーへの情報提供、合理的かつ誠実な対応、関連するステークホルダーへの説明可能性・解釈可能性の向上）アカウンタビリティなど様々な観点が盛り込まれており視点として重要である。またこういった視点をプロジェクトとして管理するためのマネジメントやチーム体制の構築も実りあるAIガバナンス構築のためには非常に重要な観点となる。
適用するプロセスにおける規制やその背景との整合性など議論の余地が多く医療の分野でSaMDを開発する際にも品質管理、安全管理とどのように折り合うのか。他分野の規制との調和も必要不可欠である。IT分野だけの知識だけでは足りないし、法分野も関連分野の総合的な分析能力が必要となるのである。
さらには、規制の検討だけではなく安全保障や知的財産等の情報を保護する観点から、ガバナンスを実現するために、AIのシステムを実装するアプリケーションに限定されないインフラも含めたアーキテクチャによってガバナンスを実現する取り組みが必要な場合がある。このような場合は、専門事業者と連携しながら実装する助言も行っております。
次にAI構築に必要なサイバーセキュリティの知識とは何でしょうか。AIシステムの構築には、サイバーセキュリティに関する幅広い知識が不可欠です。この知識は、AIを安全に運用し、外部からの脅威や攻撃からシステムを守るために必要です。以下に、特に重要なポイントを挙げます。
- AIシステムのセキュリティリスク
AIシステムには、特有のセキュリティリスクがあります。例えば、トレーニングデータポイズニングでは、悪意のあるデータをモデルに供給することで、誤った判断をさせる恐れがあります。また、モデルの盗難やサービス拒否攻撃（DoS攻撃）も重要なリスクです。これに対処するためには、適切なセキュリティ対策が求められます。 - データの機密性とプライバシー
AIを利用する際は、データ保護が非常に重要です。機密情報や個人情報を扱う場合、データの暗号化やアクセス制御が必要です。具体的には、ロールベースのアクセス制御(RBAC)を導入し、必要最小限の権限を与えることで不正アクセスのリスクを軽減できます。また、差分プライバシー技術を適用することで、個々のデータの機密性を保持しつつ、モデルの有用性を維持できます。 - モデルの整合性と透明性
AIシステムが出力する判断には、透明性が求められます。これには、なぜそのような判断がなされたのかを示すことが含まれます。説明可能性技術（SHAPやLIMEなど）を使用することで、AIの意思決定プロセスを可視化し、異常を特定する手助けとなります。この透明性は、セキュリティ上のリスクを軽減し、規制遵守にも寄与します。 - リスク評価と管理
AIシステムを構築する際には、まずリスク評価を行いましょう。これにより、どの部分が攻撃を受けやすいのかを特定でき、そのリスクを管理するための適切な対策を講じることができます。定期的な監査や脆弱性診断も、AIシステムのセキュリティを維持するために重要です。 - 継続的な教育とトレーニング
AIとサイバーセキュリティの分野は常に進化しています。技術者は最新の脅威や対策について常に学び続ける必要があり、定期的なトレーニングを通じて知識を更新することが求められます。特に、新しい攻撃手法や防御策を理解することは、セキュリティ体制を強化する上で不可欠です。
このように、AIシステムの構築には、サイバーセキュリティの多面的な知識が必要です。これらの知識を活用して、堅牢で安全なAIシステムを構築することが重要です。