AIによるセキュリティリスクを見つけ出すには、AIシステムがデータ、ユーザー、接続されたテクノロジーとどのように相互動作するかを理解する必要があります。AIのモデル、プロンプト、インテグレーションに対して継続的に監視を行うことで異常や意図しない動作を発見することができます。AIセキュリティポスチャ管理と組み合わせることにより、AI環境の進化に応じたシステムの完全性について明確な理解が可能になります。

AIガバナンスおよびAIリスク管理フレームワークは、AIがどのように管理および監査され、組織と法規制の求める基準に対応するかを定義するものです。NIST AI RMF（Risk Management Framework）やISO/IEC 42001等の規格は、透明性、説明責任、一貫性を強調しており、AIシステムがライフサイクル全体に渡り責任を持って管理されるようにするものです。

責任あるAIとは、確立されたガバナンスおよび法規制の原則に従った、安全かつ倫理的なAIの使用を意味します。サイバーセキュリティにおいては、AIによる判断とアクションが理解可能、検証可能であり、企業システム内に安全に統合できるようにするための、透明性、追跡可能性、信頼性の確保に重点が置かれています。

AIの監視においては、モデルの動作、データフロー、システム出力に対する継続的な観察を行い、予期しないあるいは承認されないアクティビティを識別する必要があります。AIが環境内でどのように動作しているかを継続的に可視化することで、正確性、安全性、コンプライアンスに対する自信を維持することができます。

AIセキュリティポスチャ管理（AI-SPM）とは、AIシステムの設定、ポリシー、管理環境を維持し評価するプロセスです。セキュリティ準備度に対する継続的な考察を提供し、設定ミスやリスクの発生がオペレーション全体に影響する前にセキュリティチームがそれらを検知できるようにします。

AIサプライチェーンセキュリティは組織に導入される外部AIコンポーネント、たとえばモデル、データセット、API等の完全性を検証することに重点を置きます。外部ソースが正規のものであり、適切にライセンスされ、悪意あるあるいは改ざんされたコンテンツが含まれていないことを検証するのに役立ちます。

AIシステムの保護とは、モデルの作成、トレーニング、開発、継続的オペレーションを含むAIライフサイクル全体にわたってリスクに対処することを意味します。これには、データの保護、システム動作の監視、および信頼と安定性を維持するためのガバナンス構造の管理が含まれます。

AIモデルのリスクとは、データ品質の不良、設計の欠陥、または操作により、モデルがバイアスのかかった、不正確な、または有害な出力を生成する可能性のことです。AIモデルリスクを軽減するには、トレーニングデータの信頼性、パフォーマンス指標の正確性、モデル動作の透明性が重要となります。