生成AIが内部関係者の行動をどのように変えるか
AIシステム、特にチャットボットなどの生成AIプラットフォームは、人間とのやり取りを目的として設計されています。これらのシステムは、人間の考えや思想を肯定し、増幅させることもできる、驚くほど人間らしい応答能力を備えており、機械と人間の間に魅力的な認知的パートナーシップをもたらします。内部脅威という観点から考えると、AIが提供する多様な対話機能によって、内部関係者によるインシデントの発生速度が大幅に高まり、内部関係者による不正行為を実行するための新たな攻撃基盤が生まれる可能性があります。
本記事では、インサイダーリスクの新たなパラダイムをどのように捉えるべきかを分析し、AIを活用したインサイダーリスクに伴う脅威に対処するため、CISO、CSO、SOC（セキュリティオペレーションセンター）マネージャーが押さえるべき主要なガバナンス原則を解説します。
内部脅威とは？
内部脅威の定義は、業界や政府機関によってさまざまです。その本質は、機密情報、資産、人員への信頼されたアクセス権が、悪意を持って、または不注意な行動によって悪用された場合に生じる損害にあります。
従来の内部脅威管理手法は、機密資産へのアクセス権を持つ個人の信頼性の確保と、脆弱性を突いた侵害を監視する多層的な防御システムという2つの主要な概念に依存してきました。これは多くの場合、アクセス権の付与前と付与後の両方で実施されます。アクセス権が付与される前の段階では、セキュリティチェックや採用時の審査を通じて信頼性が確保されます。アクセス権が付与されると、特権アクセスやゼロトラストアーキテクチャーなどの制御によって、多層的な防御が提供されます。
AIは内部脅威のパラダイムをどのように変えるのでしょうか？
これら2つの概念は依然として内部脅威管理の中心ですが、AIの導入によって、パラダイムを再構築する3つの重要な新しい側面が生まれます。
AIは認知的な増幅装置として機能し、内部関係者に関連する行動につながる動機に影響を与えます。これは特に、意図的に危害を加えようとする内部関係者、つまり内部関係者としての立場を利用した有害な行為を検討している人物に当てはまります。こうした人物は、AIシステムを利用して自分の考えの妥当性を確認し、独自のインサイトを得るだけでなく、何よりも重要なこととして、行動を起こすための後押しを受けることができるようになりました。ユーザーとの対話や同意を重視するように設計された生成AIシステムは、有用なAIシステムから、有害な意図を持つ内部関係者にとって危険なAIの過剰な助長装置へと変わる可能性があります。
AIは業務遂行を可能にする手段として機能します。AIは、内部関係者による行為の実行に必要なツールの種類を増やし、その機能を強化できるようになりました。ビッシングやディープフェイクなどの新たなソーシャルエンジニアリングプラットフォームは、攻撃者に新たな優位性をもたらし、内部関係者による有害な行為を引き起こす可能性があります。AIは、こうした活動の実行に必要な専門知識がなくても、ソリューションや運用プラットフォームをますます高速に生成できます。高度なAI機能の水準が向上し続ける一方で、こうしたプラットフォームを利用するために必要な技術的ハードルは大幅に低下しています。
AIは半自律的な内部関係者として機能する可能性があります。特に、エージェント型AIシステムや人間以外のアイデンティティに幅広い自律性が与えられると、人間による監視や制御がほとんど、あるいはまったく及ばない内部関係者による行為の経路が生まれます。AIエージェントは、これまで人間が担っていたオーケストレーションの多くの階層を引き受けるようになっていますが、その際、通常はサービスアカウントに適用される一部の制限付きアクセス許可を必要としません。こうした人間以外のアイデンティティ（NHI）は、幅広いアクセス権と権限を持つことで、それ自体が内部脅威の標的となる可能性があります。一般に、これはプロンプトインジェクション、ポイズニング、その他の種類の埋め込まれたバイアスによるリスクの増大を指します。多くの点で、これは従来、人間が直面してきたソーシャルエンジニアリングのリスクと共通しています。AIシステムやAIエージェントは、意図的または悪意を持って操作されなくても、意図しない行動を取る可能性があり、内部関係者による有害な行為につながる脆弱性や機会を生み出します。
AIを利用した内部脅威から防御する方法
AIによって生み出される、または助長される攻撃対象領域の拡大が、懸念を高めています。Darktraceが独自に実施したAIサイバーセキュリティに関する調査では、AIツールやシステムの普及に伴って生じ、認識されているリスクに対して、従来のポリシーやガバナンス上のガードレールでは依然として十分に対応できていないことが明らかになっています。調査回答者の22%が、「生成AIによって助長される内部不正」を重大な脅威として懸念しています。しかし、同じ調査では、AIの安全かつ責任ある利用を管理するための正式なポリシーを導入している回答者は、全体のわずか37%にとどまっています。これは、既知のリスクや脅威に対する懸念と、それらを軽減する能力（およびリソース）の間に、大きな懸念すべき隔たりがあることを示しています。
CISOやSOCのリーダーは、AIによる内部脅威から組織を守るために何ができるのでしょうか？
AIシステムの急速な適応、導入、拡大を踏まえると、適切なレベルのAIガバナンスを導入することは不可欠です。AIによる生産性向上と慎重なコンプライアンス遵守の間で適切なバランスを取ることが、長期的なメリットにつながります。AIの利用によって生じる新たなリスクに対応できるよう、従来の内部脅威管理体制を適応させることが重要になります。また、サイバーセキュリティのレジリエンスを損なうのではなく、強化するAIシステムの価値を理解することも不可欠です。
企業の資産や保有データのセキュリティと保護を担当する人々にとって、AIによって変化した内部脅威のパラダイムへの対応は、困難に思えるかもしれません。監視が必要なシステムの数と複雑さが増しているため、強固で適切なAIガバナンスの導入が難しくなる場合があります。ユーザー監視、アクセス制御、積極的な管理など、従来の内部脅威軽減策に加えて、一部のAIシステムの速度と自律性に対応するには、従来とは異なる制御と追加の制御層が必要になります。
DarktraceがAIを利用した内部脅威からの保護を支援する方法
Darktraceは、独自開発のCyber AI Analystや最新製品のDarktrace / SECURE AIなどのプラットフォームを通じて、AIシステムが自己学習、自己評価を行い、予測不可能なAIの動作に対するレジリエンスを発揮できることを実証してきました。これにより、優れた成果を実現するとともに、内部脅威に対抗する従来のSOCおよびCISOの戦略を補完できます。
/ SECURE AIによって、AIの利用に伴う一時的なリスクの一部をより容易に管理できます。具体的には、AIの出力に影響を与えるだけでなく、AIを操作しようとする潜在的な試みを明らかにすることもできる会話型プロンプトの監視、AIの使用状況と開発状況のリアルタイム監視（AIの開発と導入の間に潜む潜在的な盲点の特定）、シャドーAIの検出（IT環境全体で未承認のツールやエージェントを検出）、アクセス権限を持つアイデンティティ（人間と人間以外の両方）の把握などが可能です。これらの機能はすべて、強固な内部脅威管理体制の既存の基盤をさらに強化するものです。
AIを利用した内部脅威に対して多層防御アプローチを採用する方法
こうしたツールがなくても、AIを利用した内部脅威を軽減するために、より強固で効果的な制御を実施できる4つの重要な領域があります。以下の各領域では、内部脅威の発生経路を認識・理解し、防御を強化できる制御を重ねる多層防御アプローチを紹介します。
アイデンティティとアクセス制御
機密情報、資産、人員にアクセスできるエンティティを明確に把握することが、内部関係者による有害な行為が発生し得る環境を理解するための第一歩です。AIによって、内部脅威を引き起こすのは人間のオペレーターだけではないことが明らかになっています。人間以外のアイデンティティ（エージェント型AIシステムなど）も、適切な認証情報があれば、自律的かつ自由に動作できます。NHIを便利な機械ベースのツールとしてではなく、人間のオペレーターと同じように扱い、同様のリスク軽減策や管理制御を追加することで、企業とそのビジネスに関連するアイデンティティの両方を、内部関係者による攻撃から保護できます。
可視性とシャドーAIの検出
AIシステムを慎重に設定し、内部監視を継続することで、職場での未承認のAIツールの使用と定義される「シャドーAI」の利用を特定できます。シャドーAIの導入は、未承認であっても使い慣れたシステムやモデルを使用するという、個人の意図的な選択や「近道」の結果である可能性があります。シャドーAIの利用には、データ漏洩や望ましくない動作などのパフォーマンス上のリスクが伴うだけでなく、定期的な監視を意図的に回避しようとする試みや、パッチが適用されていないツールや認定されていないツールによって生じる脆弱性を通じて、内部関係者による有害な行為の危険な前兆となる可能性もあります。
プロンプトと出力のガードレール
AIシステムにガードレールを導入することで、既知の攻撃経路や内部脅威への対処手法に照らしてプロンプトと出力をチェックする、従来の「境界防御」に相当する層をAI防御アーキテクチャーに追加できます。こうした従来のガードレールだけでは、十分な保証は得られません。しかし、行動ベースの脅威検出や、悪意のある内部関係者による行為と偶発的な内部関係者による行為の両方を抑止する強制措置システムと組み合わせることで、強固な多層防御を実現できます。
フォレンジックログとインシデント対応準備
検出、データ収集、フォレンジック、調査は、効果的な内部脅威軽減戦略に不可欠な要素です。疑わしい内部関係者の活動の程度や範囲（意図的なものか、標的を絞ったものか、再発する可能性があるかなど）を十分に理解するには、こうした豊富な分析データが非常に有用となる可能性があります。企業活動がますます一時的な性質を帯び、資産がリモートコンテナ内で保護され、情報が一時的なアーキテクチャーやクラウドベースのアーキテクチャーで処理され、アクセスポイントが社内セキュリティチームの直接的な可視範囲を超えて分散するようになるにつれて、封じ込め、検出、強制措置を通じたAIガバナンスの構築がますます重要になります。
こうした制御を導入することで、AI管理に関して頻繁に指摘されるリスクの一部を可視化し、監視できるようになります。適切なデータ分析と、リスクの高い行為に対する適切な人間の監視を組み合わせることで、AIを利用した内部脅威という新たなパラダイムにおける主な懸念に、次の方法で対処できます。
- 定期的な監視を通じて、意図的に不適切な設定が施されたAIシステムを検出できるようにします。
- 悪意によるものか偶発的なものかを問わず、内部関係者による有害な行為を示す可能性のある、システム上の活動の変化を明らかにします。
- 内部関係者による不正行為の意図を抑制し、阻止するセキュアバイデザインのプロセスを推進します。
- アイデンティティベースのアクセス制御の対象に、人間、NHI、AIモデルが含まれるようにします。
- AIの制御範囲を適切に管理し、望ましくない活動を最小限に抑えるための積極的な封じ込め戦略を提供します。
内部脅威が依然として人に関わる課題である理由
AIは、その設定方法にかかわらず、基本的にはアルゴリズムに基づくツールであり、機械の速度で計算機能を自動化、処理、管理し、生産性を向上させるように設計されています。最善のサイバーセキュリティ防御策を導入していても、内部脅威管理プログラムの成功は、内部脅威の攻撃対象領域を特定、トリアージ、管理する人間のオペレーターの能力に依存します。
AIガバナンスポリシー、ヒューマンインザループによる介入ポイント、自動監視機能があっても、これらを積極的に管理する意思と、信頼や責任の悪用を防ぐための強固な組織文化がなければ、内部関係者による有害な行為を防ぐことはできません。
[related-resource]
