ブログ
/
AI
/
July 16, 2025

サイバーセキュリティのためのAI成熟度モデルの紹介

サイバーセキュリティのためのAI成熟度モデルは、実際のユースケースとエキスパートの知見に基づいた、この種の指針の中でも最も詳細なガイドです。CISOが戦略的な意思決定を行うための力となり、どのAIを導入すべきかだけではなく、組織を段階的に強化し優れた成果を得るためにどのように進めるべきかを知ることができます。
Inside the SOC
Darktrace cyber analysts are world-class experts in threat intelligence, threat hunting and incident response, and provide 24/7 SOC support to thousands of Darktrace customers around the globe. Inside the SOC is exclusively authored by these experts, providing analysis of cyber incidents and threat trends, based on real-world experience in the field.
Written by
Ashanka Iddya
Senior Director, Product Marketing
Default blog imageDefault blog imageDefault blog imageDefault blog imageDefault blog imageDefault blog image
16
Jul 2025

サイバーセキュリティへのAIの導入:宣伝文句を超えて

今日のセキュリティオペレーションはパラドックスに直面しています。業界ではAI(Artificial Intelligence)が全面的な変革を約束し、ルーチンタスクを自動化することにより検知と対処が強化されると言われています。しかしその一方で、セキュリティリーダーは意味のあるイノベーションとベンダーの宣伝文句を区別しなければならないという大きなプレッシャーに直面しています。

CISOとセキュリティチームがこの状況を乗り越えるのを支援するため、私たちは業界で最も詳細、かつアクション可能なAI成熟度モデルを作成しました。AIおよびサイバーセキュリティ分野のエキスパートと協力して作成したこの枠組みは、セキュリティライフサイクル全体を通じてAIの導入を理解し、測定し、進めていくためのしっかりとした道筋を提供します。

なぜ成熟度モデル?なぜ今必要?

セキュリティリーダー達との対話と調査の中で繰り返し浮かび上がってきたテーマがあります。

それは、AIソリューションはまったく不足していないが、AIのユースケースの明瞭性と理解が不足している、ということです。

事実、Gartner社は「2027年までに、エージェント型AIプロジェクトの40%以上が、コスト上昇、不明瞭なビジネス上の価値、あるいは不十分なリスク制御を理由として打ち切られるだろう」と予測しています。多くのセキュリティチームが実験を行っていますが、その多くは意味のある成果を得られていません。セキュリティの向上を評価し情報に基づいた投資を行うための、標準化された方法に対する必要性はかつてなく高まっています。

AI成熟度モデルが作成されたのはこのような背景によるものであり、これは次を行うための戦略的枠組みです:

  • 人手によるプロセス(L0)からAIへの委任(L4)に至る5段階の明確なAI成熟度を定義
  • エージェント型生成AIと専用AIエージェントシステムから得られる結果を区別
  • リスク管理、脅威検知、アラートトリアージ、インシデント対応といった中核的な機能にわたって評価
  • AI成熟度を、リスクの削減、効率の向上、スケーラブルなオペレーションなど、現実の成果に対応させる

[related-resource]

このモデルで成熟度はどのように評価されるか?

「サイバーセキュリティにおけるAI成熟度モデル」は、世界で10,000社に及ぶDarktraceの自己学習型AIおよびCyber AI Analystの導入例から得られたセキュリティオペレーションの知見に基づいています。抽象的な理論やベンダーのベンチマークに頼るのではなく、このモデルは実際にセキュリティチームが直面している課題に基づき、AIがどこに導入されているか、どのように使用されているか、そしてどのような成果をもたらしているかを反映しています。

こうした現実に即した基盤により、このモデルはAI成熟度に対する実務的な、体験に基づいた視点を提供します。セキュリティチームが現在の状態を把握し、同じような組織がどのように進化しているかに基づいて現実的な次のステップを知るのに役立ちます。

Darktraceを選ぶ理由

AIは2013年のダークトレースの設立以来そのミッションの中心であり、単なる機能ではなく、企業の基盤です。10年以上にわたりAIを開発し現実のセキュリティ環境にAIを適用してきた経験から、私たちはAIがどこに有効で、どこに有効でないか、そしてAIから最も大きな価値を得るにはどうすべきかを学びました。

私たちは、現代のビジネスが膨大な、相互に接続されたエコシステム内で動いていること、そしてそこには従来のサイバーセキュリティアプローチの維持を不可能にする新たな複雑さや脆弱さが生まれていることを知っています。多くのベンダーは機械学習を使用していますが、AIツールはそれぞれ異なり、どれも同じように作られているわけではありません。

Darktraceの自己学習型AIは多層的なAIアプローチを使用して、それぞれの組織から学習することにより、現代の高度な脅威に対するプロアクティブかつリジリエントな防御を提供します。機械学習、深層学習、LLM、自然言語処理を含む多様なAIテクニックを戦略的に組み合わせ、連続的、階層的に統合することにより、私たちの多層的AIアプローチはそれぞれの組織専用の、変化する脅威ランドスケープに適応する強力な防御メカニズムを提供します。

この成熟度モデルはこうした知見を反映し、セキュリティリーダーが組織の人、プロセス、ツールに適した適切な道筋を見つけるのに役立ちます。

今日のセキュリティチームは次のような重要な問いに直面しています:

  • AIを具体的に何のために使うべきか?
  • 他のチームはどのように使っているのか?そして何が機能しているのか?
  • ベンダーはどのようなツールを提供しているのか、そして何が単なる宣伝文句なのか?
  • AIはSOCの人員を置き換える可能性があるのか?

これらはもっともな質問ですが、簡単に答えられるとは限りません。それが、私たちがこのモデルを作成した理由です。セキュリティリーダーが単なるバズワードに惑わされず、SOC全体にAIを適用するための明確かつ現実的な計画を作成するのを助けるために、このモデルが作成されました。

構成:実験から自律性まで

このモデルは5つの成熟段階で構成されています:

L0 –  人手によるオペレーション:プロセスはほとんどが人手によるものであり、一部のタスクにのみ限定的な自動化が使用されます。

L1 –  自動化ルール:人手により管理されるか、外部ソースからの自動化ルールとロジックが可能な範囲で使用されます。    

L2 –  AIによる支援:AIは調査を支援するが、良い判断をするかどうかは信頼されていません。これには人手によるエラーの監視が必要な生成AIエージェントが含まれます。    

L3 –  AIコラボレーション:組織のテクノロジーコンテキストを理解した専用のサイバーセキュリティAIエージェントシステムに特定のタスクと判断を任せます。生成AIはエラーが許容可能な部分に使用が限定されます。  

L4 –  AIに委任:組織のオペレーションと影響について格段に幅広いコンテキストを備えた専用のAIエージェントがほとんどのサイバーセキュリティタスクと判断を単独で行い、ハイレベルの監督しか必要としません。

それぞれの段階が、テクノロジーだけではなく、人とプロセスもシフトすることを表しています。AIが成熟するにつれ、アナリストの役割は実行者から戦略的監督者へと進化します。

セキュリティリーダーにとっての戦略上の利益

成熟度モデルの目的はテクノロジーの導入だけではなく、AIへの投資を測定可能なオペレーションの成果に結びつけることです。AIによって次のことが可能になります:

SOCの疲労は切実、AIが軽減に貢献

ほとんどのセキュリティチームは現在もアラートの量、調査の遅延、受け身のプロセスに苦労しています。しかしAIの導入には一貫性がなく、多くの場合サイロ化しています。上手く統合すれば、AIはセキュリティチームの効率を高めるための、意味のある違いをもたらすことができます。

生成AIはエラーが起こりやすく、人間による厳密な監視が必要

生成AIを使ったエージェント型システムについては多くの誇大広告が見られますが、セキュリティチームはエージェント型生成AIシステムの不正確性とハルシネーションの可能性についても考慮に入れる必要があります。

AIの本当の価値はセキュリティの進化にある

AI導入の最も大きな成果は、リスク対策から検知、封じ込め、修復に至るまで、セキュリティライフサイクル全体にAIを統合することから得られます。

AIへの信頼と監督は初期段階で必須となるが次第に変化する

導入の初期段階では、人間が完全にコントロールします。L3からL4に到達する頃には、AIシステムは決められた境界内で独立して機能するようになり、人間の役割は戦略的監督になります。

人間の役割が意味のあるものに変化する

AIが成熟すると、アナリストの役割は労働集約的な作業から高価値な意思決定へと引き上げられ、重要な、ビジネスへの影響が大きいアクティビティやプロセスの改良、AIに対するガバナンスなどに集中できるようになります。

成熟度を定義するのは宣伝文句ではなく成果

AIの成熟度は単にテクノロジーが存在しているかどうかではなく、リスク削減、対処時間、オペレーションのリジリエンスに対して測定可能な効果が見られるかどうかで決まります。

[related-resource]

AI成熟度モデルの各段階の成果

セキュリティ組織は人手によるオペレーションからAIへの委任へと進むにつれてサイバーセキュリティの進化を体験するでしょう。成熟度の各レベルは、効率、精度、戦略的価値の段階的変化を表しています。

L0 – 人手によるオペレーション

この段階では、アナリストが手動でトリアージ、調査、パッチ適用、報告を、基本的な自動化されていないツールを使って行います。その結果、受け身の労働集約的なオペレーションになり、ほとんどのアラートは未調査のままとなり、リスク管理にも一貫性がありません。

L1 – 自動化ルール

この段階では、アナリストがSOARあるいはXDRといったルールベースの自動化ツールを管理します。これにより多少の効率化は図れますが、頻繁な調整を必要とします。オペレーションは依然として人員数と事前に定義されたワークフローに制限されます。

L2 – AIによる支援

この段階では、AIが調査、まとめ、トリアージを支援し、アナリストの作業負荷を軽減しますが、エラーの可能性もあるためきめ細かな監督が必要です。検知は向上しますが、自律的な意思決定に対する信頼度は限定的です。

L3 – AIコラボレーション

この段階では、AIが調査全体を行いアクションを提示します。アナリストは高リスクの判断を行うことと、検知戦略の精緻化に集中します。組織のテクノロジーコンテキストを考慮した専用のエージェント型AIエージェントシステムに特定のタスクが任され、精度と優先度の判断が向上します。

L4 – AIに委任

この段階では、専用のAIエージェントシステムが単独でほとんどのセキュリティタスクをマシンスピードで処理し、人間のチームはハイレベルの戦略的監督を行います。このことは、人間のセキュリティチームが最も時間と労力を使うアクティビティはプロアクティブな活動に向けられ、AIがルーチンのサイバーセキュリティ作業を処理することを意味します。

専用のAIエージェントシステムはビジネスへの影響を含めた深いコンテキストを理解して動作し、高速かつ効果的な判断を行います。

AI成熟度モデルのどこに位置しているかを調べる

「サイバーセキュリティのためのAI成熟度モデル」 ホワイトペーパーを入手し、評価を行ってみましょう。自社の現在の成熟段階をベンチマークし、主なギャップがどこにあるのかを調べ、次のステップの優先順位を特定するためににお役立てください。

Inside the SOC
Darktrace cyber analysts are world-class experts in threat intelligence, threat hunting and incident response, and provide 24/7 SOC support to thousands of Darktrace customers around the globe. Inside the SOC is exclusively authored by these experts, providing analysis of cyber incidents and threat trends, based on real-world experience in the field.
Written by
Ashanka Iddya
Senior Director, Product Marketing

More in this series

No items found.

Blog

/

Network

/

May 22, 2026

Darktrace named a Leader in the 2026 Gartner® Magic Quadrant™ for Network Detection and Response (NDR) For the Second Consecutive Year

Default blog imageDefault blog image

Continued recognition in NDR  

Darktrace has been recognized as a Leader in the 2026 Gartner® Magic Quadrant™ for Network Detection and Response (NDR), marking the second consecutive year in the Leaders quadrant.

We believe this consistency reflects sustained ability to execute, adapt, and deliver outcomes as the market evolves.

While we are immensely proud to be recognized by industry analysts as a Leader in NDR, that's just part of the story. Darktrace was also Named the Only 2025 Gartner® Peer Insights™ Customers’ Choice for Network Detection and Response based on direct customer feedback and real-world experience.

We believe the combination of these two signals is important. One reflects how the market is evaluated. The other reflects how technology performs in practice.

Why Darktrace continues to be recognized as a leader

We believe our position as a Leader for the second consecutive year reflects a combination of our sustained ability to execute in NDR, continued AI innovation, and proven delivery of security outcomes for customers and partners worldwide.

We also feel that our leadership in the NDR market is a testament to our unique and multi-layered AI approach, for which we were recognized as No.7 on Fast Company’s Most Innovative AI Companies of 2026 list, plus one of the hottest AI cybersecurity companies in CRN's AI 100.

Adapting to complex, real-world environments

Organizations are no longer protecting a single network perimeter. They are securing a mix of users, devices, applications, and data that move across hybrid environments.

Darktrace has focused on maintaining visibility and detection across these conditions, allowing security teams to understand activity as it scales.

Supporting organizations globally, not just technically

Security outcomes are shaped as much by deployment and support as they are by detection capability.

Darktrace continues to invest in regional presence across 29 countries around the world, helping organizations operationalize NDR in ways that align with local requirements, internal processes, and team structures.

Continuing to push AI beyond detection

AI in cybersecurity is often positioned as a way to improve detection accuracy. But the more important shift is how AI can influence decision-making and response.

Darktrace continues to develop models that learn from both live environments and historical incident data, combining real-time behavioral analysis with insights derived from prior attack patterns.

Using technologies such as the Incident Graph and DIGEST (Darktrace Incident Graph Evaluation for Security Threats), activity is not analyzed in isolation. Instead, relationships between users, devices, connections, and events are mapped over time, allowing the system to reconstruct how an incident is unfolding and how similar incidents have progressed in the past.

By evaluating these patterns, Darktrace can assess the likelihood that an incident will escalate, prioritizing the activity that poses the greatest risk and surfacing the most relevant context for investigation.

This shifts security operations from simply identifying anomalies to understanding their trajectory, helping teams anticipate potential impact and respond earlier with greater precision.

Why NDR is shifting from reactive detection to proactive, AI-driven security

Traditional approaches to NDR have been built around reactively identifying threats once they become clearly visible. That model is increasingly difficult to rely on.

Attackers are no longer operating in ways that stand out. They use valid credentials, trusted tools, and low-and-slow techniques that blend into everyday activity. By the time something looks obviously malicious, the impact is often already underway.

This is the core limitation of reactive detection. It depends on recognizing something that already looks like a threat.

As a result, many of the most consequential incidents today fall into a gap.

Insider activity, compromised credentials, and novel attacks rarely trigger traditional alerts because they do not follow known patterns. On the surface, they often appear legitimate, making them difficult to distinguish from normal behavior without deeper context.

This is why we believe this Gartner recognition reflects a broader shift in NDR toward autonomous, proactive and pre‑emptive security operations.

By understanding normal behavior within an environment, it is possible to identify subtle deviations rather than waiting for confirmation of threats as they are taking place.

Darktrace’s Self-Learning AI is designed for behavioral understanding. By continuously learning each organization’s normal patterns, it can detect deviations in real time, enabling a proactive and pre-emptive model of NDR where security teams can respond to early signs of risk as they emerge, reducing the window in which attacks can develop.

In multiple cases, this behavioral approach has led to early threat detection where Darktrace identified completely unknown threats, including pre-CVE zero-day activity. By detecting subtle behavioral changes before vulnerabilities were publicly disclosed or widely understood, organizations can mitigate threats before they do damage.

This shift is subtle but important. Modern NDR solutions must shift from a system that explains what happened to one that helps prevent threats from developing in the first place, and Darktrace is proud to be at the forefront of this shift - helping organizations build and maintain a state of proactive network resilience.

Continuing to innovate at the forefront of NDR

In our view, recognition as a Leader reflects where the market is today. Continuing to innovate defines what comes next.

As businesses evolve, new technologies like AI tools and agents introduce new security risks and challenges; security teams need more than simple detection. They need a complete understanding of risk as it develops, the ability to investigate it in context, and to contain threats at machine speed.  

Darktrace / NETWORK is built to deliver across that full spectrum. Its Self-Learning AI continuously adapts to each organization’s environment, identifying subtle behavioral changes that signal emerging threats. Integrated investigation and autonomous response reduce the time between detection and action, allowing teams to move with greater speed and confidence.

This combination enables organizations to detect and contain known, unknown, and insider threats as they develop, while also strengthening resilience over time.

As a two-time Leader in the Gartner® Magic Quadrant™ for NDR and the only 2025 Gartner® Peer Insights™ Customers’ Choice, we feel Darktrace continues to evolve its platform to meet the demands of modern environments, delivering a more complete and adaptive approach to network security.

[related-resource]

Disclaimer: The 2026 Gartner® Magic Quadrant™ for Network Detection and Response (NDR) ,The 2026 Gartner® Magic Quadrant™ for Network Detection and Response (NDR), Thomas Lintemuth, Charanpal Bhogal, Nahim Fazal, 18 May 2026.

Gartner does not endorse any vendor, product or service depicted in its research publications, and does not advise technology users to select only those vendors with the highest ratings or other designation. Gartner research publications consist of the opinions of Gartner’s research organization and should not be construed as statements of fact. Gartner disclaims all warranties, expressed or implied, with respect to this research, including any warranties of merchantability or fitness for a particular purpose.

GARTNER is a registered trademark and service mark of Gartner, Inc. and/or its affiliates in the U.S. and internationally and is used herein with permission. All rights reserved. Magic Quadrant is a registered trademark of Gartner, Inc. and/or its affiliates and is used herein with permission. All rights reserved.

Continue reading
About the author
Mikey Anderson
Product Marketing Manager, Network Detection & Response

Blog

/

AI

/

May 21, 2026

Prompt Security in Enterprise AI: Strengths, Weaknesses, and Common Approaches

Default blog imageDefault blog image

How enterprise AI Agents are changing the risk landscape  

Generative AI Agents are changing the way work gets done inside enterprises, and subsequently how security risks may emerge. Organizations have quickly realized that providing these agents with wider access to tooling, internal information, and granting permissions for the agent to perform autonomous actions can greatly increase the efficiency of employee workflows.

Early deployments of Generative AI systems led many organizations to scope individual components as self-contained applications: a chat interface, a model, and a prompt, with guardrails placed at the boundary. Research from Gartner has shown that while the volume and scope of Agentic AI deployments in enterprise environments is rapidly accelerating, many of the mechanisms required to manage risk, trust, and cost are still maturing.

The issue now resides on whether an agent can be influenced, misdirected, or manipulated in ways that leads to unsafe behavior across a broader system.

Why prompt security matters in enterprise AI

Prompt security matters in enterprise AI because prompts are the primary way users and systems interact with Agentic AI models, making them one of the earliest and most visible indicators of how these systems are being used and where risk may emerge.

For security teams, prompt monitoring is a logical starting point for understanding enterprise AI usage, providing insight into what types of questions are being asked and tasks are being given to AI Agents, how these systems are being guided, and whether interactions align with expected behavior. Complete prompt security takes this one step further, filtering out or blocking sensitive or dangerous content to prevent risks like prompt injection and data leakage.

However, visibility only at the prompt layer can create a false sense of security. Prompts show what was asked, but not always why it was asked, or what downstream actions were triggered by the agent across connected systems, data sources, or applications.

What prompt security reveals  

The primary function of prompt security is to minimize risks associated with generative and agentic AI use, but monitoring and analysis of prompts can also grant insight into use cases for particular agents and model. With comprehensive prompt security, security teams should be able to answer the following questions for each prompt:

  • What task was the user attempting to complete?
  • What data was included in the request, and was any of the data high-risk or confidential?
  • Was the interaction high-risk, potentially malicious, or in violation of company policy?
  • Was the prompt anomalous (in comparison to previous prompts sent to the agent / model)?

Improving visibility at this layer is a necessary first step, allowing organizations to establish a baseline for how AI systems are being used and where potential risks may exist.  

Prompt security alone does not provide a complete view of risk. Further data is needed to understand how the prompt is interpreted, how context is applied, what autonomous actions the agent takes (if any), or what downstream systems are affected. Understanding the outcome of a query is just as important for complete prompt security as understanding the input prompt itself – for example, a perfectly normal, low-risk prompt may inadvertently result in an agent taking a high-risk action.

Comprehensive AI security systems like Darktrace / SECURE AI can monitor and analyze both the prompt submitted to a Generative AI system, as well as the responses and chain-of-thought of the system, providing greater insight into the behavior of the system. Darktrace / SECURE AI builds on the core Darktrace methodology, learning the expected behaviors of your organization and identifying deviations from the expected pattern of life.

How organizations address prompt security today

As prompt-level visibility has become a focus, a range of approaches have emerged to make this activity more observable and controllable. Various monitoring and logging tools aim to capture prompt inputs to be analyzed after the fact.  

Input validation and filtering systems attempt to intervene earlier, inspecting prompts before they reach the model. These controls look for known jailbreak patterns, language indicative of adversarial attacks, or ambiguous instructions which could push the system off course.

Importantly, for a prompt security solution to be accurate and effective, prompts must be continually observed and governed, rather than treated as a point-in-time snapshot.  

Where prompt security breaks down in real environments

In more complex environments, especially those involving multiple agents or extensive tool use, AI security becomes harder to define and control.

Agent-to-Agent communications can be harder to monitor and trace as these happen without direct user interaction. Communication between agents can create routes for potential context leakage between agents, unintentional privilege escalation, or even data leakage from a higher privileged agent to a lower privileged one.

Risk is shaped not just by what is asked, but by the conditions in which that prompt operates and the actions an agent takes. Controls at the orchestration layer are starting to reflect this reality. Techniques such as context isolation, scoped memory, and role-based boundaries aim to limit how far a prompt’s influence can extend.  

Furthermore, Shadow AI usage can be difficult to monitor. AI systems that are deployed outside of formal governance structures and Generative AI systems hosted on unknown endpoints can fly under the radar and can go unseen by monitoring tools, leaving a critical opening where adversarial prompts may go undetected. Darktrace / SECURE AI features comprehensive detection of Shadow AI usage, helping organizations identify potential risk areas.

How prompt security fits in a broader AI risk model

Prompt security is an important starting point, but it is not a complete security strategy. As AI systems become more integrated into enterprise environments, the risks extend to what resources the system can access, how it interprets context, and what actions it is allowed to take across connected tools and workflows.

This creates a gap between visibility and control. Prompt security alone allows security teams to observe prompt activity but falls short of creating a clear understanding of how that activity translates into real-world impact across the organization.

Closing that gap requires a broader approach, one that connects signals across human and AI agent identities, SaaS, cloud, and endpoint environments. It means understanding not just how an AI system is being used, but how that usage interacts with the rest of the digital estate.

Prompt security, in that sense, is less of a standalone solution and more of an entry point into a larger problem: securing AI across the enterprise as a whole.

Explore how Darktrace / SECURE AI brings prompt security to enterprises

Darktrace brings more than a decade of AI expertise, built on an enterprise‑wide platform designed to operate in and understand the behaviors of the complex, ambiguous environments where today’s AI now lives. With Darktrace / SECURE AI, enterprises can safely adopt, manage, monitor, and build AI within their business.  

Learn about Darktrace / SECURE AI here.

Sign up today to stay informed about innovations across securing AI.

[related-resource]

Continue reading
About the author
Jamie Bali
Technical Author (AI) Developer
あなたのデータ × DarktraceのAI
唯一無二のDarktrace AIで、ネットワークセキュリティを次の次元へ