ブログ
/
Cloud
/
November 19, 2025

生成AIの保護: Darktrace / CLOUDでAmazon Bedrockのリスクを管理する

Amazon Bedrockのような生成AIサービスは、アクセス、可視性、データ露出に関連した新たなリスクをもたらしつつあります。 本稿では、Darktrace / CLOUDがBedrockおよびSageMaker環境において、コンフィギュレーションに対する深い可視性、権限の分析、設定ミスの検知、挙動の異常の検知により、これらのインシデントを防ぐのにどう役立つかを解説します。
Inside the SOC
Darktrace cyber analysts are world-class experts in threat intelligence, threat hunting and incident response, and provide 24/7 SOC support to thousands of Darktrace customers around the globe. Inside the SOC is exclusively authored by these experts, providing analysis of cyber incidents and threat trends, based on real-world experience in the field.
Written by
Adam Stevens
Senior Director of Product, Cloud | Darktrace
Default blog imageDefault blog imageDefault blog imageDefault blog imageDefault blog imageDefault blog image
19
Nov 2025

企業内生成AIのセキュリティリスクと課題

生成AIとAmazon Bedrockのようなマネージド型基盤モデルプラットフォームは、組織がインテリジェントなアプリケーションを構築し、展開する方法を大きく変化させています。チャットボットから要約ツールまで、Bedrockは基盤モデルを企業のデータとサービスに接続することにより、迅速なエージェント開発を可能にします。しかしこの柔軟性にはさまざまなセキュリティ課題が伴い、特に可視性、アクセス管理、そして意図しないデータ露出に関連したリスクがあります。

組織が生成AIの業務への導入を急ぐ中で、従来型のセキュリティコントロールは対応に遅れが目立ちます。Bedrockのエージェント、モデル、ガードレール、そしてベースとなるAWSサービスからなる多層的アーキテクチャは、標準的なポスチャ管理ツールでは想定されていなかった新たなブラインドスポットを作り出しています。可視性のギャップにより、エージェントがどのデータセットにアクセスできるのか、あるいはモデルの出力が機密性の高い情報を露出させる可能性がないかを知ることが難しくなります。その一方で、開発者はセキュリティチームがIAM権限を確認したり、ガードレールを検証したりできるよりも速いペースで進むことが多く、リスクの拡大につながる設定のミスが起こりがちです。AWSのような共有責任モデルにおいては、この複雑性によってオーナーシップの境界があいまいになる可能性があり、セキュリティチームにとってAIシステムが組織のデータとどのように相互動作しているかについて、情報を継続的かつ自動的に得られることがきわめて重要になります。

Darktrace / CLOUDはBedrock環境に対して包括的な可視性およびポスチャ管理を提供し、エージェントとナレッジベースを自動的に検知し積極的にスキャンすることにより、テクノロジーの拡大とイノベーションのペースを落とすことなく、AIインフラの保護に貢献します。

現実のシナリオ:行き過ぎたアクセス

たとえば、会社のナレッジベースを使用しビジネス上の質問にスタッフがすばやく回答できるようにするためのBedrockエージェントを展開しているとします。エージェントはAmazon S3に格納されている文書を参照するナレッジベースに接続され、APIを介して社内のサービスへのアクセス権を与えられています。

システムを早期に稼働させようと、開発者はエージェントに幅広い実行権限を持つロールを割り当てました。このロールは複数のS3バケットに対するアクセス権を付与されており、バケットの1つには機密性の顧客情報が含まれていました。この過剰な権限付与は悪意によるものではありませんでした。IAMポリシー作成の複雑性と、どのバケットに機密性の高いデータが含まれているかを特定するのが難しかったことが原因です。

チームはエージェントが意図した文書だけを使用すると思っていました。しかし、従業員がどのようにエージェントとやりとりするか、あるいはエージェントがどのようにデータを処理する可能性があるかについては十分に検討がされませんでした。  

ある従業員が顧客の四半期のアクティビティについていつものように質問をしたところ、エージェントは規制対象データを含む情報を出力し、適切なアクセス権を持たない人に開示してしまいました。

これはプロンプトインジェクションやモデルの不正操作が行われたケースではありません。エージェントは単に指示に従い、アクセスを許可されているリソースを使用したにすぎません。この開示はIAMポリシーに適合していましたが、まったく意図とは異なる結果となりました。

Darktrace / CLOUDによってこれらのリスクがどう防止されるか

Darktrace / CLOUDはBedrockおよびSageMaker環境に対して多層的な可視性とインテリジェントな分析能力を提供することで、意図しないデータ露出のようなシナリオを回避することができます。それぞれの機能は次のように使用されます:

コンフィギュレーションレベルの可視性

Bedrock環境にはしばしば複数のコンポーネント、たとえばエージェント、ガードレール、基盤モデルが含まれ、それぞれがコンフィギュレーションを持っています。Darktrace / CLOUDはこれらのコンフィギュレーションをインデックス化し、チームは次が可能になります:

  1. 展開されたエージェントを検査しそれらが承認されたデータソースにのみ接続されていることを確認する。
  2. 評価ジョブのセットアップおよびそれらのAmazon S3データセットへのリンクを追跡し、機密性の高い情報を露出させる可能性のある隠れたデータフローを明らかにする。
  3. すべてのAIコンポーネントに対する認識を維持し、見落としたアセットからリスクが発生する可能性を縮小する。

Bedrock、SageMakerおよびその他のAWSサービス全体のコンフィギュレーションデータを一元的に管理することでDarktrace / CLOUDはAIアセットの可視性に対する信頼できる唯一の情報源を提供します。チームは各コンポーネントがどのように設定されているか、および社内のセキュリティポリシーに合致しているかどうかを即座に確認することができます。これにより当て推量を排除し、監査を加速し、設定の不整合がデータ露出リスクを生むのを防止することができます。

 Agents for bedrock relationship views.
図1:Bedrockとエージェントの関係

アーキテクチャの認識

複雑なAI環境ではコンポーネント間の相互動作を理解するのが難しいことがあります。Darktrace / CLOUDはリアルタイムのアーキテクチャダイアグラムを作成することにより:

  1. エージェント、モデル、データセット間の関係を可視化します。  
  1. 相互接続されたサービス間の意図しないデータアクセス経路やリスクの伝播を特定します。

これにより、セキュリティチームは脆弱さが露出につながる前にそれらを発見することができます。これらの関係を動的に可視化することにより、Darktrace / CLOUDはプロアクティブなリスク管理を可能にし、アーキテクチャのドリフト、冗長なデータ接続、あるいは監視されていないエージェントを、攻撃者が悪用したり偶発的な誤使用が起こる前に発見することができます。これにより調査にかかる時間を短縮するとともに、AIワークロード全体のコンプライアンスへの自信を高めることができます。

Figure 2: Full Bedrock agent architecture including lambda and IAM permission mapping
図2:lambdaおよびIAM権限マッピングを含むBedrockエージェントアーキテクチャ全体図

アクセスおよび権限の分析

IAM権限はBedrockを含むあらゆるAWSサービスに適用されます。Bedrockエージェントが他のワークロードに対して広範に定義されたIAMロールを引き受けるとき、しばしば過剰な権限を継承します。最小権限のコントロールを厳密に行っていなければ、エージェントは必要なものよりも格段に多くのデータやサービスにアクセスできる可能性があり、防げるはずだったセキュリティ露出を作り出してしまいます。Darktrace / CLOUDは:

  1. 実行ロールおよびユーザー権限をレビューして過剰な権限を特定します。
  2. 権限昇格や承認されていないAPIアクションを可能にする可能性のある異常ににフラグを立てます。

これによりエージェントが最小権限の原則の枠内で運用されるようにし、アタックサーフェスを縮小することができます。リスクの高いロールを特定することに加えて、Darktrace / CLOUDは通常のアクセスのパターンを継続的に学習し、権限が悪用されたり、拡大されたりした場合にリアルタイムに識別することができます。セキュリティチームは、アクションがなぜ異常なのか、およびそれが接続されているアセットにどう影響する可能性があるのかについてのコンテキストを理解し、推奨された具体的な対策を取ることにより、生産性を維持しつつ露出を最小化することができます。

設定のミスの検知

設定ミスはクラウドセキュリティインシデントの主要な原因の1つです。Darktrace / CLOUDは以下を自動的に検知します:

  1. 機密性の高いトレーニングデータが含まれているかもしれない、公開アクセス可能なS3バケット
  2. 不適切なまたは機密情報を含む出力を許可する可能性のある、Bedrock環境のガードレール不足  
  3. 暗号化の欠如、直接インターネットアクセス、モデルへのrootアクセスなどその他の問題  

これらのリスクを早期に明らかにすることにより、チームはこれらが悪用可能になる前に修正を行うことができます。Darktrace / CLOUDは人手で行っていたレビューのプロセスを、自動化された、継続的なチェックに変え、発見までの時間を短縮するとともに、小さな見落としが大規模なインシデントにエスカレートするのを防止することができます。このような自動的な確認により、組織はAIシステムのコンプライアンスを維持し、安全を組み込んだ設計を維持しつつ、自信を持ってイノベーションを進めることができます。

Configuration data for Anthropic foundation model
 図3:Anthropic基盤モデルのコンフィギュレーションデータ

ビヘイビアベースの異常検知

コンフィギュレーションが正しい場合にも、その動作が脅威の発生の兆候を示すことがあります。AWS CloudTrailを使用して、Darktrace / CLOUDは:

  1. エージェントが予期しないデータセットをクエリーしているなど、通常と異なるデータアクセスのパターンを監視します。
  2. モデル汚染攻撃の試みかもしれない異常なトレーニングジョブの起動を検知します。

こうしたリアルタイムのビヘイビア分析により、組織は疑わしいアクティビティにすばやく対応することができます。それぞれのBedrockコンポーネントの"正常な”動作を継続的に学習することにより、Darktrace / CLOUDは正式な侵害インジケーターが発生する前に、脅威を示すものかもしれない微妙な変化を検知することができます。その結果、より早期の検知、調査の工数の削減、そしてAI駆動のワークロードが意図通りに機能することを継続的に保証することができます。

まとめ

生成AIはビジネスを変革するさまざまな機能を提供しますが、イノベーションと共に変化しつづける複雑なリスクも伴います。Amazon Bedrockのようなサービスの柔軟性は新たな効率化や理解を可能にしますが、正しい利用であっても意図せずに機密性の高いデータを露出させたり、セキュリティコントロールをすり抜けてしまう場合があります。多くの組織がAIの大規模な導入を進めるなかで、開発を遅らせることなくこれらの環境を包括的に監視し保護する能力はきわめて重要になってきます。

コンフィギュレーションに対する深い可視性、アーキテクチャの理解、権限と動作の分析、そしてリアルタイムの脅威検知を組み合わせることにより、DarktraceはBedrockやSageMaker等のAIツールに対する継続的な保証をセキュリティチームに提供します。組織は適応型のインテリジェントな保護によりAIシステムが管理されているという安心感を持ってイノベーションを続けることができます。

[related-resource]

企業内のAIを防御する方法についてさらに知る

組織を新たなアタックサーフェスに露出させることなく、AIによるイノベーションを安全に実現するための方法とは?ホワイトペーパーをお読みになり、AIが原因となる各種リスクを見つけ出す方法をご確認ください。

Inside the SOC
Darktrace cyber analysts are world-class experts in threat intelligence, threat hunting and incident response, and provide 24/7 SOC support to thousands of Darktrace customers around the globe. Inside the SOC is exclusively authored by these experts, providing analysis of cyber incidents and threat trends, based on real-world experience in the field.
Written by
Adam Stevens
Senior Director of Product, Cloud | Darktrace

More in this series

No items found.

Blog

/

Network

/

April 2, 2026

How Chinese-Nexus Cyber Operations Have Evolved – And What It Means For Cyber Risk and Resilience 

Default blog imageDefault blog image

Cybersecurity has traditionally organized risk around incidents, breaches, campaigns, and threat groups. Those elements still matter—but if we fixate on individual incidents, we risk missing the shaping of the entire ecosystem. Nation‑state–aligned operators are increasingly using cyber operations to establish long-term strategic leverage, not just to execute isolated attacks or short‑term objectives.  

Our latest research, Crimson Echo, shifts the lens accordingly. Instead of dissecting campaigns, malware families, or actor labels as discrete events, the threat research team analyzed Chinese‑nexus activity as a continuum of behaviors over time. That broader view reveals how these operators position themselves within environments: quietly, patiently, and persistently—often preparing the ground long before any recognizable “incident” occurs.  

How Chinese-nexus cyber threats have changed over time

Chinese-nexus cyber activity has evolved in four phases over the past two decades. This ranges from early, high-volume operations in the 1990s and early 2000s to more structured, strategically-aligned activity in the 2010s, and now toward highly adaptive, identity-centric intrusions.  

Today’s phase is defined by scale, operational restraint, and persistence. Attackers are establishing access, evaluating its strategic value, and maintaining it over time. This reflects a broader shift: cyber operations are increasingly integrated into long-term economic and geopolitical strategies. Access to digital environments, specifically those tied to critical national infrastructure, supply chains, and advanced technology, has become a form of strategic leverage for the long-term.  

How Darktrace analysts took a behavioral approach to a complex problem

One of the challenges in analyzing nation-state cyber activity is attribution. Traditional approaches often rely on tracking specific threat groups, malware families, or infrastructure. But these change constantly, and in the case of Chinese-nexus operations, they often overlap.

Crimson Echo is the result of a retrospective analysis of three years of anomalous activity observed across the Darktrace fleet between July 2022 and September 2025. Using behavioral detection, threat hunting, open-source intelligence, and a structured attribution framework (the Darktrace Cybersecurity Attribution Framework), the team identified dozens of medium- to high-confidence cases and analyzed them for recurring operational patterns.  

This long-horizon, behavior-centric approach allows Darktrace to identify consistent patterns in how intrusions unfold, reinforcing that behavioral patterns that matter.  

What the data shows

Several clear trends emerged from the analysis:

  • Targeting is concentrated in strategically important sectors. Across the dataset, 88% of intrusions occurred in organizations classified as critical infrastructure, including transportation, critical manufacturing, telecommunications, government, healthcare, and Information Technology (IT) services.  
  • Strategically important Western economies are a primary focus. The US alone accounted for 22.5% of observed cases, and when combined with major European economies including Germany, Italy, Spain and the UK, over half of all intrusions (55%) were concentrated in these regions.  
  • Nearly 63% of intrusions of intrusions began with the exploitation of internet-facing systems, reinforcing the continued risk posed by externally exposed infrastructure.  

Two models of cyber operations

Across the dataset, Chinese-nexus activity followed two operational models.  

The first is best described as “smash and grab.” These are short-horizon intrusions optimized for speed. Attackers move quickly – often exfiltrating data within 48 hours – and prioritize scale over stealth. The median duration of these compromises is around 10 days. It’s clear they are willing to risk detection for short-term gain.  

The second is “low and slow.” These operations were less prevalent in the dataset, but potentially more consequential. Here, attackers prioritize persistence, establishing durable access through identity systems and legitimate administrative tools, so they can maintain access undetected for months or even years. In one notable case, the actor had fully compromised the environment and established persistence, only to resurface in the environment more than 600 days after. The operational pause underscores both the depth of the intrusion and the actor’s long‑term strategic intent. This suggests that cyber access is a strategic asset to preserve and leverage over time, and we observed these attacks most often inin sectors of the high strategic importance.  

It’s important to note that the same operational ecosystem can employ both models concurrently, selecting the appropriate model based on target value, urgency, intended access. The observation of a “smash and grab” model should not be solely interpreted as a failure of tradecraft, but instead an operational choice likely aligned with objectives. Where “low and slow” operations are optimized for patience, smash and grab is optimized for speed; both seemingly are deliberate operational choices, not necessarily indicators of capability.  

Rethinking cyber risk

For many organizations, cyber risk is still framed as a series of discrete events. Something happens, it is detected and contained, and the organization moves on. But persistent access, particularly in deeply interconnected environments that span cloud, identity-based SaaS and agentic systems, and complex supply chain networks, creates a major ongoing exposure risk. Even in the absence of disruption or data theft, that access can provide insight into operations, dependencies, and strategic decision-making. Cyber risk increasingly resembles long-term competitive intelligence.  

This has impact beyond the Security Operations Center. Organizations need to shift how they think about governance, visibility, and resilience, and treat cyber exposure as a structural business risk instead of an incident response challenge.  

What comes next

The goal of this research is to provide a clearer understanding of how these operations work, so defenders can recognize them earlier and respond more effectively. That includes shifting from tracking indicators to understanding behaviors, treating identity providers as critical infrastructure risks, expanding supplier oversight, investing in rapid containment capabilities, and more.  

Learn more about the findings of Darktrace’s latest research, Crimson Echo: Understanding Chinese-nexus Cyber Operations Through Behavioral Analysis, by downloading the full report and summaries for business leaders, CISOs, and SOC analysts here.  

Continue reading
About the author
Nathaniel Jones
VP, Security & AI Strategy, Field CISO

Blog

/

Proactive Security

/

April 1, 2026

AI-powered security for a rapidly growing grocery enterprise

Default blog imageDefault blog image

Protecting a complex, fast-growing retail organization

For this multi-banner grocery holding organization, cybersecurity is considered an essential business enabler, protecting operations, growth, and customer trust. The organization’s lean IT team manages a highly distributed environment spanning corporate offices, 100+ stores, distribution centers and  thousands of endpoints, users, and third-party connections.

Mergers and acquisitions fueled rapid growth, but they also introduced escalating complexity that constrained visibility into users, endpoints, and security risks inherited across acquired environments.

Closing critical visibility gaps with limited resources

Enterprise-wide visibility is a top priority for the organization, says the  Vice President of Information Technology. “We needed insights beyond the perimeter into how users and devices were behaving across the organization.”

A security breach that occurred before the current IT leadership joined the company reinforced the urgency and elevated cybersecurity to an executive-level priority with a focus on protecting customer trust. The goal was to build a multi-layered security model that could deliver autonomous, enterprise-wide protection without adding headcount.

Managing cyber risk in M&A

Mergers and acquisitions are central to the grocery holding company’s growth strategy. But each transaction introduces new cyber risk, including inherited network architectures, inconsistent tooling, excessive privileges, and remnants of prior security incidents that were never fully remediated.

“Our M&A targets range from small chains with a single IT person and limited cyber tools to large chains with more developed IT teams, toolsets and instrumentation,” explains the VP of IT. “We needed a fast, repeatable, and reliable way to assess cyber risk before transactions closed.”

AI-driven security built for scale, speed, and resilience

Rather than layering additional point tools onto an already complex environment, the retailer adopted the Darktrace ActiveAI Security Platform™ in 2020 as part of a broader modernization effort to improve resilience, close visibility gaps, and establish a security foundation that could scale with growth.

“Darktrace’s AI-driven approach provided the ideal solution to these challenges,” shares the VP of IT. “It has empowered our organization to maintain a robust security strategy, ensuring the protection of our network and the smooth operation of our business.”

Enterprise-wide visibility into traffic  

By monitoring both north-south and east-west traffic and applying Self-Learning AI, Darktrace develops a dynamic understanding of how users and devices normally behave across locations, roles, and systems.

“Modeling normal behavior across the environment enables us to quickly spot behavior that doesn’t fit. Even subtle changes that could signal a threat but appear legitimate at first glance,” explains the VP of IT.

Real-time threat containment, 24/7

Adopting autonomous response has created operational breathing room for the security team, says the company’s Cybersecurity  Engineer.

“Early on, we enabled full Darktrace autonomous mode and we continue to do so today,” shares the IT Security Architect. “Allowing the technology to act first gives us the time we need to investigate incidents during business hours without putting the business at risk.”

Unified, actionable view of security ecosystem

The grocery retailer integrated Darktrace with its existing security ecosystem of firewalls, vulnerability management tools, and endpoint detection and response, and the VP of IT described the adoption process as “exceptionally smooth.”

The team can correlate enterprise-wide security data for a unified and actionable picture of all activity and risk. Using this “single pane of glass” approach, the retailer trains Level 1 and Level 2 operations staff to assist with investigations and user follow-ups, effectively extending the reach of the security function without expanding headcount.

From reactive defense to security at scale

With Darktrace delivering continuous visibility, autonomous containment, and integrated security workflows, the organization has strengthened its cybersecurity posture while improving operational efficiency. The result is a security model that not only reduces risk, but also supports growth, resilience, and informed decision-making at the business level.

Faster detection, faster resolution

With autonomous detection and response, the retailer can immediately contain risk while analysts investigate and validate activity. With this approach, the company can maintain continuous protection even outside business hours and reduce the chance of lateral spread across systems or locations.

Enterprise-grade protection with a lean team

From cloud environments to clients to SaaS collaboration tools, Darktrace provides holistic autonomous AI defense, processing petabytes of the organization’s network traffic and investigating millions of individual events that could be indicative of a wider incident.

Today, Darktrace autonomously conducts the majority of all investigations on behalf of the IT team, escalating only a tiny fraction for analyst review. The impact has been profound, freeing analysts from endless alerts and hours of triage so they can focus on more valuable, proactive, and gratifying work.

“From an operational perspective, Darktrace gives us time back,” says the Cybersecurity Engineer. More importantly, says the VP of IT, “it gives us peace of mind that we’re protected even if we’re not actively monitoring every alert.”

A strategic input for M&A decision-making

One of the most strategic outcomes has been the role of cybersecurity on M&A. 90 days prior to closing a transaction, the security team uses Darktrace alongside other tools to perform a cyber risk assessment of the potential acquisition. “Our approach with Darktrace has consistently identified gaps and exposed risks,” says the VP of IT, including:

  • Remnants of previous incidents that were never fully remediated
  • Network configurations with direct internet exposure
  • Excessive administrative privileges in Active Directory or on critical hosts

While security findings may not alter deal timelines, the VP of IT says they can have enormous business implications. “With early visibility into these risks, we can reduce exposure to inherited cyber threats, strengthen our position during negotiations, and establish clear remediation requirements.”

A security strategy built to evolve with the business

As the holding group expands its cloud footprint, it will extend Darktrace protections into Azure, applying the same AI-driven visibility and autonomous response to cloud workloads. The VP of IT says Darktrace's evolving capabilities will be instrumental in addressing the organization’s future cybersecurity needs and ability to adapt to the dynamic nature of cloud security.

“With Darktrace’s AI-driven approach, we have moved beyond reactive defense, establishing a resilient security foundation for confident expansion and modernization.”

Continue reading
About the author
あなたのデータ × DarktraceのAI
唯一無二のDarktrace AIで、ネットワークセキュリティを次の次元へ