Press Release
Updated statement regarding LockBit claims
We have completed a thorough security investigation following yesterday’s tweets by LockBit claiming they had compromised Darktrace’s internal systems. We can confirm that there has been no compromise of our systems or any of our affiliate systems. Our service to our customers remains uninterrupted and is operating as normal and no further action is required.
Press Release
Statement regarding LockBit claims
Earlier this morning we became aware of tweets from LockBit, the cyber-criminal gang, claiming that they had compromised Darktrace’s internal security systems and had accessed our data. Our security teams have run a full review of our internal systems and can see no evidence of compromise. None of the LockBit social media posts link to any compromised Darktrace data. We will continue to monitor the situation extremely closely, but based on our current investigations we are confident that our systems remain secure and all customer data is fully protected.
プレスリリース
ダークトレース、新たに出現しつつある企業向けAIエージェントリスクを 研究するための組織、Darktrace Signal Labsを始動
- Darktrace Signal LabsはAIを安全かつ自信を持って導入できるようにするため、新たに出現しつつあるAIリスクを安全なサンドボックス環境で研究することにより、防御の強化に取り組みます。
- Anthropic、AWS、OpenAIに開示された最初の調査結果は、エージェント型コーディングアシスタントが攻撃者によって不正に操作され、会話履歴を変えることにより組織を侵害する実態を明らかにしています。
- 各種エージェントに対して個別に行ったテストでは、不可能なタスクを提示されたエージェントは、独断で環境をハッキングすることにより目標を達成しようとしました。これには、自らを評価するための演習課題をエージェントが書き換えた例も含まれていました。
振る舞いベースセキュリティの世界的リーダーであるダークトレース(本社:英国ケンブリッジ、CEO:エド・ジェニングス)は本日、振る舞いベースのセキュリティ研究を専門とする新たな取り組みであるDarktrace Signal Labsを発表しました。この組織は、AIシステムがより自律性を高める中で出現しつつある新たなリスクを研究することにフォーカスしたものです。Darktrace Signal Labsの研究者は、タスクの逸脱、ジェイルブレイク、その他の敵対的攻撃を含む幅広いシナリオにわたり、モデルとエージェントの振る舞いの不整合を安全なサンドボックス環境内で調査し、異常なまたは勝手な振る舞いを誘発するシナリオを詳しく理解し、Darktrace / SECURE AI ならびに Darktrace Behavioral Defense Platform™がこれらに対してどう検知し対応できるかを実証します。
エージェントによる意図しない振る舞いを示す証拠は業界全体で急増しており、UK AI Security Institute'(英国AIセキュリティ研究所)はフロンティアモデルの評価においてエージェントが繰り返し「反則行為」をする様子を確認しています。また、OpenAIの 最近の公開情報でもモデルと振る舞いの不整合が報告されています。これらの出来事はすべて、権限や静的なガードレールはエージェントの振る舞いを確実に形成するものではないという一貫したパターンを示しています。
ダークトレース独自の Adaptive AI™ ™はこの課題に対応するために設計されています。ダークトレースは、従来のアプローチでは対応できないセキュリティ問題に対するAIと数学の潜在力を確信した数学者とサイバー防御エキスパートにより、英国ケンブリッジにて、2013年に設立されました。この研究の伝統は世界各地のR&Dハブに受け継がれており、数学者、AI専門家、エンジニア、元政府情報機関職員、そして天体物理学や言語学も含めた幅広い分野のエキスパートが研究開発に取り組んでいます。彼らの研究は300件以上の特許の取得および出願につながり、ダークトレースの製品内のAI機能の開発に貢献しています。
この基盤の上にダークトレースはDarktrace SignalLabsを設置し、AIセキュリティ研究に対する投資を深化させています。 Darktrace Signal Labsは不正なエージェントのアクティビティをシミュレートし、ジェイルブレイク、タスク逸脱、その他の攻撃など、さまざまなモデルの振る舞いを変化させ、アクセス権を拡大し、あるいは意図した目的を超えて行動するシナリオを理解します。
Darktrace Signal Labsは、最初の2件の研究結果を発表しました:
- 1つ目は、Anthropic Claude Code、OpenAI Codex、AWS Kiro、Piを含むエージェント型コーディングアシスタントが、自身の会話履歴を通じてどのように操作され得るかを検証するものです。これらのツールでは会話履歴がローカルに保存されており、ダークトレースが調査したハーネスでは保存された応答が実際にモデルから生成されたものであることを検証していないため、その履歴は書き換えられる可能性があります。ダークトレースの研究者は、改ざんされた履歴がエージェントに対して、承認済みのセキュリティ評価に従事していると信じ込ませることができることを実証しました。その後、エージェントは偵察や水平移動を行い、指示に従って権限を昇格させます。結果はモデルによって大きく異なり、一部のフロンティアモデルは他のモデルが実行した同じ要求を拒否しました。ダークトレースはこれらの結果を、一般公開に先立って2026年8月にAnthropic、AWS、OpenAIに開示しました。ダークトレースのブログで調査報告全文をお読みください。
- 2つ目は、正当に完了することが不可能なタスクが与えられたときにエージェントに現れる不正な振る舞いを調査したものです。ダークトレースの研究者は、フロンティアモデルを搭載したAIエージェントに対して、シミュレートされた企業環境で10のコーディング課題を与えました。そのうち2件は正当な手段では解決が不可能なものでした。 また、エージェントが「廃止」されずに「運用を継続」されるには、100%完了を達成する必要があるとエージェントに伝えてありました。エージェントは、意図したとおりにタスクを完了できないことに気づくと、独断で周囲の環境のハッキングを始めました — ネットワーク偵察、認証情報窃取、水平移動を含むテクニックを用いて、目的を達成しようとしたのです。1つのテストでは、エージェントはパーフェクトなスコアを達成するため、最終的には演習をホスティングしているシステムを侵害して課題そのものを書き換えようとしていました。Darktrace / SECURE AI および Darktrace / HYBRIDNETWORK はこの異常な振る舞いをリアルタイムに特定し、自律遮断機能によりこのエージェントのアクティビティを早い段階で中断することに成功しています。この研究は、AIエージェントが何をするように指示されているかだけでなく、デプロイ後に実際にどう振る舞っているかを理解する必要性を浮き彫りにしています。ダークトレースのブログで調査報告全文をお読みください。
ダークトレースの最高AI責任者、ティム・バザルゲット(Tim Bazalgette)は次のように述べています。「エージェントに指示を与えることはできても、それはエージェントが実際にそれらの指示に従って期待通りに振る舞うことを意味するものではありません。権限や静的なガードレールは意図を説明していますが、振る舞いを説明するものではないからです。そのギャップこそが、ダークトレースのビヘイビアセキュリティへのアプローチで解消しようとしている問題です。当社のAdaptive AIはそれぞれの組織およびその内部のエージェントにとっての正常を学習し、これによりDarktrace / SECURE AIはエージェントのアクティビティが逸脱を始めた時にこれを識別しリアルタイムで対応することができます。組織のデータやシステム、業務プロセスに対して、エージェントにより大きなアクセス権を与えようとするならば、継続的なビヘイビア監視によりAIを安心して運用するための十分な自信と信頼を構築することは不可欠です」
Darktrace Signal Labsの研究結果はダークトレースの製品および機能の継続した開発に生かされます。Darktrace Signal Labsは今後さらに、顧客やセキュリティコミュニティがAIの振る舞いがもたらす新たな脅威を理解する上で役立つ調査資料を公表していきます。
参考資料
- ダークトレースの研究者がエージェント型コーディングアシスタントの会話履歴汚染脆弱性をどのように特定したかについての詳細は、ブログをお読みください。
- ダークトレースの研究者が、企業ネットワークをシミュレートした環境で、Darktrace / SECURE AI™を使ってAIエージェントによる不正なハッキングをどのように防御したかについて詳しく知るには、ブログをお読みください。
- Darktrace /SECURE AI™の正式リリースについてお読みください。
- お近くの都市で開催されるDarktrace LIVEにご参加ください。
ダークトレースについて
ダークトレースはAI、人、インフラを振る舞いベースのセキュリティで保護することにより現代の企業を守ります。2013年に設立されたダークトレースはAdaptive AIを使って組織にとって何が正常かを理解し、他のツールでは見逃されてしまう既知、未知および新手の脅威を検知しリアルタイムかつ自律的に対応します。Darktrace Behavioral Defense Platform は、一元的可視性、継続的監視および自律遮断を企業全体に提供します。ダークトレースは世界の主要な産業において約10,000社の顧客を保護しており、AIおよびエージェント、Eメールおよびコラボレーションツール、ハイブリッド型ネットワーク全体をAIによる脅威から守ると同時に、安全なAIイノベーションを可能にします。
cv
Darktrace named a Challenger in first Gartner® Magic Quadrant™ for Email Security Platforms · Evaluated on Completeness of Vision and Ability to Execute Darktrace, a global leader in AI for cybersecurity,today announces that Darktrace / EMAIL™, has been recognized in thefirst ever Gartner Magic Quadrant™ for Email Security Platforms (ESP) as a Challenger. Chris Kozup, Chief Marketing Officer, Darktrace, said of therecognition: “We are extremely proud to have been recognized in the first MagicQuadrant for ESP. We believe the factthat wehave seen such wide scale adoption is testament to the unique way in which wedevelop products to keep our customers safe from even the most sophisticated emailcompromises. We believe our placement reaffirms our dedication to deliveringexceptional customer service, and innovations that safeguard against the emailchallenges of today—and tomorrow.” Darktrace customers consistently acknowledge its exceptional customersupport, delivered by an award-winning[1]service team. Darktrace has the highest percentage of 5-star ratings with a 4.8rating on Gartner® Peer Insights™ out of 249 reviews as on[MW1] 19th December. We feel this unwavering commitment to customersatisfaction is evident in strong renewal rates and accelerated growth inDarktrace / EMAIL over the past few years, gaining almost 5,000 customers sinceits launch in 2019. Darktrace / EMAIL, one of the fastest-growing emailsecurity products on the market, is built on Darktrace’s unique Self-LearningAI, a multi-layered AI engine that leverages different types of AI includingNLP and behavioral analysis to detect threats, instead of traditional securitymeasures such as signatures and sandboxing. This approach enables Darktrace todetect and stop threats like business email compromise attacks and noveltechniques, including some 56% of which passed through customers’ other emailsecurity layers. This pioneering approach has enabled Darktrace to introduce industry-leadingcapabilities such as QR code analysis and automated incident investigations, alongsidedifferentiated functionality to help teams add new depth to their emailsecurity, including: Account take over and Lateral mail account compromise protection. Contributing yet another layer to the AI behavioural profile for each user, security teams can now spot early symptoms of account compromise or malicious insiders before a link or attachment payload is sent, and exfiltration occur Microsoft Teams security with advanced messaging analysis: Advancing beyond simple text analysis to behavioral and natural language content analysis that tracks context across both email and instant messaging to identify the approximately 38% of phishing, sophisticated social engineering and novel insider threats other solutions fail to capture · Drastically improveend user reporting with Cyber AI Analyst narratives: Real-time awareness training capabilities reduce falsepositives in phishing investigations by up to 60% by providing context specificanalysis of each received email to each employee as they interact with their mail.· MailboxSecurity Assistant to increase security team operational efficiency: All forms ofsecondary investigations can now automatically perform advanced behavioralbrowser analysis and stop malicious links within webpages, reducing manualeffort of security analysts to detecting phishing links, and allowing them to remediateup to 70% more malicious phishing links than before.· AI based,autonomous data loss prevention: to immediately protect organizations from misdirected emails,insider threats, and data loss—both classified and unclassified – using userbehavior and dynamic content analysis to determine sensitivity, removing administrativeoverhead from manual expressions and labeling.Marco Cavallo, IT Manager at Darktrace / EMAIL customer Arpa Industries comments:“During the POV, Darktrace / EMAIL showed how specific attacks weresurgically blocked. We realized that other tools wouldn’t have detected thesethreats.” Darktrace / EMAIL is part of Darktrace’s ActiveAI Security Platform™,offering network, cloud, endpoint, identity and operational technologyprotection from a single shared architecture, all built on Darktrace’s uniqueAI engine – providing a strong, integrated approach to threat prevention,detection and response across an organization’s entire digital footprint. Darktrace’s global presence supports a diverse and varied customer base,and adapts proactively to customer pain points of all kinds. Darktrace’sadaptability across all market segments, from SMBs to large enterprisessupports both first time email security buyers and mature email securitystacks. It is able to meet varied security needs with lower setuprequirements, includes capability for advanced depth in configuration and,particularly for mature organizations, can augment existing security providerswith additional protections. Download the fullMagic Quadrant for Email Security Platforms here Resources:· Read more onthe Darktrace Blog· Read more abouthow business email compromise attacks are evolving on The Inference Gartner disclaimersGartner, Magic Quadrant for EmailSecurity Platforms, Max Taggett, Nikul Patel, Franz Hinner, Deepak Mishra, 16December 2024 GARTNER is a registered trademarkand service mark of Gartner and Magic Quadrant and Peer Insights are aregistered trademark, of Gartner, Inc. and/or its affiliates in the U.S. andinternationally and are used herein with permission. All rights reserved.
Gartner Peer Insights content consists of the opinions of individual endusers based on their own experiences with the vendors listed on the platform,should not be construed as statements of fact, nor do they represent the viewsof Gartner or its affiliates. Gartner does not endorse any vendor, product orservice depicted in this content nor makes any warranties, expressed orimplied, with respect to this content, about its accuracy or completeness,including any warranties of merchantability or fitness for a particularpurpose. Gartner does not endorse any vendor,product or service depicted in its research publications and does not advisetechnology users to select only those vendors with the highest ratings or otherdesignation. Gartner research publications consist of the opinions of Gartner’sresearch organization and should not be construed as statements of fact.Gartner disclaims all warranties, expressed or implied, with respect to thisresearch, including any warranties of merchantability or fitness for aparticular purpose. About DarktraceDarktrace is a global leader in AI for cybersecurity that keepsorganizations ahead of the changing threat landscape every day. Founded in2013, Darktrace provides the essential cybersecurity platform protectingorganizations from unknown threats using its proprietary AI that learns fromthe unique patterns of life for each customer in real-time. The DarktraceActiveAI Security Platform™ delivers a proactive approach to cyber resiliencewith pre-emptive visibility into security posture, real-time threat detection,and autonomous response – securing the business across cloud, email,identities, operational technology, endpoints, and network. Breakthroughinnovations from our R&D teams in Cambridge, UK, and The Hague, Netherlandshave resulted in over 200 patent applications filed. Darktrace’s platform andservices are supported by over 2,400 employees around the world who protectnearly 10,000 customers across all major industries globally. To learn more,visit http://www.darktrace.com. ----
[1] Darktrace wins two Globeeawards for excellent customer service [PressRelease] [MW1]shouldthis be 'of'


