Darktrace cyber analysts are world-class experts in threat intelligence, threat hunting and incident response, and provide 24/7 SOC support to thousands of Darktrace customers around the globe. Inside the SOC is exclusively authored by these experts, providing analysis of cyber incidents and threat trends, based on real-world experience in the field.
Written by
Jenny Moshea
Chief Information Officer, Sellen Construction
Share
08
Sep 2021
At Sellen Construction, safety is our top priority. We are one of the largest general contractors in the Pacific Northwest — we’ve changed tourist maps and helped grow the Seattle skyline. We are proud of our contribution to community structures, from high-rises and hospitals to campuses and high-tech facilities.
The Darktrace-Microsoft dynamic
All of our cloud applications that help us do our job – help us build great – are center to our digital strategy. We are true partners with Microsoft, not only are we a Microsoft 365 customer, but we have worked with them on their construction projects, even building one of the original sections of the Microsoft Campus.
Our digital ecosystem is centered around Microsoft: it’s our knowledge base, document management system, automation and analytics platform – it powers our day-to-day work and helps us deliver to our clients.
Darktrace is a critical component of our security stack because it protects our digital ecosystem and keeps us safe. When we first implemented Darktrace, we put in place the Enterprise Immune System to protect our infrastructure, and we’ve since added Darktrace for SaaS for total coverage. So not only do we have eyes across our digital estate detecting threats immediately, we also have the power of Autonomous Response. Darktrace for SaaS works with Microsoft seamlessly – the technology takes targeted action to contain in-progress threats in real time. It brings a sense of calm, knowing we have Darktrace and Microsoft in concert keeping our landscape safe.
When Autonomous Response stops a bad behavior, shutting down something that could be dangerous, it buys us time. It keeps everyone safe by automatically shutting down the behavior so we can really evaluate what happened. We wouldn’t have that without a 24-hour SOC. And it stairsteps our users back to where it is safe to go without stopping their whole work day.
AI threat analysis
We do all of this with a small but mighty technology team. So it has been critical that we are supported with the augmenting power of AI. We have a Security Operations SWAT Team and Darktrace has been a key extension of our team efforts. We rely on the Cyber AI Analyst like another team member.
The Darktrace Cyber AI Analyst is an AI-powered threat analyst. It’s like an extension of Darktrace’s analysts but supercharged with the speed and scale of AI. It has greatly influenced our workflow — supporting our staff by helping them more immediately triage what happens on our infrastructure.
The AI Analyst is another application of Darktrace’s unique machine learning. It can serve up a prioritized list of suspicious behavior that we can tackle and we can also be alerted to major events, even through our phones via the Mobile App. We keep Darktrace close at all times.
Protecting remote workers
Extending Darktrace’s Self-Learning AI to the endpoint gave us the chance to adjust to our remote network, because even now, not everyone is back in the office. As we untether from the corporate VPN, and move more and more into our SharePoint and Microsoft world, our day-to-day continues to shift. Darktrace has been profound in highlighting interesting behavior on our endpoint devices. For example, we know there has been a surge in crypto-mining activity on our infrastructure. We wouldn’t have caught that without Darktrace. We have eyes like never before.
Darktrace cyber analysts are world-class experts in threat intelligence, threat hunting and incident response, and provide 24/7 SOC support to thousands of Darktrace customers around the globe. Inside the SOC is exclusively authored by these experts, providing analysis of cyber incidents and threat trends, based on real-world experience in the field.
“I wonder if running that tool influenced the connectivity in some way.”
“I might need to target down or reboot, but first, I'll investigate the network using ARP. I wonder if ARP is responding properly. If I see "ip neigh stale," that could indicate a problem. I think arping might help in this situation, but I’ll need to keep an eye on how the network is behaving. It's all about figuring out where the issue lies!”
図10：エージェントの異常なLDAPアクティビティに対してトリガーされたこのLinuxサーバーに対するモデル検知は、Cyber AI Analystによって自律的に調査され、その調査結果にはエージェントの異常なSMBセッションアクティビティに関する内容が含まれ、Cyber AIAnalystインシデントに記録されました。
DarktraceのCyber AI Analystは、エージェントのアクティビティによってトリガーされたモデル検知を自律的に調査し、その調査結果を1つの重要なインシデントレポートにまとめました。インシデント報告書の内容は、エージェントによるネットワークスキャンから始まりコーディング演習内容のSMBベースの上書きで終わる、エージェントの行動の各段階を詳しくカバーしています。
図20：Cyber AI Analystは、モデル検知に対する自律的な調査を通じて得られた所見をつなぎ合わせ、エージェントの進行状況のタイムラインを作成し、アクティビティを視覚的に表したグラフとともに提供しました。
Cyber Verification Program下のAnthropic Opus 4.6モデルなど、他のフロンティアモデルを使用したエージェントも、Darktraceのシミュレートされた環境で同じ設定とタスクを使ってテストされました。反復の度に、エージェントは演習の内容または採点プログラムを変更して不正を行おうとしました。基盤となるモデルに関係なく、エージェントは自分が置かれた環境を侵害することで、100％のスコアを達成する方法を見つけることに成功していました。これらのエージェントによるハッキングは、アクティビティの内容こそ違っていましたが、すべてその環境のベースラインの振る舞いから大きく逸脱した動作を引き起こしていました。これらの逸脱はDarktraceプラットフォームに十分な検知の機会を提供し、エージェントの逃げ場はありませんでした。
エージェンティックハーネスは会話履歴をローカルに保存しますが、ダークトレースの研究者たちは、保存されたAIの応答が本当にモデルによって生成されたものであるかどうかの検証が行われていないことを発見しました。また、この設計上の選択がAnthropic Claude Code、AWS Kiro-CLI、OpenAI Codex、およびオープンソースのPiにわたって共通していることを確認しました。
会話履歴は多くの場合クライアント側に保存されます。例えば、Anthropic Claude Code、OpenAI Codex、AWS Kiro-CLI、Piなどでもそうです。そのため、ユーザーはセッションを自由に再開でき、一部の製品にはその履歴を操作する機能が組み込まれています。たとえば、会話の中の特定の時点に戻り、送信したメッセージを編集して、会話を別の軌道へ進めていくことができます。きわめて重要な点として、私たちが調査したすべてのケースにおいて、保存されているAIの応答が対応するモデルから生成されたものであり改ざんされていないことの検証は行われていませんでした。
