Warum Schatten-KI entsteht
Stellen Sie sich vor, Sie sind ein Mitarbeiter unter Druck: Fristen häufen sich, repetitive Aufgaben nehmen von Tag zu Tag zu. Sie finden online ein kostenloses KI-Tool, das verspricht, die Arbeit in Sekunden zu automatisieren; Genehmigungen sind dafür nicht erforderlich. Es fühlt sich nach einem einfachen Erfolg an: Daten einfügen, einen kurzen Prompt schreiben und schneller arbeiten.
Doch in diesem Moment änderte sich etwas.
Sensible Kundeninformationen werden in ein Tool eingegeben, das Ihre Organisation weder überwacht noch steuert noch einsehen kann – und plötzlich sind diese Daten nicht mehr dort, wo sie sein sollten, und niemand weiß, wohin sie verschwunden sind.
Dies ist die Realität von Shadow-KI: Mitarbeitende nutzen nicht genehmigte KI-Tools, um schneller zu arbeiten, und schaffen dabei unbeabsichtigt Risiken, die vollständig außerhalb des Sicht- und Kontrollbereichs liegen.
Dies ist kein Einzelfall: Unternehmensübergreifende Untersuchungen zeigen, dass fast die Hälfte der Beschäftigten angibt, nicht genehmigte KI-Tools zu nutzen, wobei oft Geschwindigkeit und Produktivität Vorrang vor der Sicherheit haben. Darüber hinaus geben 51 % der Beschäftigten an, KI-Tools ohne Genehmigung der IT-Abteilung mit Arbeitssystemen oder -anwendungen zu verbinden, was ein erhebliches Betriebsrisiko darstellt, da die durchschnittlichen Kosten für Sicherheitsvorfälle in Unternehmen mit einem hohen Maß an Schatten-KI-Nutzung bis zu 670.000 US-Dollar betragen können.
Obwohl Schatten-KI für Sicherheitsexperten oft ein zentrales Thema ist, ist sie nur ein Aspekt davon, wie die Nutzung von KI Risiken erhöhen kann. Das Verständnis und der Umgang mit der Nutzung von Schatten-KI sollten als Teil einer umfassenderen, ganzheitlichen Risikomanagementstrategie betrachtet werden, die darauf abzielt, KI-Systeme abzusichern – einschließlich menschlicher und agentischer Identitäten, Interaktionen, Partnerschaften zwischen Menschen und KI sowie Verhaltensweisen, die im gesamten digitalen Unternehmen auftreten – von Transparenz und Governance bis hin zu Erkennung, Reaktion und Wiederherstellung.
Effektives Risikomanagement erfordert eine mehrschichtige und interdisziplinäre Strategie. Dazu müssen Themen in den Bereichen Governance und Transparenz, Identität, Zugriff und Agentensteuerung, Datensicherheit und Datenschutz, sicheres MLOps / LLMOps, Laufzeitsicherheit, verhaltensbasierte Erkennung, Autonomous Response und Wiederherstellung adressiert werden.
Dieser Blog beleuchtet einen konkreten Anwendungsfall für Governance und Transparenz im Zusammenhang mit Shadow-KI und zeigt die damit verbundenen Herausforderungen sowie die Abwehrstrategien auf, die Sicherheitsteams einsetzen können.
Warum Schatten-KI schwer zu erkennen ist
Was KI betrifft, spiegelt das, was Unternehmen leicht erkennen können, nicht immer den gesamten Umfang der KI-Aktivitäten wider, die in den Tools, Anwendungen und Workflows eines Unternehmens stattfinden. Daher kann es Unternehmen, die herkömmliche regelbasierte Methoden einsetzen, um ungewöhnliche Aktivitäten zu kennzeichnen, schwerfallen, nicht genehmigte KI-Nutzung von legitimem Betriebsverhalten zu unterscheiden – insbesondere, da KI zunehmend in SaaS-Anwendungen, APIs und Orchestrierungsebenen eingebettet ist, die zu normalen Geschäftsabläufen gehören. Bedrohungen anhand zuvor gewonnener Erkenntnisse zu identifizieren oder sich auf schwer zu pflegende Erlaubnis- und Sperrlisten zu verlassen, bietet keine ausreichend dynamische Strategie für das Risikomanagement. Außerdem konzentrieren sich viele Unternehmen darauf, Shadow-KI in ihrer verwalteten Infrastruktur zu identifizieren, etwa in Gateways, Endpoints oder SASE. Das ist eine wichtige Grundlage. Unternehmen benötigen jedoch Transparenz und die Erkennung von Shadow-KI in der gesamten vernetzten Infrastruktur – von On-Premises- und Hybridumgebungen über Rechenzentren bis hin zu Cloud-Infrastrukturen, in denen möglicherweise keine Transparenz durch Endpoint-Agenten besteht. Dadurch werden die Nutzung von MCP, Datenflüsse und autonome Agenten in diesen Bereichen sichtbar.
Beispielsweise interagieren Beschäftigte täglich mit KI-Assistenten auf genehmigten SaaS-Plattformen. Browser-Erweiterungen und andere Arten von Plug-ins können jedoch Prompts, die Unternehmensdaten enthalten, an integrierte KI-Dienste weiterleiten, ohne dass das Sicherheitsteam dies sehen kann. KI-gestützte Arbeitsabläufe können im Hintergrund mehrere APIs, Orchestrierungsebenen und Cloud-Dienste aufrufen. Dadurch wird es für herkömmliche Sicherheitstools schwierig festzustellen, wo Daten verarbeitet, gespeichert oder erneut übertragen werden. Da ein Großteil dieser Aktivitäten in vertrauenswürdigen Browsersitzungen und verschlüsseltem SaaS-Datenverkehr stattfindet, verfügen herkömmliche Netzwerküberwachung, DLP und Anwendungs-Allowlisting-Kontrollen häufig nicht über den nötigen Kontext, um diese Interaktionen präzise zu erkennen oder zu steuern
Die Identifizierung von KI-Tools in der Umgebung ist ein Teil der Gleichung. Die eigentliche Herausforderung besteht darin, das Verhalten bei ihrer Nutzung zu verstehen. Eine KI-Anwendung ist nicht grundsätzlich riskant, doch die Art und Weise, wie Nutzende oder andere Assets mit ihr interagieren, kann es sein. Die Offenlegung sensibler Daten, ungewöhnliche Zugriffsmuster und der Missbrauch KI-gestützter Arbeitsabläufe wirken isoliert betrachtet oft legitim und werden erst durch Verhaltensanalysen in der breiteren Umgebung sichtbar.
Was die Transparenz bei Shadow-KI zeigt – und was nicht
Eine umfassende Transparenz über Shadow-KI ermöglicht es Unternehmen, mehrere wichtige Fragen zu beantworten:
- Welche Arten von KI nutzen wir? Welche KI-Plattformen, Agenten, MCP-Clients/-Server und Dienste sind im gesamten Unternehmen aktiv?
- Wer nutzt KI-Dienste? Welche Nutzer, Geschäftsbereiche oder Systeme interagieren mit diesen KI-Diensten?
- Sind unsere Daten sicher? Werden sensible oder regulierte Daten über Prompts, Workflows oder Integrationen offengelegt?
- Verhalten sich KI-Systeme wie erwartet? Verhalten sich KI-Systeme auffällig oder agieren sie außerhalb genehmigter Governance-Prozesse?
- Werden unsere KI-Systeme angegriffen? Versucht ein Angreifer, Prompts zu manipulieren, das Verhalten von Agenten zu beeinflussen oder KI-gestützte Arbeitsabläufe zu missbrauchen?
Die Beantwortung dieser Fragen ist grundlegend für umfassendere Maßnahmen zur KI-Governance. Allerdings ermöglicht sie Teams nur, erste Interaktionen zu verstehen, und gibt keinen Aufschluss über Abhängigkeiten und Ergebnisse, die für die Sicherung von KI im gesamten Unternehmen entscheidend sind.
Eine größere Transparenz, die auch das Verständnis von Abhängigkeiten und Ergebnissen ermöglicht, ist in punktuellen KI-Sicherheitslösungen nicht immer gegeben. Um die folgenden Fragen zu beantworten, müssen das Laufzeitverhalten und die operativen Ergebnisse verstanden werden:
- Welche Aktionen hat die KI-Interaktion ausgelöst?
- Auf welche Systeme, Anwendungen oder Daten hat es zugegriffen? Hat die KI ihre vorgesehenen Berechtigungen oder ihren vorgesehenen Einsatzbereich überschritten?
- Könnte eine Interaktion mit geringem Risiko zu Ergebnissen mit hohem Risiko führen?
- Wie werden Risiko und Kontext einer anomalen Aktivität bewertet, um die Analyse und autonome Reaktionsmaßnahmen zu priorisieren?
Die Unterscheidung zwischen diesen beiden Fragenkomplexen eröffnet zwei unterschiedliche Ebenen der KI-Sicherheit. Die erste Gruppe von Fragen konzentriert sich auf die Erkennung und die Transparenz von Interaktionen. Die zweite Gruppe zielt darauf ab, Transparenz über den Kontext und die Ergebnisse zu schaffen, die für den Umgang mit Folgerisiken im Zusammenhang mit verschleierten nachgelagerten Aktivitäten entscheidend sind.
Gemeinsam helfen diese Ebenen Unternehmen, über die bloße Identifizierung der KI-Nutzung hinauszugehen und zu verstehen, wie sich KI im gesamten Unternehmen im operativen Betrieb verhält.
Wie Unternehmen mit Schatten-KI umgehen
Die meisten Unternehmen behandeln Shadow-KI nach wie vor als Problem der Anwendungskontrolle und stützen sich dabei auf Richtlinien, Browserbeschränkungen sowie Zulassungs- und Sperrlisten. Die Einführung von KI entwickelt sich jedoch schneller, als die meisten Governance-Prozesse realistisch Schritt halten können. Neue Assistenten, Plugins und integrierte KI-Funktionen kommen laufend hinzu und erhöhen den Druck, die Produktivität im Unternehmen zu fördern und gleichzeitig Risiken einzudämmen.
Bestehende Governance-Prozesse wurden für einen traditionelleren SaaS-Einführungszyklus konzipiert, in dem neue Anwendungen über längere Zeiträume hinweg geprüft, genehmigt und überwacht werden konnten. Die Einführung von KI verläuft anders. Neue Funktionen können über Nacht in bereits vorhandenen Plattformen auftauchen, die Mitarbeitende bereits nutzen. Dadurch wird es für Sicherheits- und Governance-Teams schwierig, einen präzisen Überblick über die Risikoexposition des Unternehmens im Bereich KI zu behalten. Das bedeutet, dass viele Unternehmen mit einem erheblichen betrieblichen Mehraufwand konfrontiert sind, insbesondere in großen Umgebungen, in denen die KI-Nutzung über Teams, Abteilungen und Drittanbieterdienste hinweg dezentral organisiert ist.
Wo sollten Unternehmen mit der Absicherung ihrer KI-Systeme beginnen?
Die Identifizierung von Schatten-KI ist ein kontinuierlich wichtiger Bestandteil für KI-Risiko- und Governance-Gremien sowie für Sicherheitsorganisationen. Wenn Unternehmen KI-Zertifizierungen wie ISO 42001 für KI-Managementsysteme anstreben, ist Transparenz über die gesamte KI-Nutzung entscheidend – von der Nutzung im Unternehmen bis hin zu individuellen Innovationen und Entwicklungen. Die Identifizierung von Schatten-KI verschafft Unternehmen die nötige Transparenz, um zu entscheiden, ob ein KI-Tool in gesteuerte Umgebungen aufgenommen werden sollte, um DLP-Risiken durch Datenverlust zu verringern, oder ob Richtlinien festgelegt und durchgesetzt werden sollten, um die Nutzung dieser Tools einzuschränken.
Während Unternehmen rasch innovieren und KI einführen, gehen sie immer mehr Risiken ein. Unternehmen benötigen eine Strategie, um die erwarteten Risiken zu mindern, insbesondere angesichts der Einführung durch Dritte. Transparenz, Überwachung, Durchsetzung von Governance-Vorgaben, verhaltensbasierte Erkennung nichtdeterministischer Systeme sowie autonome Untersuchung und Eindämmung sind entscheidend, um die Risiken von KI-Systemen zu mindern.
Wie Darktrace KI und Schatten-KI schützt
Angreifer nutzen KI, um schneller vorzugehen, ihre Taktiken zu skalieren und Bedrohungen anpassungsfähiger und überzeugender zu gestalten. Intern setzen sich Unternehmen mit neuen Risiken auseinander, die durch generative KI, autonome Agenten, Shadow-KI und zunehmend komplexe digitale Umgebungen entstehen.
Darktrace unterstützt Unternehmen dabei, sowohl Menschen als auch KI in einer Welt zu schützen, in der KI inzwischen eine zentrale Rolle dabei spielt, wie Unternehmen arbeiten. Darktrace / SECURE AI unterstützt Unternehmen dabei, Schatten-KI aufzudecken und zu kontrollieren, indem es nicht genehmigte oder unerwartete KI-Aktivitäten dort aufdeckt, wo sie auftreten – einschließlich MCP-Erkennungen, der Unterscheidung zwischen Missbrauch legitimer Tools und nicht genehmigter Dienste sowie der Anwendung von Richtlinien zur Eindämmung von Datenlecks, während die Benutzer zu genehmigten Optionen geleitet werden.
Bleiben Sie über KI-Sicherheit auf dem Laufenden
Melden Sie sich hier für das Secure AI Readiness Program an: Damit erhalten Sie exklusiven Zugriff auf die neuesten Nachrichten zu aktuellen KI-Bedrohungen, Updates zu neuen Ansätzen für die KI-Sicherheit und Einblicke in die neuesten Innovationen, einschließlich der fortlaufenden Arbeit von Darktrace in diesem Bereich.
Möchten Sie mit einem Darktrace-Experten über die Absicherung von KI sprechen? Registrieren Sie sich hier, um praktische Orientierung zu den KI-Risiken zu erhalten, die für Ihr Unternehmen am wichtigsten sind, sowie Klarheit darüber, worauf Sie sich bei Governance, Transparenz, Risikoreduzierung und langfristiger Vorbereitung zuerst konzentrieren sollten.







.avif)



.avif)
.png)




%20(1).png)
.png)
.png)



















