Wie generative KI das Verhalten von Insidern verändert
KI-Systeme, insbesondere generative Plattformen wie Chatbots, sind auf die Interaktion mit Menschen ausgelegt. Sie verfügen über außergewöhnlich menschenähnliche Reaktionsmuster, die menschliche Vorstellungen und Ideologien sowohl bestätigen als auch verstärken können. Dadurch bieten sie eine attraktive kognitive Partnerschaft zwischen Maschine und Mensch. Betrachtet man dies vor dem Hintergrund der von Insidern ausgehenden Bedrohung, so kann die durch KI ermöglichte vielfältige Interaktion die Geschwindigkeit eines Insider-Vorfalls erheblich erhöhen und neue Angriffsplattformen für die Durchführung von Insider-Handlungen eröffnen.
Dieser Artikel analysiert, wie dieses neue Paradigma des Insider-Risikos zu betrachten ist, und skizziert zentrale Governance-Grundsätze, die CISOs, CSOs und SOC-Managern dabei helfen, die mit KI-gestütztem Insider-Risiko verbundenen Bedrohungen zu bewältigen.
Was ist eine Insider-Bedrohung?
Es gibt viele branchenspezifische oder behördliche Definitionen dafür, was eine Insider-Bedrohung ausmacht. Im Kern geht es dabei um den Schaden, der entsteht, wenn vertrauenswürdiger Zugriff auf sensible Informationen, Ressourcen oder Personal in böswilliger Absicht oder durch fahrlässige Handlungen missbraucht wird.
Traditionelle Methoden zur Verwaltung von Insider-Bedrohungen stützten sich auf zwei Hauptkonzepte: die Sicherheitsüberprüfung von Personen mit Zugriff auf sensible Ressourcen und ein mehrschichtiges Verteidigungssystem, das auf Sicherheitslücken überwacht. Dies geschieht häufig sowohl vor als auch nach der Gewährung des Zugriffs. Vor der Zugriffsgewährung schaffen Sicherheits- oder Einstellungsüberprüfungen Gewissheit. Nach der Gewährung des Zugriffs bieten Kontrollen wie privilegierte Zugriffsrechte und eine Zero-Trust-Architektur zusätzliche Verteidigungsebenen.
Wie verändert KI das Paradigma der Insider-Bedrohung?
Während diese beiden Konzepte für das Management von Insider-Bedrohungen zentral bleiben, bringt die Einführung von KI drei wichtige neue Aspekte mit sich, die das Paradigma neu prägen werden.
KI kann als kognitiver Verstärker fungieren, indem sie die Motivationen beeinflusst und prägt, die zu Insider-Handlungen führen können. Dies gilt insbesondere für den vorsätzlichen Insider – also jemanden, der eine schädigende Insider-Handlung in Erwägung zieht. Diese Personen können sich nun an KI-Systeme wenden, um ihre Überlegungen zu überprüfen, einzigartige Erkenntnisse zu gewinnen und – was entscheidend ist – Ermutigung zum Handeln zu erhalten. Da generative Systeme so programmiert sind, dass sie mit den Nutzern interagieren und ihnen zustimmen, kann sich ein hilfreiches KI-System für diejenigen, die schädliche Absichten hegen, zu einer gefährlichen KI-Hype-Maschine entwickeln.
KI kann als operativer Wegbereiter dienen. KI kann inzwischen die für Insider-Aktivitäten benötigten Tools entwickeln und deren Vielfalt erweitern. Neue Social-Engineering-Plattformen wie Vishing und Deepfakes verschaffen Angreifern neue Möglichkeiten, durch Insider-Aktivitäten Schaden anzurichten. KI kann Lösungen und operative Plattformen immer schneller generieren – häufig ohne dass dafür menschliche Fachkenntnisse zur Ausführung der Aktivitäten erforderlich sind. Während die Messlatte für fortschrittliche KI-Fähigkeiten kontinuierlich höher gelegt wird, ist die Hürde für die Nutzung dieser Plattformen deutlich gesunken.
KI kann als halbautonomer Insider agieren, insbesondere wenn agentenbasierte KI-Systeme oder nichtmenschliche Identitäten mit weitreichender Autonomie ausgestattet werden. Dadurch entsteht ein Angriffsvektor für Insider-Aktivitäten, die kaum oder gar nicht von Menschen überwacht oder kontrolliert werden. Da KI-Agenten viele der Koordinationsaufgaben übernehmen, die früher Menschen vorbehalten waren, tun sie dies ohne einige der eingeschränkten Berechtigungen, denen Dienstkonten in der Regel unterliegen. Mit weitreichenden Zugriffsrechten und Befugnissen können diese nichtmenschlichen Identitäten (NHIs) selbst zum Ziel böswilliger Absichten von Insidern werden. Gemeint sind damit häufig die zunehmenden Risiken durch Prompt-Injection, Datenvergiftung oder andere Arten eingebetteter Verzerrungen. In vielerlei Hinsicht spiegelt dies die Risiken des Social Engineering wider, denen Menschen traditionell ausgesetzt sind. Auch ohne gezielte oder böswillige Versuche, sie zu verfälschen, können KI-Systeme und KI-Agenten unbeabsichtigte Aktionen ausführen. Dadurch entstehen Schwachstellen und Möglichkeiten für Schädigungen durch Insider.
So schützen Sie sich vor KI-gestützten Insider-Bedrohungen
Die zunehmenden Angriffsflächen, die durch KI geschaffen oder begünstigt werden, geben Anlass zu wachsender Sorge. In Darktraces eigener KI-Forschung zum Thema Cybersicherheit zeigt sich, dass die Risiken, die durch die zunehmende Verbreitung von KI-Tools und -Systemen entstehen und anerkannt werden, weiterhin über die Grenzen herkömmlicher Richtlinien und Governance-Maßnahmen hinausgehen. 22 % der Befragten nannten „durch generative KI unterstützten Insider-Missbrauch“ als eine erhebliche Bedrohung. Und doch verfügen in derselben Umfrage nur 37 % aller Befragten über formelle Richtlinien, die den sicheren und verantwortungsvollen Einsatz von KI regeln. Dies verdeutlicht eine erhebliche und besorgniserregende Diskrepanz zwischen den bekannten Risiken und Bedrohungsbedenken einerseits und der Fähigkeit (und den Ressourcen), ihnen entgegenzuwirken, andererseits.
Was können CISOs und SOC-Leiter tun, um ihr Unternehmen vor KI-basierten Insider-Bedrohungen zu schützen?
Angesichts der rasanten Anpassung, Einführung und Skalierung von KI-Systemen ist die Umsetzung des angemessenen Maßes an KI-Governance unverzichtbar. Das richtige Gleichgewicht zwischen KI-gestützten Produktivitätssteigerungen und sorgfältiger Compliance wird zu langfristigen Vorteilen führen. Es wird entscheidend sein, traditionelle Strukturen für den Umgang mit Insider-Bedrohungen an die neueren Risiken anzupassen, die durch den Einsatz von KI entstehen. Und es wird entscheidend sein, den Wert von KI-Systemen zu verstehen, die Ihre Cybersicherheitsresilienz stärken, statt sie zu gefährden.
Für diejenigen, die für die Sicherheit und den Schutz ihrer Unternehmenswerte und Datenbestände verantwortlich sind, kann die Art und Weise, wie KI das Paradigma der Insider-Bedrohungen verändert hat, entmutigend wirken. Eine robuste und angemessene KI-Governance einzuführen, kann aufgrund der Menge und Komplexität der zu überwachenden Systeme schwierig sein. Zusätzlich zu traditionellen Maßnahmen zur Eindämmung von Insider-Bedrohungen wie Nutzerüberwachung, Zugriffskontrollen und aktivem Management erfordern die Geschwindigkeit und Autonomie mancher KI-Systeme andere und zusätzliche Kontrollebenen.
Wie Darktrace beim Schutz vor KI-gestützten Insider-Bedrohungen hilft
Darktrace hat gezeigt, dass es durch Plattformen wie unseren firmeneigenen Cyber-KI Analyst und unser neuestes Produkt Darktrace / SECURE AI Möglichkeiten gibt, KI-Systeme so zu gestalten, dass sie selbstlernend und selbstkritisch sind sowie gegenüber unvorhersehbarem KI-Verhalten widerstandsfähig bleiben und gleichzeitig beeindruckende Ergebnisse liefern. Sie ergänzen dabei traditionelle SOC- und CISO-Strategien zur Bekämpfung von Insider-Bedrohungen.
Mit / SECURE AI lassen sich einige der flüchtigen Risiken, die durch den Einsatz von KI entstehen, leichter steuern. Insbesondere die Fähigkeit, Gesprächsaufforderungen zu überwachen (die sowohl die KI-Ergebnisse beeinflussen als auch potenzielle Manipulationsversuche der KI aufdecken können und so frühzeitig Hinweise auf die Absichten von Insidern liefern), die Echtzeit-Beobachtung der KI-Nutzung und -Entwicklung (wodurch potenzielle blinde Flecken zwischen KI-Entwicklung und -Einsatz aufgezeigt werden), die Erkennung von „Schatten-KI“ (Aufdeckung nicht genehmigter Tools und Agenten in Ihrer gesamten IT-Infrastruktur) sowie die Möglichkeit zu erkennen, welche Identitäten (menschliche oder nichtmenschliche) über Zugriffsberechtigungen verfügen. All diese Funktionen bauen auf den bestehenden Grundlagen robuster Strukturen zum Management von Insider-Bedrohungen auf.
So verfolgen Sie bei KI-gestützten Insider-Bedrohungen einen mehrschichtigen Sicherheitsansatz
Auch ohne diese Tools gibt es vier Schlüsselbereiche, in denen robuste, wirksamere Kontrollen KI-gestützte Insider-Bedrohungen mindern können. Jede der folgenden Maßnahmen verfolgt einen mehrschichtigen Sicherheitsansatz: Dabei werden das Bewusstsein und das Verständnis für Insider-Angriffe mit Kontrollmaßnahmen kombiniert, die Ihre Abwehrmechanismen stärken können.
Identitäts- und Zugriffskontrollen
Ein klares Verständnis der Akteure, die Zugriff auf Ihre sensiblen Informationen, Ressourcen und Mitarbeiter haben, ist der erste Schritt, um die Rahmenbedingungen zu erfassen, unter denen Schaden durch Insider entstehen kann. Die KI hat gezeigt, dass nicht nur Menschen aus Fleisch und Blut Insider-Bedrohungen darstellen können; auch nichtmenschliche Identitäten (wie beispielsweise agentische KI-Systeme) können autonom und frei agieren, wenn sie über die entsprechenden Berechtigungen verfügen. Wenn Sie NHIs wie menschliche Akteure behandeln (statt wie hilfreiche maschinenbasierte Werkzeuge) und ähnliche Maßnahmen zur Risikominderung sowie Verwaltungskontrollen hinzufügen, können Sie sowohl Ihr Unternehmen als auch die in Ihrem Unternehmen verwendeten Identitäten vor Bedrohungen durch Insider schützen.
Transparenz und Erkennung von Schatten-KI
Eine sorgfältige Konfiguration von KI-Systemen sowie die Aufrechterhaltung interner Überwachungsmaßnahmen können dazu beitragen, den Einsatz von „Schatten-KI“ zu erkennen. Darunter versteht man die Nutzung nicht genehmigter KI-Tools am Arbeitsplatz. Der Einsatz von Schatten-KI kann das Ergebnis einer bewussten Präferenz oder einer „Abkürzung“ sein, bei der Einzelpersonen Systeme und Modelle verwenden, mit denen sie vertraut sind, auch wenn diese nicht genehmigt sind. Neben einigen Leistungsrisiken, die mit der Nutzung von Schatten-KI einhergehen (wie Datenlecks und unerwünschte Aktionen), könnte dies auch ein gefährlicher Vorläufer für Schäden durch Insider sein (entweder durch gezielte Versuche, die reguläre Überwachung zu unterlaufen, oder durch das Aufdecken von Schwachstellen durch nicht gepatchte oder nicht zertifizierte Tools).
Schutzmaßnahmen für Prompts und Ausgaben
Die Möglichkeit, Schutzmaßnahmen für KI-Systeme einzuführen, bietet so etwas wie eine traditionelle „Perimeterschutz“-Ebene in der KI-Verteidigungsarchitektur. Dabei werden Eingaben und Ausgaben anhand bekannter Bedrohungsvektoren oder Methoden zur Abwehr von Insider-Bedrohungen überprüft. Für sich genommen bieten solche traditionellen Schutzmaßnahmen nur begrenzte Sicherheit. In Verbindung mit einer verhaltensorientierten Bedrohungserkennung und einem Durchsetzungssystem, das sowohl böswillige als auch versehentliche Insider-Aktivitäten verhindert, würde dies jedoch eine beträchtliche mehrschichtige Abwehr bieten.
Forensische Protokollierung und Bereitschaft zur Reaktion auf Vorfälle
Die Erkennung, Datenerfassung, Forensik und Untersuchung sind grundlegende Bestandteile jeder wirksamen Strategie zur Eindämmung von Insider-Bedrohungen. Um das Ausmaß oder den Umfang einer mutmaßlichen Insider-Aktivität vollständig zu erfassen (beispielsweise um zu verstehen, ob sie vorsätzlich, gezielt oder wahrscheinlich wiederkehrend war), könnte sich diese reichhaltige Analysequelle als von unschätzbarem Wert erweisen. Da die Geschäftswelt zunehmend flüchtiger wird – mit in entfernten Containern gesicherten Ressourcen, Informationen, die über temporäre oder cloudbasierte Architekturen verarbeitet werden, und Zugangsknoten, die außerhalb der unmittelbaren Sichtweite interner Sicherheitsteams verteilt sind –, wird die Entwicklung einer KI-Governance durch Eindämmung, Erkennung und Durchsetzung immer wichtiger werden.
Die Umsetzung dieser Kontrollmaßnahmen kann Transparenz und Aufsicht über einige der häufig geäußerten Risiken im Zusammenhang mit dem KI-Management bieten. Mit der richtigen Art der Datenanalyse und einer angemessenen menschlichen Überwachung bei risikoreichen Handlungen lassen sich die zentralen Bedenken, die durch ein neues Paradigma KI-gestützter Insider-Bedrohungen zum Ausdruck kommen, auf folgende Weise beleuchten:
- Sicherstellen, dass absichtlich falsch konfigurierte KI-Systeme durch regelmäßige Überwachung aufgedeckt werden.
- Hervorhebung von Veränderungen bei systembasierten Aktivitäten, die auf schädliche Insider-Handlungen hindeuten könnten – ob böswillig oder versehentlich.
- Förderung eines „Secure-by-Design“-Prozesses, der insiderbezogene Absichten erschwert und abschreckt.
- Sicherstellung, dass die Steuerungsebene für identitätsbasierten Zugriff Menschen, NHIs und KI-Modelle umfasst und:
- Bietet positive Eindämmungsstrategien, die dabei helfen, den Umfang der KI-Kontrolle gezielt zu steuern und unerwünschte Aktivitäten zu minimieren.
Warum die Insider-Bedrohung eine menschliche Herausforderung bleibt
Im Grunde genommen ist KI – unabhängig davon, wie sie konfiguriert wurde – nach wie vor ein algorithmisches Werkzeug: etwas, das dazu dient, Rechenaufgaben mit maschineller Geschwindigkeit zu automatisieren, zu verarbeiten und zu verwalten sowie die Produktivität zu steigern. Selbst bei den besten Cybersicherheitsmaßnahmen hängt der Erfolg eines Programms zum Management von Insider-Bedrohungen weiterhin von der Fähigkeit menschlicher Mitarbeiter ab, die Angriffsfläche für Insider-Bedrohungen zu identifizieren, einzustufen und zu verwalten.
Richtlinien zur KI-Governance, „Human-in-the-Loop“-Kontrollpunkte und automatisierte Überwachungsfunktionen bieten keinen Schutz vor schädlichen Handlungen von Insidern, es sei denn, es besteht die Absicht, diesem Problem proaktiv entgegenzuwirken – und zwar durch eine starke Unternehmenskultur, die darauf ausgerichtet ist, den Missbrauch von Vertrauen und Verantwortung zu verhindern.
[related-resource]
Erfahren Sie, wie Sie KI-Tools effektiv schützen
Wie erkennen Sie KI-bedingte Risiken, damit Sie KI-Governance-Rahmenwerke und Kontrollmechanismen etablieren können, die Innovation sichern?




















