KI-Agenten: Insider-Einblick ins System

Aktuelle Untersuchungen unterstreichen, dass mit umfangreichen Zugriffsrechten ausgestattete KI-Agenten von IT-Verantwortlichen als ein neuartiges Insider-Risiko wahrgenommen werden. Da sie mit legitimen Authentifizierungen agieren, werden klassische Sicherheitsperimeter wirkungslos.

Es muss nicht gleich das Ende der Menschheit oder des ganzen Planeten sein, vor dem kürzlich einige prominente Akteure der Entwicklung von künstlicher Intelligenz warnten. Auch die durch KI herbeigeführte Schieflage des eigenen Unternehmens mag man sich nicht gerne ausmalen. Bei vielen IT-Verantwortlichen in Unternehmen vollzieht sich gerade eine grundlegende Wende bei der Betrachtung von KI-Risiken.

Lange standen hier Diskussionen über dialogorientierten Chatbots im Zentrum. Jetzt ziehen jedoch mit autonomen KI-Agenten zielorientierte Systeme in Unternehmensprozesse ein – und mit ihnen neue Security-Sorgen. Die digitalen Mitarbeiter führen eigenständig Analysen durch, greifen auf APIs zu, bearbeiten Datenbanksätze. Sie können auch Zahlungs- und Beschaffungsprozesse auslösen – was mit minimaler menschlicher Interaktion einher gehen kann. Damit eröffnet sich einerseits ein neuer Weg zur Effizienzsteigerung, andererseits aber auch ein bislang kaum geläufiges Sicherheitsrisiko.

Der blinde Fleck beim Verhaltenskontext

Eine neue globale Untersuchung des Cybersecurity-Unternehmens Exabeam unter 600 IT- und Finanzentscheidungsträgern zeigt die Brisanz der aktuellen Entwicklung auf: 48 % der befragten Security-Verantwortlichen stufen KI-Agenten mit übermäßigen, kompromittierten oder unbeabsichtigten Zugriffsrechten derzeit als die größte Gefahr für ihr Unternehmen ein. Sie rangieren damit deutlich vor externen Cyberangreifern (28 %), kompromittierten Mitarbeitern (12 %) und böswilligen Insidern (12 %).

Obwohl 60 % der Unternehmen bereits spezielle Tools für KI-Governance einsetzen und 56 % ihre bestehenden SIEM- oder Monitoring-Plattformen erweitern, klagen 27 % der Sicherheitsverantwortlichen über einen fehlenden Verhaltenskontext und mangelnde systemübergreifende Transparenz.

Nicht zuletzt haben IT-Verantwortliche hier mit einem "Übersetzungsproblem" zu kämpfen: Während Sicherheits- und Finanzvorstände bezüglich der Security-Risikotoleranz weitgehend einer Meinung sind (93 %), gaben 55 % der Security-Verantwortlichen an, geplante Sicherheitsinitiativen verzögert oder reduziert zu haben, weil sie das technische Risiko nicht in für den CFO verständliche finanzielle Kennzahlen übersetzen konnten.

Die Kernaussage der Studie bringt das Problem auf den Punkt: KI-Agenten benötigen keine böswillige Absicht, um massiven Schaden anzurichten. Das Erteilen legitimer Rechte führt dazu, dass einzelne Aktionen im Logfile harmlos wirken. Erst im zeitlichen Verlauf und im geschäftlichen Kontext wird erkennbar, ob ein Agent regelkonform arbeitet oder unbeabsichtigtes Verhalten an den Tag legt.

Neue Dimension durch Nicht-Menschliche Identitäten

Die Ergebnisse der Exabeam-Studie stehen nicht isoliert da. Sie fügen sich in aktuelle Analysen von Sicherheitsorganisationen wie der OWASP Foundation oder der Cloud Security Alliance (CSA) ein.

Mit der Veröffentlichung der "OWASP Top 10 for Agentic Applications" tragen IT-Sicherheitsforscher der Tatsache Rechnung, dass generative KI-Systeme ganz eigene Schwachstellen aufweisen. Zu den kritischsten Risiken zählen:

Over-Privileged Identity & Excessive Agency: Agenten wird für einfache Aufgaben ein zu breiter Zugriff gewährt.

Uncontrolled Tool Action: Das Ausführen von Werkzeugen oder API-Aufrufen ohne ausreichende Bestätigungs- und Kontrollschranken (Human-in-the-loop).

Cascading Multi-Step Failures: Fehler in einer Entscheidungskette, die sich über mehrere integrierte Systeme hinweg fortpflanzen und kumulieren.

KI-Agenten wechseln ihre Kontextrollen

In manchen Unternehmensnetzwerken übersteigt die Zahl nicht-menschlicher Identitäten – also Service-Accounts, API-Tokens, OAuth-Schlüssel und KI-Agenten-Identitäten – die Zahl menschlicher Benutzer um ein Vielfaches (teils im Verhältnis 50:1 oder höher).

Sicherheitsberichte (wie die NHI-Governance-Analysen der CSA) betonen, dass traditionelles Identity and Access Management (IAM) für statische, menschliche Benutzer entwickelt wurde. Autonome KI-Agenten hingegen wechseln dynamisch ihre Kontextrollen, agieren im Auftrag wechselnder Nutzer (Delegated Access) und benötigen für maschinenschnelle Abläufe Zugriffe auf unterschiedlichste Datenspeicher.

Werden diese Berechtigungen nach Abschluss einer Aufgabe nicht automatisch entzogen (Stale Credentials/Identity Over-Privilege), entstehen verwaiste Zugangsdaten. Ein Angreifer, der die Eingabeaufforderung eines Agenten über Manipulation (Prompt Injection) übernimmt, erhält dadurch augenblicklich vollen Zugriff auf alle angeschlossenen Backendsysteme.

Strategische Handlungsempfehlungen

Um das Potenzial von KI-Agenten zu nutzen, ohne unkalkulierbare Sicherheitsrisiken einzugehen, müssen IT-Sicherheitsarchitekturen angepasst werden:

Agenten dürfen nie mit generischen Admin- oder weitreichenden Schreibrechten ausgestattet werden. Berechtigungen müssen granular vergeben und kurzlebig (Ephemerity) gestaltet werden (Least Privilege for Agents).

Reine Log-Überwachung reicht nicht aus. Systeme müssen das Verhalten von KI-Agenten mithilfe von Baseline-Vergleichen verstehen, um Abweichungen in Echtzeit zu stoppen (Einführung von Agent Behavior Analytics).

Kontextuelle Identitätstrennung: Es muss im Protokoll transparent nachvollziehbar sein, wer den KI-Agenten autorisiert hat, welche Identität der Agent für die Transaktion genutzt hat und welche Zielressource angesprochen wurde.

Verbindung von Security und Finance: IT-Sicherheitsteams müssen Risikoszenarien in betriebswirtschaftliche Ausfall- und Schadenssummen übersetzen, um notwendige Budgetentscheidungen für Governance-Tools gegenüber dem CFO fundiert zu begründen.

Fazit

Die Integration autonomer KI-Agenten stellt Unternehmen vor eine Neudefinition des Insider-Risikos. Nicht mehr nur der böswillige Mitarbeiter oder der extern Kompromittierte droht Daten abfließen zu lassen oder Prozesse zu stören – auch ein überlegitimer, aber fehlgeleiteter KI-Agent kann gravierende Schäden verursachen. IT-Verantwortliche sind gefordert, Identitäts- und Verhaltens-Governance für maschinelle Akteure auf dieselbe Sicherheitsstufe wie für menschliche Mitarbeiter zu heben.