KI-Agenten im Unternehmen: Zwischen Automatisierungsschub und Kontrollverlust

Autonome KI-Systeme versprechen Effizienzgewinne, stellen Unternehmen aber vor neue Fragen bei Kontrolle, Zugriffen und Verantwortung.

KI-Agenten markieren den nächsten Schritt in der Unternehmensautomatisierung. Anders als klassische KI-Anwendungen reagieren sie nicht nur auf Eingaben, sondern können Ziele verfolgen, Werkzeuge nutzen und Prozesse eigenständig ausführen. Damit verschiebt sich Künstliche Intelligenz von der Assistenzfunktion hin zu einem operativen Akteur in der IT-Landschaft.

Genau an diesem Punkt setzt die Dokumentation „AI Agents: How Do We Take Back Control?“ an. Wie können Unternehmen Kontrolle, Sicherheit und Verantwortlichkeit wahren, wenn autonome Systeme in produktive Prozesse vordringen? Die zentrale Botschaft an CIOs, CISOs oder CAIOs lautet: Die Governance muss mit dem Tempo der Einführung Schritt halten.

Was sind KI-Agenten überhaupt?

Im Unterschied zu klassischen Large Language Models (LLMs), die reaktiv auf Prompts antworten, werden KI-Agenten vor allem durch Autonomie, Zielorientierung und Handlungsfähigkeit definiert.

• Eigenständiges Handeln: Ein Agent erhält ein finales Ziel (z. B. „Optimiere die Cloud-Kosten des Q3 um 15 %“) und bricht dieses selbstständig in Unteraufgaben auf.
• Werkzeugnutzung (Tool Use): Agenten loggen sich in APIs ein, durchforsten Datenbanken, nutzen Software-Tools und interagieren mit Systemen – ganz ohne menschliches Zutun.
• 24/7-Aktivität: Sie können kontinuierlich arbeiten, auch außerhalb regulärer Arbeitszeiten.
• Agent-zu-Agent-Kommunikation: Sie können mit anderen spezialisierten Agenten kollaborieren, Aufgaben delegieren und komplexe Workflows autonom steuern.

Das ist ein Paradigmenwechsel: KI-Agenten sind nicht mehr nur passive IT-Infrastruktur. Sie können wie digitale Akteure agieren, die im Namen eines Unternehmens Entscheidungen vorbereiten oder sogar selbst treffen.

Die Dokumentation

„AI Agents: How Do We Take Back Control?“ wurde von der API- und KI-Management-Plattform Gravitee beauftragt und von Alex Kantrowitz, dem Gründer von Big Technology, moderiert. Er spricht mit Vertretern aus Forschung, Wirtschaft und Cybersicherheit – darunter Theresa Payton, die ehemalige CIO des Weißen Hauses, Ramesh Raskar vom MIT Media Lab, Sharon Gai, ehemalige Führungskraft bei Alibaba, Ambica Rajagopal, Group Chief Data and AI Officer bei Michelin, sowie Rory Blundell, CEO von Gravitee.

Die in der im Juni 2026 veröffentlichten Dokumentation genannten Zahlen stammen aus einer von Gravitee unter 750 CIOs, CTOs und Engineering-Leadern in den USA und Großbritannien durchgeführten Umfrage. Für europäische – und deutsche – Unternehmen sind sie ein Hinweis auf mögliche Governance-Lücken.

Laut Gravitee sollen inzwischen mehr als sieben Millionen KI-Agenten in den Belegschaften der USA und Großbritanniens aktiv sein. Im Zentrum steht die Frage: Wie behalten wir die Kontrolle über Systeme, denen wir erhebliches Vertrauen einräumen müssen, damit sie wirksam funktionieren?

Das Governance-Dilemma der C-Suite

Aus der Dokumentation lassen sich drei kritische Handlungsfelder ableiten:

1. Der enorme Druck zur Implementierung vs. Das Sicherheitsvakuum

Rund 80 % der befragten Unternehmen stehen laut Gravitee unter erheblichem Druck, KI-Agenten möglichst schnell produktiv einzusetzen – auch dann, wenn Sicherheitsmaßnahmen noch nicht vollständig etabliert sind. Auf der Dokumentationsseite heißt es zudem, dass rund 80 % der Organisationen bereits KI-Agenten einführen oder einsetzen, während nur etwa 10 % angeben, Kontrolle über diese Systeme zu haben. Der separate Report State of AI Agent Security 2026 nennt ergänzend 80,9 % der technischen Teams, die bereits über die Planungsphase hinaus sind, und nur 14,4 % der Organisationen, bei denen alle KI-Agenten mit vollständiger Sicherheits- oder IT-Freigabe live gehen.

2. Das „Lateral Movement“-Problem: Agenten als Sicherheitsrisiko

Damit KI-Agenten wirksam arbeiten können, benötigen sie weitreichende Zugriffsrechte – teils bis hin zur Kontrolle über ganze Rechnersysteme oder sensible Dateninfrastrukturen. Daraus ergibt sich ein zentrales Risiko für CISOs:

• Wird ein einzelner KI-Agent kompromittiert, etwa durch Prompt-Injection-Angriffe oder manipulierte Datenquellen, sind potenziell alle Systeme gefährdet, auf die dieser Agent Zugriff hat.
• Es handelt sich nicht mehr um einen isolierten Vorfall, sondern um ein massives Problem der horizontalen Rechteausweitung (Lateral Movement).

3. Das 36-Monate-Fenster: Die Trägheit der Politik

Theresa Payton warnt darin vor der Trägheit von Regierungen und Gesetzgebern. Auf der Dokumentationsseite wird sie mit der Aussage zitiert, es blieben „36 months or less“, um die nächsten 50 Jahre zu beeinflussen. Damit verlagert sich die Verantwortung unmittelbar auf die IT-Verantwortlichen. Die Entscheidungen, die Unternehmen in den kommenden 36 Monaten bezüglich ihrer KI-Architektur treffen, könnten die digitale Governance der nächsten Jahrzehnte prägen.

Agenda für das Management: Was jetzt zu tun ist

Aus den in der Dokumentation formulierten Einschätzungen folgt kein Plädoyer für einen Innovationsstopp, sondern für ein grundlegendes Umdenken in der IT-Architektur. Wer als die Kontrolle behalten will, muss KI-Agenten anders behandeln als bisherige Software:

• Agenten sind Identitäten, keine Tools: KI-Agenten sollten nicht wie passive Softwarepakete behandelt werden. Sie müssen im Identity- and Access-Management (IAM) ähnlich wie menschliche Mitarbeitende geführt werden – mit strikten, rollenbasierten Zugriffslimits nach dem Least-Privilege-Prinzip.
• Zentrale Kontroll- und Transparenzebene: Unternehmen benötigen Management-Plattformen oder KI-Gateways, um Interaktionen, Kosten, Datenflüsse und Entscheidungswege aller aktiven Agenten in Echtzeit zu überwachen und bei Fehlverhalten schnell eingreifen zu können.
• Risiko-Assessment vor Deployment: CAIOs müssen klare Audit-Prozesse etablieren. Bevor ein Agent Zugriff auf Unternehmensdaten erhält, muss das Risiko von unvorhersehbarem Verhalten (Emergent Behavior) bewertet werden.

Fazit

KI-Agenten bieten ein erhebliches Effizienzpotenzial, das Unternehmen kaum ignorieren können. Aus der Dokumentation ergibt sich zugleich: Das zentrale Risiko liegt nicht im Einsatz autonomer Systeme an sich, sondern in ihrem produktiven Betrieb ohne überprüfbare Governance, belastbare Zugriffskontrollen und klare Verantwortlichkeitsmodelle. Für die Verantwortliche in Organisationen besteht die Aufgabe darin, Innovationsgeschwindigkeit und digitale Souveränität in ein belastbares Gleichgewicht zu bringen.