#unpluggedit: Zwischen Patch-Dienstag und KI-Euphorie

Wenn KI-Agenten zu Insider-Threats werden und anderen IT-Umstellungen

Letzte Woche zeigte sich drastisch, wohin die IT-Reise geht: weg von einzelnen Schwachstellen – hin zu systemischem Totalversagen.

Atlassian streicht 1.600 Stellen für eine radikale AI‑First-Strategie. Zendesk kauft Forethought, um menschlichen Support bis 2026 weitgehend zu ersetzen. Meta übernimmt mit ClawBot ein soziales Netzwerk für potenziell amoklaufende KI-Agenten. Und wie die CVE‑2025‑68613 (CVSS 10.0) zeigt, reicht ein einzelnes Workflow‑Tool für die vollständige Systemübernahme.

Parallel dazu kompromittiert eine autonome Entität in nur zwei Stunden die Datenbank des McKinsey‑Chatbots Lilly, lässt ein anderer smarter Agent die Alibaba‑Cloud Bitcoins schürfen und ein weiterer legt mit diversen Fehlkonfigurationen eine Amazon‑Website lahm.

All diese Vorfälle sind nicht bloß „Glitches“, sondern zeigen ein Muster und erinnern uns daran, dass wir mit der Einführung von KI neue Angriffsvektoren schaffen, bevor die Verteidigungslinien überhaupt gezogen sind. Agentic AI vergrößert nicht nur die Effizienz, sondern in erster Linie den Blast Radius.

KI‑Agenten haben umfassende Rechte und verfügen über weitgehende Zugriffsrechte auf wichtige Schnittstellen und Informationen. Genau das macht sie sowohl attraktiv für Angreifer als auch anfällig für unkontrollierte Eskalationen.

Klassische Sicherheitsstrategien sind für diese neue Bedrohung nicht ausgelegt – obwohl viele herkömmliche Maßnahmen wie Rollen- und Berechtigungskonzepte, Zero-Trust, Leitplanken sowie Observability und Anomalieerkennung helfen könnten.

2026 lautet die Frage daher nicht mehr: „Ist unsere IT sicher?“ Sondern: „Welche Entscheidungen trifft sie selbst – und was passiert, wenn es die Falschen sind?“

☝️ Autonomie ohne Governance ist kein Betriebsunfall, sondern ein strukturelles Designproblem.

Ob einer der smarten Agenten auch für den IT‑Totalausfall bei Medizintechnik‑Riesen Stryker verantwortlich ist, entzieht sich unserer Kenntnisnahme. Manchmal reicht auch schon eine Softwareumstellung: In Sachsen und Sachsen-Anhalt kam es nach einer IT-Umstellung zu massiven Zahlungsproblemen in mehreren Verwaltungen.

💡 Falls Sie selbst gerade vor einer größeren IT-Umstellung stehen: Geben Sie doch auch mal einem Startup eine Chance. Dass so etwas funktioniert, zeigen Projekte wie das tschechische Mautsystem, die Digitalisierung der HR-Prozesse zahlreicher Kommunen bzw. öffentlicher Einrichtungen in Bayern oder die Integration von KI-Tools in kritische IT-Infrastruktur von Behörden und Justiz.

Der Für-mehr-IT-Security-Tipp der Woche

Mit dem Aufstieg autonomer Agenten verschiebt sich das Risiko: Es geht nicht mehr nur um "böse Antworten" (Chatbots), sondern um "rogue actions" (Agenten, die eigenständig Datenbanken löschen oder Berechtigungen ändern). Eine einzige kompromittierte E-Mail, die der Agent liest, reicht aus, um diese Rechte zu missbrauchen (Indirect-Prompt-Injection-Angriff).

Die Best Practice 2026:

• Identity & Access Management (IAM) für Maschinen: Behandeln Sie jeden KI-Agenten wie einen menschlichen Mitarbeiter mit hohem Risiko. Vergeben Sie keine permanenten Administrator-Token.
• Just-In-Time (JIT) Provisioning: Nutzen Sie Frameworks, die dem Agenten Berechtigungen nur für die Millisekunden erteilen, in denen er eine spezifische Aktion (z. B. "Ticket schließen") ausführt. Danach verfällt der Zugriff sofort wieder.
• The Human-in-the-Loop (HITL) Threshold: Definieren Sie kritische Schwellenwerte. Ein Agent darf zwar Termine buchen, aber für Aktionen wie "Benutzer löschen", "Zahlung autorisieren" oder "Code-Deployment" muss zwingend eine manuelle Freigabe erfolgen.
• Immutable Logging: Implementieren Sie fälschungssichere Audit-Logs, die nicht nur die Aktion des Agenten speichern, sondern auch die Begründung (Reasoning Path), warum die KI diese Entscheidung getroffen hat.

Pro-Tipp: Werfen Sie einen Blick auf das neue OWASP Top 10 for Agentic Applications 2026. Die dort genannten Maßnahmen stehen aktuell ganz oben auf der Prioritätenliste für Security-Audits.

Sie wollen mehr #unpluggedit? Werden Sie Teil unserer Community und abonnieren Sie unseren Newsletter.