Wie KI-Assistenten CEO-Fraud beschleunigen

Barracuda zeigt in einem Proof of Concept, wie KI aus Postfächern präzise Angriffsmaschinen macht.

Die flächendeckende Integration von generativer Künstlicher Intelligenz in Unternehmensanwendungen, wie etwa durch Microsoft 365, verspricht massive Produktivitätsgewinne. Doch die intelligenten „Copiloten“ der modernen Arbeitswelt bergen ein signifikantes systemisches Risiko, das in vielen Enterprise-Sicherheitsstrategien bislang unterschätzt wird.

Ein aktueller, kontrollierter Proof-of-Concept (PoC) des Barracuda Red Teams demonstriert, wie Angreifer legitime KI-Assistenten missbrauchen können, um interne Systeme für hochkomplexe Angriffe zu instrumentalisieren. Ein einziges kompromittiertes Standard-Mitarbeiterkonto reichte aus, um einen CEO-Betrug (CEO-Fraud) mit einem potenziellen Schaden von fast 250.000 US-Dollar auszuführen. Copilot verschaffte den Angreifern dabei keine neuen Berechtigungen, sondern beschleunigte die Auswertung und Operationalisierung der Daten, auf die das kompromittierte Konto bereits Zugriff hatte.

Der PoC ist kein bloßes Gedankenspiel: BEC (Business Email Compromise) und Social Engineering haben sich durch generative KI deutlich verschärft. Marktdaten aus 2026 belegen eine fundamentale Verschiebung der Bedrohungslandschaft: Seit der breiten Verfügbarkeit generativer KI-Tools verzeichnen Sicherheitsforscher einen Anstieg der BEC-Angriffe um 1.760 Prozent. Was 2022 noch rund ein Prozent aller Cyberangriffe ausmachte, repräsentiert heute fast 19 Prozent.

Für Chief Information Security Officer (CISO) und IT-Vorstände bedeutet dies: KI-fähige Konten müssen ab sofort als hochkritische Unternehmensressourcen eingestuft und geschützt werden. Für Chief Information Security Officer (CISO) und IT-Vorstände bedeutet dies: KI-fähige Konten müssen ab sofort als hochkritische Unternehmensressourcen eingestuft und geschützt werden.

Die Anatomie der KI-gestützten Eskalation

Der Barracuda-Report legt die methodische Effizienz offen, mit der moderne Bedrohungsakteure nach einem erfolgreichen Account Takeover agieren können. Im Kern macht die KI das zeitaufwendige, manuelle Durchsuchen von kompromittierten Systemen obsolet. Ein Standard-Postfach wird durch den KI-Assistenten augenblicklich zu einem hochgradig durchsuchbaren und strukturierten Informationsarchiv, in dem wertvolle Finanzdaten und Kommunikationsmuster offengelegt werden.

Der Ablauf des PoC verdeutlicht die neue Geschwindigkeit der Angriffskette:

1. Persistenz und Tarnung: Nach der Übernahme eines einfachen Mitarbeiterkontos wiesen die Angreifer den KI-Assistenten an, umgehend Posteingangsregeln zu erstellen. Diese verbargen Sicherheitswarnungen, Anmeldebenachrichtigungen und Verdachtsmeldungen systematisch vor dem legitimen Nutzer.
2. Reconnaissance auf Knopfdruck: Die KI analysierte die Organisationsstruktur, identifizierte lukrative Ziele auf C-Level und filterte die Kommunikation aus mehreren Monaten – inklusive E-Mails, Dateianhängen und Kalendereinträgen. Dadurch erfassten die Angreifer den exakten Kontext laufender Geschäftsprozesse.
3. Lateral Movement durch perfekten Kontext: Basierend auf diesen Daten generierte die KI eine Phishing-E-Mail an den CEO. Da diese Nachricht aus dem eigenen Haus stammte, auf echten Unternehmensdaten basierte und den natürlichen Schreibstil des kompromittierten Mitarbeiters adaptierte, war sie für herkömmliche E-Mail-Sicherheitslösungen vollkommen unauffällig – und für den CEO absolut glaubhaft.
4. Der finanzielle Schlag: Nach dem Diebstahl eines Sitzungstokens des CEOs wurde der Prozess auf Vorstands-Ebene wiederholt. Eine simple KI-Abfrage nach „aktuellen Finanzaktivitäten“ identifizierte offene Rechnungen und Freigabeprozesse – darunter eine ausstehende Zahlung in Höhe von 247.500 US-Dollar. Die Angreifer wiesen die Finanzabteilung per legitimer CEO-Mail an, die Bankverbindung vor der finalen Freigabe zu ändern. Parallel nutzten sie die KI, um Bestätigungsnachrichten abzufangen sowie Hinweise auf den Betrug blitzschnell zu finden und zu löschen.

Warum BEC zur Vorstandsangelegenheit wird

Das Risiko dieses Ansatzes ist für Unternehmen immens, da er direkt auf die Geschäftsabläufe und das interne Vertrauen abzielt. Aus dem Microsoft Digital Defense Report 2025 geht hervor, dass KI-generiertes Phishing die menschlichen Kontrollinstanzen zunehmend ausschaltet: Während traditionelles Phishing Klickraten von etwa 12 Prozent aufweist, liegt dieser Wert bei kontextbezogenen, KI-generierten Angriffen bei bis zu 54 Prozent.

Obwohl BEC-Angriffe im Vergleich zu massenhaften Phishing-Kampagnen ein geringeres Gesamtvolumen aufweisen, ist der finanzielle Hebel enorm. Ein durchschnittlicher, erfolgreicher BEC-Vorfall kostet laut dem FBI IC3 (Internet Crime Complaint Center des Federal Bureau of Investigation) Unternehmen heute mehr als 123.000 US-Dollar.

Ein Kernproblem, das der Barracuda-Test aufzeigt, ist ein wachsender blinder Fleck bei der KI-Governance. Mehr als 80 Prozent der Enterprise-Technikteams haben im Jahr 2026 KI-Agenten und -Assistenten in das aktive Testing oder bereits voll in die Produktion überführt. Während Unternehmen viel Zeit investieren, um zu kontrollieren, auf welche Modelle Mitarbeiter zugreifen, bleibt die sogenannte „Execution Layer“ – die eigentliche Ausführungsebene – oft ungesichert. Wie das Barracuda-Experiment zeigt, arbeiten die KI-Assistenten unwissentlich wie böswillige Insider, die sowohl die Qualität als auch die Ausführungsgeschwindigkeit eines Angriffs massiv erhöhen

Strategische Imperative für das C-Level

Der Barracuda Red Team PoC – gestützt von der aktuellen Datenlage – erzwingen eine schnelle Anpassung der Cyber-Abwehrstrategien im Enterprise-Umfeld:

• Fokus auf Session- und Identitätssicherheit: Die klassische Zugangsabsicherung reicht nicht mehr aus, wenn Angreifer wie im PoC Sitzungstoken stehlen. Kontinuierliche Authentifizierung (Continuous Access Evaluation) und das Erkennen von Verhaltensanomalien bei bestehenden Identitäten sind zwingend erforderlich.
• KI-Konten nach Zero-Trust-Prinzipien behandeln: Ein Account mit KI-Funktionen hat einen massiv erhöhten „Blast Radius“ (Schadenspotenzial). Für diese Konten müssen stringente Prinzipien des Least-Privilege-Access (geringstmögliche Berechtigungen) gelten.
• Ausbau der Telemetrie-Überwachung: Da KI-basierte Angriffe legitime Tools und interne Kommunikationswege nutzen, versagen signaturbasierte Abwehrmaßnahmen.

„Der E-Mail-Verlauf eines Nutzers enthält zahlreiche vertrauliche Informationen und Zusammenhänge, die Angreifer für ihre Zwecke nutzen können – darunter gesendete und empfangene E-Mails, freigegebene Dokumente, Anhänge und Kalendereinladungen. Die Unternehmensstruktur lässt sich aus den in den Nachrichten erkennbaren Beziehungen ableiten oder direkt über Organigramme einsehen“, sagt Daniel Avulov, Senior Cybersecurity Researcher im Red Team von Barracuda.

Laut Avulov bestünde der wirksamste Schutzansatz darin, “zu erkennen, dass die Angriffsmuster gleichbleiben, bereits vorhandene Telemetriedaten zu nutzen und die durchschnittliche Erkennungszeit so niedrig wie möglich zu halten.“

Fazit

Die zentrale Lehre aus dem Barracuda-PoC lautet: KI verschiebt den Aufwand im Angriff dramatisch zugunsten der Täter. Legitime KI-Assistenten können heute Datenextraktion automatisieren, Kontext herstellen und Social-Engineering-Angriffe mit hoher Präzision in Maschinengeschwindigkeit operationalisieren. Unternehmen, die KI als reines Produktivitätswerkzeug betrachten und ihre Architektur für die E-Mail- und Identitätssicherheit nicht an die neue Angriffsgeschwindigkeit anpassen, riskieren kapitale Schäden – orchestriert aus dem Zentrum ihres eigenen Netzwerks.