Mythos und die neue Asymmetrie der Cyberabwehr

Warum KI-gestützte Schwachstellensuche weniger den großen Cyber-GAU auslöst als vielmehr die Verteidiger operativ überfordert.

Die Vorstellung des neuen, leistungsstarken KI-Systems „Mythos“ durch den Entwickler Anthropic hat international für erhebliche Unruhe gesorgt. Das Modell ist in der Lage, autonom tausende bisher unbekannter Software-Schwachstellen in gängigen Betriebssystemen und Internetbrowsern zu identifizieren. Während politische Entscheidungsträger in Washington, Europa und Asien umgehend über strengere Regulierungsschritte und staatliche Prüfverfahren debattierten, zeichnet sich unter Cybersicherheitsexperten und Softwareentwicklern mittlerweile ein deutlich nuancierteres Bild ab. Die Befürchtung einer unmittelbaren, unkontrollierbaren Hacking-Krise wird von Praktikern zunehmend heruntergespielt.

Zwischen technologischem Sprung und operativer Realität

Sicherheitsforscher, die das System in kontrollierten Umgebungen testen konnten, bestätigen zwar den technologischen Fortschritt. Mythos reduziere durch einfachere Eingabeaufforderungen (Prompts) das benötigte Fachwissen für komplexe Sicherheitsanalysen und erhöhe das Tempo bei der Fehlersuche drastisch. Dennoch betonen Experten, dass das reine Aufspüren von Softwarefehlern nur einen Teilabschnitt eines Cyberangriffs darstellt.

Um ein System real zu kompromittieren, müssen Fehler verifiziert, priorisiert und ausgenutzt werden, ohne die digitale Infrastruktur vorzeitig zu stören. Zudem erfordert der Betrieb solcher Systeme erhebliche Rechenleistung und spezialisierte Ablaufumgebungen, was eine breite, missbräuchliche Nutzung durch technisch weniger versierte Akteure vorerst einschränkt.

Thorsten Delbrouck, CSO von G+D, ordnet die Dynamik rund um die Veröffentlichung pragmatisch ein: „Das Timing von Anthropic ist perfekt. Durch die Lockerung der Weitergabebeschränkungen für Mythos trifft das Unternehmen die Sicherheitsgemeinschaft genau in dem Moment, in dem viele Teams erkennen, dass es nicht um irgendeine revolutionäre neue Erkenntnis geht, die nur das neueste Modell liefern kann. Die Sorge liegt woanders.”

Laut Delbrouck habe der Marketing-Gag – vom Namen über Gerüchte zur Leistungsfähigkeit bis hin zur künstlichen Verknappung – durchaus einen nützlichen Effekt: “Er lenkt die dringend benötigte Aufmerksamkeit auf ein echtes operatives Problem. KI-Modelle helfen bereits dabei, Software-Schwachstellen zu finden, und sie werden darin immer besser werden. Einfache Fehler treten schnell zutage und werden oft rasch behoben. Mit steigender Modellqualität können Systeme komplexere Schwachstellen aufdecken, beispielsweise indem sie einzelne Probleme zu sinnvollen Angriffsketten verknüpfen, die oft auch schwieriger zu beheben sind.“

Bisher ist erst ein durch KI generierter Zero-Day-Exploit bekannt. Der Angriff wurde gestoppt, noch bevor er seine Wirkung zeigen konnte.

Die Asymmetrie zwischen Erkennung und Behebung

Wie komplex diese Angriffsketten sein können, zeigten jüngst Praxistests des Internet-Infrastrukturunternehmens Cloudflare. Das Modell „Mythos Preview“ erwies sich im Testbetrieb auf der Live-Infrastruktur des Unternehmens als fähig, mehrere eigentlich geringfügige Fehler autonom zu komplexen Bedrohungsszenarien zu verknüpfen und direkt funktionstüchtigen Proof-of-Concept-Code zu generieren. Zwar erzeuge das System laut Cloudflare nach wie vor eine hohe Zahl an Fehlalarmen – insbesondere bei speicherunsicheren Programmiersprachen wie C und C++ –, doch die schiere Menge an validen Funden bringt IT-Sicherheitsteams an ihre Grenzen.

Aus diesem Grund verschiebt sich der Fokus in der Fachwelt weg von der Angst vor dem „Super-Exploit“ hin zur Frage der Bewältigungskapazitäten. Delbrouck sieht hier den kritischen Punkt für Organisationen weltweit:

„Dies geschieht schneller, als die meisten Organisationen bewerten, priorisieren und beheben können. Die Behebung hängt nach wie vor weitgehend von menschlichen Teams mit begrenzter Kapazität ab. In der Lücke zwischen der KI-gesteuerten Erkennung von Schwachstellen und der von Menschen durchgeführten Behebung materialisiert sich das Risiko – für Unternehmen, Regierungen und Betreiber kritischer Infrastrukturen gleichermaßen.”

Aus Delbroucks Sicht rücke das Schwachstellenmanagement zunehmend in den Fokus der Unternehmensleitung. “Führungskräfte benötigen Einblick in ihre Gefährdung, müssen aber auch ihre Reaktionskapazitäten kennen. Unternehmen müssen wissen, wie viel sie beheben können, wie schnell sie dies tun können und wo die Engpässe liegen. Sie müssen Pläne zur Erweiterung dieser Kapazitäten erstellen. Sie müssen auch für den Fall eines Versagens vorsorgen. Was geschieht, wenn diese Kapazitäten erschöpft sind? Rücksichtslos priorisieren, Restrisiken akzeptieren und auf das Beste hoffen? Oder sogar Systeme abschalten?“

Gezielte Exklusivität versus unbefugte Zugriffe

Anthropic hatte den Zugang zu Mythos ursprünglich streng reglementiert. Im Rahmen des Testprogramms „Project Glasswing“ erhielten nur rund 50 ausgewählte Großorganisationen, darunter Amazon, Apple, Microsoft, Nvidia und auch das US-Pentagon, Zugriff auf das System. Zudem verpflichtete der Entwickler die Teilnehmer anfangs zu strikter Vertraulichkeit.

Diese Strategie der künstlichen Eingrenzung erwies sich jedoch in zweifacher Hinsicht als problematisch. Zum einen geriet das Unternehmen politisch unter Druck. Kritiker wie der US-Kongressabgeordnete Josh Gottheimer warnten, dass Geheimhaltungsbestimmungen die kollektive Cyberabwehr behindern, da kleinere Unternehmen nicht rechtzeitig vor identifizierten Risiken gewarnt werden könnten. Anthropic reagierte und lockerte die Beschränkungen: Nutzer dürfen Erkenntnisse nun unter Einhaltung verantwortungsvoller Offenlegungspraktiken an externe Sicherheitsteams, Behörden, Open-Source-Entwickler und die Öffentlichkeit weitergeben.

Zum anderen wurde das Konzept der kontrollierten Sandbox durch Berichte über unbefugte Zugriffe eingeholt. Wie Bloomberg News meldete, gelang es einer kleinen Gruppe von Nutzern in einem privaten Discord-Kanal, die Beschränkungen von „Project Glasswing“ zu umgehen. Ein Gruppenmitglied nutzte dafür seine Position bei einem Drittanbieter von Anthropic. Zudem verwertete die Gruppe strukturelle Erkenntnisse aus einem früheren Datenleck beim Datenverarbeiter Mercor, um den Online-Speicherort des Modells präzise zu bestimmen. Obwohl die Akteure das Modell nach eigenen Angaben bislang primär für harmlose Zwecke wie das Erstellen einfacher Websites verwendeten, unterstreicht der Vorfall die Schwierigkeit, hochentwickelte KI-Modelle dauerhaft unter Verschluss zu halten. Anthropic untersucht den Vorfall, sieht intern jedoch bislang keine Anzeichen für eine Kompromittierung der eigenen Systeme.

Fazit: Investition in die Defensive ist alternativlos

Die Debatte zeigt, dass die Bedrohung durch KI-gestützte Sicherheitswerkzeuge weniger in einer abrupten Transformation der globalen Hacking-Landschaft liegt, sondern vielmehr in einer beschleunigten Asymmetrie. Während Modelle wie Mythos die Hürden für das Auffinden von Schwachstellen senken, bleibt die Behebung ein ressourcenintensiver, oft noch menschlicher Prozess.

Für Unternehmen und Verteidiger resultiert daraus eine klare strategische Priorität, wie Delbrouck abschließend zusammenfasst:

„Mythos ist weniger als Produktgeschichte von Bedeutung, sondern vielmehr als Warnsignal, dass KI die Arbeitslast der Verteidiger überfordern kann. Unternehmen müssen beginnen, in Abwehrkapazitäten zu investieren. Das bedeutet, Prioritäten bei der Behebung von Schwachstellen zu setzen, möglicherweise Produktportfolios anzupassen oder KI in Abwehrprozesse einzubinden (was zugegebenermaßen eine ganz neue Reihe von Problemen mit sich bringt).”

Der Experte für Informationssicherheit apelliert: “Stillstand ist keine Option. Die schiere Menge an Schwachstellen wird die Reaktionsfähigkeit übersteigen.”

--

Dieser Artikel basiert auf Beiträgen unserer Schwester-Website Computing.