Project Glasswing: Die Geister, die ich rief

Das Tauziehen um Anthropics KI-Modell Claude Mythos Preview hat begonnen

Von der geschlossenen Testphase direkt in die Schattenwelt: Während Notenbanker und Regulierer noch kontrollierten Zugang zu Anthropics neuem Wunder-Modell fordern, haben sich Unbefugte bereits über die Hintertür Zutritt verschafft. Der Vorfall wirft ein Schlaglicht auf das größte Dilemma der KI-Sicherheit: Kann man eine Software, die jede Lücke findet, überhaupt selbst wegsperren?

Claude Mythos Preview (CMP) ist darauf spezialisiert, Code-Architekturen autonom zu scannen, Schwachstellen zu identifizieren und – das ist der kritische Punkt – sofort funktionierende Exploits zu deren Validierung zu schreiben. Mit seinem Projekt Glasswing wollte KI-Pionier Anthropic demonstrieren, dass generative KI nicht nur Schwachstellen finden, sondern den Cyberraum auch sicherer machen kann. Es sollte der Goldstandard für „Sovereign AI“ und defensive Cybersicherheit werden.

Doch die Realität hat die Ambitionen des Unternehmens in dieser Woche mit voller Härte eingeholt. Während die Welt noch über Zugangsrechte debattiert, kursieren im digitalen Schatten bereits die ersten Screenshots eines erfolgreichen Einbruchs.

Ein fragiler Käfig

Eigentlich wollte Anthropic CMP unter strengster Quarantäne halten. Unter dem Codenamen Project Glasswing startete eine Initiative, die das Modell nur einem handverlesenen Kreis von Sicherheitsfirmen, Wissenschaftlern und staatlichen Akteuren zur Verfügung stellen sollte. Das Ziel: Die kritische Infrastruktur (KRITIS) härten, bevor das Modell der breiten Öffentlichkeit zugänglich gemacht wird.

Doch wie nun bekannt wurde, ist das Glas bereits zerbrochen. Eine Gruppe von Nutzern auf einem privaten Discord-Server behauptet, seit dem ersten Tag Zugriff auf Mythos zu haben. Die Ironie dabei: Die Angreifer nutzten keine hochkomplexen Zero-Day-Exploits gegen die KI-Infrastruktur, sondern das schwächste Glied der Kette – den Menschen. Ein Insider bei einem Drittanbieter von Anthropic sowie die geschickte Kombination aus automatisiertem Web-Scanning und dem Erraten von URL-Strukturen (basierend auf Datenfragmenten aus dem Mercor-Leck Anfang des Jahres) reichten aus.

Besonders pikant: Die Gruppe nutzt Mythos derzeit offenbar trivial für das Erstellen von Websites, um unter dem Radar der Anomalie-Erkennung zu bleiben. Doch das Potenzial für einen Sicherheitsgau ist immens. Interne Tests zeigten, dass CMP in der Lage ist, Tausende kritischer Fehler in gängigen Betriebssystemen und Browsern zu finden.

Bundesbank-Chef Nagel: „Wettbewerb der Verteidiger“

Während Anthropic noch versucht, das Ausmaß des Leaks zu verschleiern („keine Hinweise auf Kompromittierung der Hauptsysteme“), meldet sich die Politik mit einer Forderung zu Wort, die die Sicherheitsdebatte auf den Kopf stellt. Joachim Nagel, Präsident der Deutschen Bundesbank, warnte am Dienstag in Rom vor einem asymmetrischen Sicherheitsrisiko.

Seine Argumentation: Wenn ein Modell wie Mythos existiert, das in der Lage ist, die oft Jahrzehnte alte IT-Infrastruktur des Finanzsektors (Stichwort: Legacy-Systeme auf COBOL-Basis) binnen Sekunden zu knacken, dann dürfen die Verteidiger nicht entwaffnet werden. „Alle relevanten Institutionen sollten Zugang zu einer solchen Technologie haben, um Wettbewerbsverzerrungen zu vermeiden“, so Nagel laut Reuters.

Nagels Sorge ist begründet: Im eng vernetzten Bankenwesen könnte ein einzelner, KI-gesteuerter Angriff auf eine veraltete Schnittstelle eine Kettenreaktion im globalen Finanzsystem auslösen. Wenn nur eine „ausgewählte Gruppe“ von Firmen (die Teilnehmer von Glasswing) über die defensiven Fähigkeiten verfügt, bleiben kleinere Banken und staatliche Institutionen schutzlos zurück.

Inflation durch Algorithmen?

Interessanterweise weitet Nagel seine Kritik auf die Ökonomie aus. Er warnt davor, dass Modelle wie Mythos nicht nur Code, sondern auch Märkte manipulieren könnten. KI-Algorithmen könnten lernen, Preise oberhalb des Wettbewerbsniveaus zu stabilisieren, ohne dass eine explizite Absprache zwischen Menschen stattfindet – eine Form von „algorithmischer Kollusion“, die die Inflation antreiben könnte.

Für Zentralbanker eine Horrorvorstellung: Eine Inflation, die nicht durch Geldmenge oder Lieferketten, sondern durch autonome Softwareentscheidungen befeuert wird.

Fazit

Die Causa Mythos markiert – erneut – einen Wendepunkt in der KI-Entwicklung. Die Strategie der „Security by Obscurity“ (Sicherheit durch Geheimhaltung) ist im Zeitalter der KI endgültig gescheitert.

Die Situation ist paradox:

• Die Entwickler wollen das Modell einsperren, um Missbrauch zu verhindern.
• Die Schattenwelt verschafft sich bereits eigenmächtig Zutritt und demonstriert die Fragilität der Lieferketten.
• Die Regulierer fordern den Breitenzugang, um eine Verteidigungsfähigkeit herzustellen – was wiederum das Risiko einer weiteren Verbreitung erhöht.

Für IT-Verantwortliche bedeutet dies einmal mehr: Die Zeit der passiven Sicherheit ist vorbei. Wenn Tools wie Mythos im Umlauf sind, wird das Patchen von Systemen zum Wettlauf gegen eine Maschine, die niemals schläft.

Während die einen noch höflich um Einlass bitten, sind die anderen längst im System.

Die Frage ist nicht mehr, ob man angegriffen wird, sondern ob man die gleiche KI zur Verfügung hat, um den Angriff in Echtzeit zu parieren.