#unpluggedit: Zwischen autonomen Agenten und photonischen Träumen

In ihrer Kolumne beschäftigt sich die Computing-Herausgeberin mit den zentralen Fragen rund um Technologie und Verantwortung.

Die Geschwindigkeit, mit der sich unsere technologische Basis transformiert, hat in dieser Woche erneut ein atemberaubendes Tempo vorgelegt. Was bislang als Innovation galt, rückt unaufhaltsam in den Standardbetrieb vor: KI-Systeme, die eigenständig planen, Entscheidungen treffen und Prozesse orchestrieren (Agentic AI).

Auch in Deutschland setzen Konzerne und größere Mittelständler zunehmend auf solche autonomen Agenten – nicht aus Spieltrieb, sondern aus Notwendigkeit. Produktivität, Fachkräftemangel und steigende Komplexität lassen wenig Spielraum. Der Unterschied zu klassischen GenAI-Tools ist fundamental: Agentic AI handelt. Sie verbindet Systeme, Datenquellen und Tools – und wird damit selbst Teil der operativen Infrastruktur. Wer hier experimentiert, experimentiert nicht mehr im Sandkasten. Governance, Nachvollziehbarkeit und Sicherheit werden zu C-Level-Themen, ob man will oder nicht.

Während Angriffe auf klassische IT zunehmen, geraten nun auch die Grundbausteine moderner KI-Anwendungen ins Visier. In den weitverbreiteten Frameworks LangChain und LangGraph wurden gravierende Schwachstellen entdeckt, die unter anderem das Umgehen von Sicherheitsmechanismen, Dateizugriffe sowie die Exfiltration von Geheimnissen ermöglichen. Bemerkenswert ist nicht nur die Lücke selbst, sondern auch ihre Reichweite: LangChain ist faktisch das Rückgrat unzähliger Agentic-AI-Projekte.

Und noch etwas ist brisant: das Timing! Anthropic hat mit Claude Mythos Preview gezeigt, wie KI-Modelle autonom jahrzehntealte Zero-Day-Lücken finden – und aus ihrer sicheren Umgebung ausbrechen können. Damit hat das Wettrüsten erst richtig begonnen, und Anthropic hält sein extrem leistungsfähiges KI-Modell bewusst unter Verschluss. Nicht, weil es ausgebrochen ist oder selbstständig Schwachstellen findet – sondern weil es diese auch in bisher nie gekannter Form verbinden und ausnutzen könnte ☝️ Damit wird KI endgültig zum Angriffswerkzeug und Verteidigungssystem zugleich.

Während Unternehmen Agenten ausrollen, versucht die EU den strukturellen Rückstand aufzuholen. Souveräne KI braucht eben nicht nur Modelle, sondern vor allem Infrastruktur: Rechenzentren, spezialisierte Chips – eigene Fertigungstiefe. Mit 211 Millionen Euro fördert die EU in Italien die Entwicklung photonischer Chips. Diese Technologie, die Licht statt Elektronen zur Datenverarbeitung nutzt, soll der Schlüssel sein, um den immensen Energiehunger künftiger KI-Modelle zu bändigen.

Zusammen mit dem 400-Millionen-Euro-Forschungspaket festigt der EU-KI-Aktionsplan den Anspruch, bei der Infrastruktur für das nächste Jahrzehnt nicht nur Zuschauer zu sein. Ob das reicht, um mit den USA und China mitzuhalten, ist offen – aber erstmals geht es nicht nur um Regulierung, sondern auch um industrielle Substanz. Mein Fazit der Woche? Die Werkzeuge werden mächtiger, aber die Angriffsflächen bleiben noch mächtiger, und Autonomie skaliert schneller als Kontrolle. Für IT-Verantwortliche bedeutet das den Übergang von der Prozessbegleitung zur Orchestrierung autonomer Einheiten. Behalten Sie AI-Governance auf der Roadmap.

Der Für-mehr-IT-Security-Tipp der Woche

Die unsichtbare Gefahr in der Lieferkette: Moderne IT-Infrastrukturen gleichen einem Spinnennetz. Durch Schnittstellen (APIs) und digitale Zugriffsschlüssel (Token) sind unsere Systeme eng mit Drittanbietern verzahnt, wodurch die Sicherheit des Partners unmittelbar zu unserer eigenen wird – ein einziger kompromittierter Token bei einem Dienstleister kann Angreifern Tür und Tor zu Ihren sensibelsten Daten öffnen.

CISOs müssen von ihren Partnern Transparenz über deren interne Absicherung verlangen. Ein SOC2-Bericht allein reicht nicht aus, wenn die Token-Verwaltung lückenhaft ist.

Checkliste für Ihre Schnittstellen-Sicherheit:

• Rechte minimieren: Gewähren Sie Drittanbietern nur so viel Zugriff wie unbedingt nötig (z. B. „Read-Only“ statt Vollzugriff).
• Token-Hygiene: Überprüfen und rotieren Sie API-Token regelmäßig; trennen Sie ungenutzte Verbindungen sofort.
• Anomalien erkennen: Achten Sie auf ungewöhnliche Datenbewegungen oder auf Logins über Service-Accounts, die außerhalb der normalen Geschäftszeiten oder von fremden Standorten aus erfolgen.
• IP-Beschränkungen: Limitieren Sie, wenn möglich, den Zugriff von Partner-Tools auf deren jeweiligen IP-Adressbereiche.

☝️ Sichern Sie nicht nur den Haupteingang, sondern prüfen Sie regelmäßig, wer die Schlüssel zu den Seiteneingängen besitzt!

--

Sie wollen mehr #unpluggedit? Werden Sie Teil unserer Community und abonnieren Sie unseren Newsletter oder folgen Sie uns auf WhatsApp.