Das neue Fundament für Enterprise-KI im deutschen Markt

Deutsche Unternehmen suchen mehr Kontrolle über KI-Modelle, Daten und Infrastruktur. Red Hat setzt dafür auf Open Hybrid Cloud, Small Language Models und die automatisierte Absicherung von Open-Source-Software.

Die Integration generativer Künstlicher Intelligenz (KI) stellt den gehobenen Mittelstand und Großunternehmen in Deutschland vor grundlegende strategische Fragen. Neben regulatorischen Anforderungen gewinnt die operationelle Kontrolle über Modelle und Daten – die sogenannte KI-Souveränität – massiv an Bedeutung. Gleichzeitig verschärft sich die Sicherheitslage, da Angreifer durch den Einsatz von Frontier-KI Schwachstellen in Software-Lieferketten in Minuten statt Wochen ausnutzen können.

Enterprise-Akteure reagieren mit hybriden Cloud-Architekturen, spezialisierten Small Language Models (SLMs) und automatisierten Sicherheitsallianzen wie dem „Project Lightwell“ von IBM, Red Hat und Palo Alto Networks – für eine bessere Balance zwischen Innovationsgeschwindigkeit und digitaler Kontrolle.

Computing sprach auf der GITEX AI Europe 2026 in Berlin mit Gregor von Jagow, Country Manager Germany bei Red Hat u. a. über Open Source, Souveränität, spezialisierte Sprachmodelle für KI und hybride Cloudansätze.

KI-Souveränität im deutschen Markt: Kontrollanspruch und Exit-Strategien

Die Debatte um digitale Souveränität hat im Zuge geopolitischer Veränderungen und der schnellen Verbreitung generativer KI eine neue unternehmerische Dringlichkeit erhalten. Im Vergleich zum europäischen Ausland zeigt der deutsche Markt einen ausgeprägten Qualitäts- und Kontrollanspruch. Laut Umfragen erwarten rund 97 Prozent der IT-Entscheider in Deutschland signifikant mehr Transparenz und Offenheit bezüglich der Funktionsweise von KI-Modellen. Eine aktuelle Studie von Red Hat ergab allerdings, dass nur 51 Prozent der deutschen Unternehmen vollständig nachvollziehen können, wo ihre Daten gespeichert bzw. verarbeitet werden; 46 Prozent haben nur teilweise Einblick; 3 Prozent gaben an, erhebliche Lücken zu haben. Auf der anderen Seite wollen 57 Prozent über eine klar definierte Exit-Strategie („Plan B“) verfügen, um bestehende Anbieterabhängigkeiten (Vendor Lock-in) zu minimieren.

Gregor von Jagow betont im Gespräch, dass KI-Souveränität weit über den bloßen Speicherort der Unternehmensdaten hinausgeht. Sie umfasst die Souveränität der Modelle, der zugrunde liegenden Infrastruktur, des Betriebs sowie der Governance. Da der Open-Source-Plattform-Anbieter Red Hat im Gegensatz zu klassischen Hyperscalern keine eigenen Rechenzentren betreibt und Kundendaten nicht zentral hostet, entfällt das Risiko eines direkten Datenzugriffs durch ausländische Regierungen.

„Unser Geschäftsmodell ist einhundert Prozent Open Source”, sagt von Jagow. Das darauf basierende Subskriptionsmodell biete Anwendern die Flexibilität, Verträge kurzfristig zu beenden und Workloads plattformunabhängig zu migrieren. “Wir stellen Lösungen zur Verfügung, die der Kunde als Plattform einsetzt – egal, wo er es einsetzen möchte.“

Open Hybrid Cloud: Der strategische Wandel zu Small Language Models

In der Enterprise-Praxis zeigt sich laut von Jagow eine Abkehr von monolithischen Cloud-First-Ansätzen hin zu differenzierten hybriden Umgebungen. Während das ressourcenintensive Trainieren von Basismodellen in Public-Cloud-Umgebungen der großen Hyperscaler ökonomisch sinnvoll bleibt, präferieren regulierte Industrien – wie der Finanzsektor oder der öffentliche Dienst (Public Sector) – für die Anreicherung mit sensiblen Unternehmensdaten On-Premise- oder Private-Cloud-Strukturen.

Diese Flexibilität wird durch Cloud-Native-Entwicklungsplattformen wie Red Hat OpenShift ermöglicht, die eine identische funktionale Umgebung über verteilte Infrastrukturen hinweg (Public Cloud, Private Cloud, On-Premise und Bare Metal) bis an den Netzwerkrand (Edge) gewährleisten.

Parallel dazu zeichnet sich im industriellen und Edge-Umfeld ein klarer Trend ab: Während Large Language Models (LLMs) als kostspielige Generalisten agieren, setzen Unternehmen für spezifische B2B-Anwendungsfälle zunehmend auf Small Language Models (SLMs). Diese spezialisierten Modelle bieten erhebliche Vorteile bei der Rechenleistung, den Abfragekosten (Query-Kosten) und der Latenz, was insbesondere im industriellen Edge-Sektor von Bedeutung ist, wo klassische Monolithen an Hardware-Grenzen stoßen.

“Für unterschiedlichste Szenarien muss man unterschiedliche Dinge abbilden“, weiß Gregor von Jagow. „Deswegen ist das Thema Infrastruktur so wichtig: Flexibilität.“

Demokratisierung des Modelltrainings über InstructLab

Um dem akuten Fachkräftemangel („Skill-Gap“) im Data-Science-Bereich zu begegnen, investieren Technologieanbieter in die Demokratisierung des Modellabgleichs. Ein zentraler Ansatz ist das Open-Source-Projekt InstructLab, das von Red Hat und IBM gemeinsam ins Leben gerufen wurde. Es basiert auf dem am MIT-IBM Watson AI Lab entwickelten LAB-Verfahren (Large-scale Alignment for chatBots).

Bisherige Optimierungsmethoden wie klassisches Pretraining oder Reinforcement Learning from Human Feedback (RLHF) sind teuer und ressourcenintensiv. Das InstructLab-Verfahren ermöglicht es Fachabteilungen ohne tiefe Data-Science-Expertise, KI-Modelle wie die Granite-Familie von IBM über eine textbasierte Chat-Schnittstelle direkt anzupassen. Der Prozess gliedert sich in drei Kernschritte:

• Taxonomiegesteuerte Datenkuration: Fachkräfte definieren eine Handvoll präziser Beispiele für neues Wissen oder spezifische Kompetenzen.
• Generierung synthetischer Daten: Das Modell erzeugt auf Basis dieser Eingaben großflächig synthetische Trainingsdaten, die in einem automatisierten Prozess verfeinert und auf Sicherheit und Fundierung geprüft werden.
• Iterative Ausrichtungsabstimmung: Das Modell wird anschließend in einer Wissens- und einer Kompetenztuning-Phase kosteneffizient neu trainiert – ein Prozess, der in der Einstiegsphase selbst auf handelsüblichen Business-Laptops durchgeführt werden kann.

Ergänzt wird dieser Ansatz im Enterprise-Umfeld durch physische „Open Innovation Labs“ (Co-Innovation Labs), bei denen Technologie- und Branchenexperten agile Methoden der Open-Source-Entwicklung direkt auf die Anwendungsmodernisierung der Kunden übertragen. Strategische Allianzen mit lokalen europäischen Cloud-Anbietern wie Ionos, STACKIT (Schwarz Digits) oder T-Systems ergänzen das Ökosystem für souveräne Enterprise-Infrastrukturen.

Automatisierte Cyberabwehr: Das „Shield-and-Fix“-Prinzip im KI-Zeitalter

Die Beschleunigung von Software-Entwicklungszyklen durch KI birgt erhebliche Risiken für die Supply-Chain-Security. Frontier-KI-Modelle sind in der Lage, Schwachstellen in Codebasen in beispielloser Geschwindigkeit zu identifizieren. Laut Berichten von Anthropic konnte das Modell Mythos Preview im Rahmen von Sicherheitsanalysen knapp 3.900 schwerwiegende oder kritische Schwachstellen allein in Open-Source-Software aufdecken. Die Zeitspanne zwischen der Entdeckung einer Sicherheitslücke und deren Ausnutzung (Exploit) ist dadurch von Wochen auf wenige Minuten geschrumpft. Traditionelles Patch-Management kann mit dieser Dynamik nicht mehr Schritt halten.

Als strategische Antwort kündigten IBM und Red Hat Ende Mai 2026 das Project Lightwell an; im Juni 2026 erweiterten sie die Initiative gemeinsam mit Palo Alto Networks. Ziel des Projektes ist es, die kritische Lücke zwischen Schwachstellenidentifikation und Systemhärtung in komplexen Enterprise-, OT- und Healthcare-Umgebungen mit einem integrierten, automatisierten „Shield-and-Fix“-Workflow effektiv zu schließen

„Open Source ist das Rückgrat der heutigen digitalen Wirtschaft und die Grundlage moderner KI, und wir befinden uns an einem Wendepunkt hinsichtlich der Art und Weise, wie sie entwickelt, gesichert und skaliert wird“, bekräftigte Arvind Krishna, Vorstandsvorsitzender und CEO von IBM. „Mit dem Projekt Lightwell tragen IBM und Red Hat dazu bei, ein neues Branchenmodell zu definieren, das KI, technisches Fachwissen und vertrauensvolle Zusammenarbeit vereint, um Open-Source-Software an der Quelle und über die gesamte Lieferkette hinweg zu sichern.“

Die Initiative besteht aus zwei Komponenten:

• Project Lightwell (IBM & Red Hat) fungiert als vertrauenswürdiges Enterprise-Clearinghouse. Unterstützt durch eine globale Belegschaft von über 20.000 Ingenieuren und den Einsatz von autonomen Multi-Agenten-Sicherheitssystemen (IBM Autonomous Security) sowie KI-gestützten Tools wie IBM Concert und Concert Secure Coder sollen Schwachstellen automatisiert direkt in der Entwicklungsumgebung erkannt, analysiert, priorisiert und mit automatisierten Remediation-Vorschlägen adressiert werden.
• Sobald eine neue Schwachstelle identifiziert wird, rollt eine Shield-Komponente (Palo Alto Networks) innerhalb kürzester Zeit sogenannte „Virtual Patches“ aus. Dieser virtuelle Schutzwall blockiert Angriffsversuche auf Netzwerkebene sofort, noch bevor ein offizieller Software-Patch des Herstellers vorliegt, und soll dazu beitragen, die kontinuierliche Betriebsbereitschaft zu gewährleisten.

Dieses konsolidierte Verfahren, das auf Erkenntnissen aus Projekten wie Anthropics Project Glasswing, an dem IBM beteiligt ist, und OpenAIs Trust Access for Cyber aufbaut, wird bereits von führenden globalen Finanzinstituten wie Mastercard, der Bank of America, JPMorgan Chase und Citi evaluiert.

“Unsere Herausforderung ist, die Technik in Business-Themen zu übersetzen“, erklärt von Jagow abschließend in unserem Interview. „All das, worüber wir gesprochen haben, das sind alles Themen, mit denen sich ein Geschäftsführer, ein CFO beschäftigen und auseinandersetzen muss. Und das richtig zu transportieren – das wäre schon eine schöne Geschichte, wenn wir da unseren Beitrag leisten könnten.”