Above C Level: Das vergessene Fundament der KI-Transformation

Warum viele KI-Projekte im POC stecken bleiben – und was Unternehmen jetzt ändern müssen

Hardware ist verfügbar, Modelle sind leistungsfähig – trotzdem scheitern viele KI-Projekte. Häufig fehlt es an operativer Reife, klaren Prozessen und einem belastbaren Betriebsmodell für KI. Das ist die zentrale Botschaft von Sebastian Scheele, CEO und Co-Founder von Kubermatic, im Gespräch mit Computing Deutschland.

Zwar bleibt die Verfügbarkeit von Hardware – insbesondere von GPUs – ein relevantes Thema. Doch selbst dort, wo entsprechende Ressourcen vorhanden sind, kommen viele Unternehmen nicht über ein Proof of Concept hinaus. Der Kern des Problems: KI wird technisch eingeführt, ohne sie betrieblich zu Ende zu denken.

Die Herausforderungen ähneln dabei stark denen aus der frühen Cloud-Native- und Microservices-Ära. Fragen nach Skalierung, Verfügbarkeit, Betrieb und Ownership stellen sich erneut – allerdings in deutlich höherer Geschwindigkeit und mit zusätzlicher Komplexität durch KI-Workloads.

Besonders deutlich wird der kulturelle Bruch zwischen Rollen: Während Data Scientists sich auf Modelle konzentrieren, fehlen häufig Betriebserfahrung und ein gemeinsames Verständnis dafür, wie KI-Systeme zuverlässig in Produktion laufen sollen. Kubernetes-Cluster lassen sich zwar schnell aufsetzen – doch ein „AI-ready“-Label entsteht dadurch noch lange nicht.

Mit KI verändert sich auch der Softwareentwicklungsprozess selbst. Klassisches CI/CD stößt dort an Grenzen, wo sich nicht nur Code, sondern auch Modelle, Prompts und Daten dynamisch verändern. Hinzu kommt: KI-generierter Code führt zu einer Flut von Pull Requests – und überlastet bestehende Review-Mechanismen.

Statt jede Codezeile manuell zu prüfen, rückt eine neue Frage in den Fokus: Was war die eigentliche Intention hinter dem Code? Laut Scheele wird es immer wichtiger, im Review-Prozess auch die verwendeten Prompts, den Kontext und die kritischen Codepfade sichtbar zu machen. Der Review verschiebt sich vom Detail zur Risikobewertung.

Das verändert DevOps grundlegend. KI-gestütztes Entwickeln erfordert neue Rollen, neue Prozesse – und ein anderes Verständnis von Qualitätssicherung.

The Human in the Loop

Trotz zunehmender Automatisierung sieht Scheele den Menschen weiterhin als unverzichtbaren Bestandteil im Entwicklungs- und Betriebszyklus. Insbesondere dort, wo Verantwortung getragen werden muss, bleibt Human in the Loop entscheidend.

Gleichzeitig verschiebt sich der Fokus: KI kann zunehmend Vorarbeiten übernehmen – etwa beim Review von Pull Requests durch ein zweites Modell oder bei der Zusammenführung relevanter Informationen. Der Mensch trifft am Ende die Entscheidung, mithilfe KI-gestützter Analyse.

Neue Risiken durch alte Versäumnisse

Wenn über KI-Sicherheit gesprochen wird, dominieren oft Schlagworte wie Prompt Injection oder manipulierte Modelle. In der Praxis beobachtet Scheele jedoch ganz andere Risiken: klassische Security-Basics werden vernachlässigt. Ungeschützte APIs, zu weitreichende Zugriffsrechte und fehlende Governance gefährden das Vertrauen in KI-Systeme.

Das Risiko verschärft sich durch die Natur der KI selbst. Anders als Menschen nutzt sie vorhandene Freiheiten konsequent und in enormer Geschwindigkeit aus. Ein einmal vergebener Zugriff bleibt präsent – und wird genutzt, sobald er relevant erscheint.

Die Konsequenz: Unternehmen müssen bekannte Sicherheitsprinzipien konsequenter denn je umsetzen – Least Privilege, klare Zugriffskontrollen und saubere Systemabgrenzung. Neu sind weniger die Regeln als deren Bedeutung im Maßstab von KI.

Budget-Probleme: Warum Basics so schwer zu verkaufen sind

Ein strukturelles Problem bleibt die Budgetverteilung. Während „shiny“ neue Modelle und Funktionen leicht Aufmerksamkeit erzeugen, gelten Security- und Betriebsgrundlagen als unattraktiv. Erst nach einem Vorfall gewinnen sie Priorität.

Scheele rät Verantwortlichen, stärker aus der Vergangenheit zu argumentieren: Die Geschwindigkeit, mit der Schwachstellen durch KI ausgenutzt werden können, verändert das Risiko fundamental. Was früher ignoriert werden konnte, wird heute schnell existenzbedrohend.

Eigenes Modell? Meist die falsche Frage

Wo sollten Unternehmen investieren? Eigene Modelle von Grund auf zu entwickeln, sei in den wenigsten Fällen sinnvoll. Stattdessen setzen viele Organisationen auf Inference und Anpassung bestehender (Open-Source‑)Modelle.

Die Herausforderung liegt im skalierbaren und zuverlässigen Betrieb. Dabei stellt sich vor allem die Frage nach dem Betriebsort. Die Cloud ist nicht automatisch günstiger oder besser. Entscheidend ist, wo die Daten entstehen. In industriellen und hochregulierten Szenarien bleiben On-Premises oder Edge unverzichtbar – oft in hybriden, verteilten Architekturen.

KI als Organisationsaufgabe

Am Ende führt Scheele das Thema zurück auf eine einfache, aber unbequeme Erkenntnis: KI-Projekte scheitern selten an Technologie, sondern an Vorbereitung, Prozessen und Governance. Wer den geschäftlichen Mehrwert nicht klar definieren kann, wer Prozesse, Know-how und Betrieb nicht mitdenkt, wird auch mit leistungsfähigen Modellen keinen nachhaltigen Erfolg erzielen.

KI vereinfacht vieles – erzeugt aber gleichzeitig einen wachsenden Software‑Zoo, der gemanagt, gewartet und abgesichert werden muss. Software bleibt, Entwickler bleiben – aber ihre Werkzeuge, Rollen und Verantwortlichkeiten verändern sich grundlegend.

Kurzfazit für IT-Verantwortliche

• KI-Reife ist eine Frage des Betriebs, nicht der Hardware
• Entwicklungs- und Review-Prozesse müssen neu gedacht werden
• Security-Basics sind entscheidender als KI-spezifische Abwehrmechanismen
• Cloud oder On-Prem ist die falsche Dichotomie – Use Cases entscheiden
• KI ist eine strategische Organisationsaufgabe

Die ganze Episode hören: