Die Ära der kostengünstigen KI neigt sich dem Ende zu – wie geht es weiter?
KI-Unternehmen können ihre Nutzer nicht ewig subventionieren
Unternehmen blicken zunehmend kritisch auf die steigenden Kosten von KI. Weil viele Projekte noch keinen positiven Return on Investment (ROI) nachweisen können, während die Ausgaben weiter steigen, suchen IT-Verantwortliche nach Möglichkeiten, ihre Budgets gezielter zu steuern.
In einer aktuellen Computing-Umfrage unter 107 britischen IT-Führungskräften gaben 60 % an, sie seien entweder besorgt (30 %) oder sehr besorgt (30 %) über steigende KI-Abonnementkosten, während nur 8 % angaben, sie seien nicht besorgt.
Kostensteigerungen waren zudem mit Abstand der größte Kritikpunkt der Befragten gegenüber KI-Anbietern – von 43 % genannt –, während Compliance- und Datenverarbeitungsprobleme mit 25 % weit abgeschlagen an zweiter Stelle lagen.
Warum schießen die KI-Preise in die Höhe?
Das Bild ist überraschend komplex. KI-Anbieter würden argumentieren, dass die Preise tatsächlich sinken – und auf Token-Basis betrachtet trifft dies auch zu. Eine Analyse auf Basis des Stanford AI Index 2025 legt nahe, dass die Kosten für das Erreichen einer Leistung auf GPT-3.5-Niveau zwischen Ende 2022 und Ende 2024 um mehr als das 280-Fache gesunken sind, da effizientere Modelle den Rechenaufwand pro Aufgabe drastisch reduzierten.
Für Finanzvorstände ist diese Kennzahl jedoch von begrenzter Relevanz, da sie sich weitaus mehr mit den monatlichen oder jährlichen Gesamtkosten für KI beschäftigen – und diese sind stetig gestiegen. „Intelligenz pro Pfund“ ist eigentlich das, was Unternehmen maximieren möchten.
Ein Teil dieser Entwicklung ist auf die deutlich gestiegene Nutzung von KI-Tools zurückzuführen. Anwendungen verbreiten sich zunehmend im gesamten Unternehmen, während Proof-of-Concept-Projekte in den Produktivbetrieb übergehen – also genau in jene Phase, die viele Organisationen derzeit erreichen. In mehr als der Hälfte der befragten Unternehmen werden KI-Tools inzwischen von den meisten Wissensarbeitern (37 %) oder unternehmensweit (17 %) genutzt.
Diese wachsende Nachfrage fällt in eine Phase, in der KI-Anbieter sich zunehmend von günstigen Einstiegs- und Freemium-Modellen lösen, um ihre Geschäftsmodelle profitabler zu machen.
Unterschätzte Kosten
Angesichts der rasanten Entwicklung der Branche ist es nicht verwunderlich, dass Kostenschätzungen für KI-Einführungen äußerst ungenau sein können. Was in der Pilotphase einfach und kostengünstig erscheint, kann sich bei der Skalierung in die Produktion als weitaus komplexer und kostspieliger erweisen.
Der Token-Verbrauch kann mit zunehmender Projektgröße dramatisch ansteigen, doch die meisten Mitarbeiter haben kaum Einblick darin, wie viel sie tatsächlich verbrauchen. In einigen Fällen haben Unternehmen sogar eine intensive Nutzung gefördert – eine zweifelhafte Praxis, die als Tokenmaxxing bekannt ist –, in der Hoffnung, sich einen Wettbewerbsvorteil zu verschaffen. Bislang haben die meisten Unternehmen die Kosten für KI-Lizenzen einfach hingenommen und sie gegen das Versprechen einer gesteigerten Produktivität abgewogen, doch das beginnt sich nun zu ändern.
Unternehmen beginnen, eine Kapitalrendite für KI-Tools zu erkennen, unter anderem bei Anwendungsfällen im Kundenservice, bei der Klassifizierung und bei der Kodierung.
Die Modelle werden besser – und „hungriger“
Wenn sich die meisten Menschen ein GenAI-Tool vorstellen, denken sie an einen Chatbot oder Copiloten, bei dem im Hintergrund ein LLM läuft. In der Regel handelt es sich dabei um ein Spitzenmodell wie Claude 4 oder GPT-5, und diese leistungsstarken Modelle sind weitaus leistungsfähiger als noch vor zwei Jahren – daher auch die anhaltende Zahlungsbereitschaft – zumindest vorerst.
Diese erweiterten Fähigkeiten – darunter fortgeschrittenere Schlussfolgerungen und größere Kontextfenster – haben jedoch ihren Preis. Sie verbrauchen tendenziell mehr Token pro Aufgabe, was die Gesamtkosten erhöht, selbst wenn die Preise pro Token sinken. Mit anderen Worten: Die Ausführung derselben Aufgabe kann nun teurer werden.
Und es sind nicht nur die Modelle. Der Aufstieg von KI-Agenten sorgt für eine weitere Ebene der Komplexität. Agenten koordinieren Arbeitsabläufe, indem sie mehrere Modelle und Tools aufrufen, was den Token-Verbrauch erheblich steigern kann.
Axis Intelligence schätzt, dass „versteckte“ Notwendigkeiten – darunter Governance, Sicherheit und Support – die Projektkosten auf das Zwei- bis Vierfache der ursprünglichen Prognosen erhöhen können.
Die Preismodelle ändern sich
Bis vor kurzem wurden viele generative KI-Tools zu subventionierten Preisen angeboten, da die Anbieter versuchten, Marktanteile zu gewinnen. Das ändert sich nun, da die Anbieter zu einer nachhaltigen, gewinnorientierten Preisgestaltung übergehen – teilweise getrieben durch den Druck der Investoren und in einigen Fällen durch Börsengänge.
Für reine KI-Unternehmen ist es jedoch eine große Herausforderung, Gewinne zu erzielen. Die zugrunde liegenden Kosten für den Aufbau und den Betrieb der KI-Infrastruktur sind erheblich und werden es auch weiterhin sein. Rechenzentren, GPUs und Speicher mit hoher Bandbreite erfordern erhebliche Kapitalinvestitionen und häufige Erneuerungszyklen, während das Trainieren und Ausführen von Modellen enorm energieintensiv ist.
Neben den hohen Investitionskosten haben KI-Unternehmen und ihre Geldgeber bislang einen großen Teil der Inferenzkosten ihrer Kunden getragen – also jener Nutzung, die ebenfalls stark zunimmt. Mit jeder Anfrage entstehen Kosten, die sich bei hoher Nutzung schnell summieren. Dieses Modell dürfte auf Dauer kaum tragfähig sein.
Da sie bestrebt sind, massive operative Verluste in nachhaltige Gewinne umzuwandeln, ist es unvermeidlich, dass KI-Unternehmen ihre Preise weiter anheben werden. Es bleibt nur abzuwarten, um wie viel, in welchem Umfang die Kunden bereit sind, diese Belastungen zu tragen, und wie leicht es für sie sein wird, zwischen Anbietern zu wechseln. Sicherlich haben viele bereits Schwierigkeiten, sich in dieser sich schnell verändernden Landschaft zurechtzufinden.
Wie es ein Manager eines Technologieunternehmens formulierte: „Es wird zunehmend zu einer Herausforderung, sich für einen einzigen Anbieter zu entscheiden, da im Laufe der Zeit verschiedene KI-Modelle mit neuen Funktionen und höherer Geschwindigkeit auf den Markt kommen. Ältere Modelle sind innerhalb kürzester Zeit veraltet. Sich auf das Modell eines einzelnen Anbieters zu verlassen, ist nicht mehr zeitgemäß, und der Erwerb zu vieler Modelle verursacht zusätzliche Kosten.“
Unternehmen neigen dazu, standardmäßig auf etablierte Anbieter zurückzugreifen, um KI-Tools zu beziehen.
Die meisten Unternehmen nutzen LLMs über APIs, über Cloud-Plattformen oder über in SaaS-Anwendungen eingebettete Funktionen. Zwar gaben 24 % der Befragten an, Modelle selbst zu hosten, doch nur eine kleine Minderheit verlässt sich ausschließlich auf diesen Ansatz.
Damit bleibt die überwiegende Mehrheit der Unternehmen den Preisänderungen der Anbieter ausgesetzt.
Zwar hosten 24 % der Befragten Modelle lokal, doch nur ein Fünftel dieser Zahl (5 % der Gesamtzahl) verlässt sich ausschließlich auf diesen Ansatz, was bedeutet, dass fast alle Unternehmen Preisänderungen der Anbieter ausgesetzt sind.
Die Preise werden nicht ewig weiter steigen
Es gibt jedoch gegenläufige Trends, die auf langfristig sinkende Kosten hindeuten.
Effizienzsteigerungen haben die Inferenzkosten in den letzten Jahren erheblich gesenkt – einigen Analysen zufolge um bis zu drei Größenordnungen –, wobei jede neue Generation von GPUs den Inferenzdurchsatz pro Stückpreis um das Zwei- bis Dreifache steigert.
Chinesische Modelle wie DeepSeek, Kimi und zuletzt GLM 5.2 zeigen, dass leistungsfähige oder nahezu gleichwertige Systeme zu einem Bruchteil des Preises verfügbar sein können. Möglich wird dies unter anderem durch Mixture-of-Experts-Architekturen, eine konsequente Optimierung der Inferenz-Effizienz, den Einsatz kostengünstigerer Hardware, effizientere Trainingsverfahren und Destillation.
Die GPU-Preise haben begonnen, sich zu stabilisieren, und alternative Hardware wie TPUs und NPUs bietet eine größere Auswahl sowohl für das Training als auch für die Inferenz – auch wenn das Angebot an Speicher mit hoher Bandbreite weiterhin begrenzt ist.
Zudem verbessern sich die Kontrollmöglichkeiten. Anbieter wie Microsoft, AWS und Databricks führen Kostenkontrollen und Überwachungs-Dashboards ein, die denen in Cloud-Diensten ähneln, und verschaffen Unternehmen so einen besseren Überblick über ihre Ausgaben.
Lesen Sie auf der nächsten Seite, was Sie tun können, um die Kosten zu kontrollieren bzw. sogar zu senken.
Was können Unternehmen tun, um ihre KI-Kosten zu senken?
18 % der Befragten geben an, dass KI bereits einen Mehrwert liefert. Steigende Kosten könnten diese positiven Effekte jedoch gefährden. Es gibt allerdings mehrere Ansätze, mit denen Unternehmen ihre KI-Ausgaben wirksamer steuern können.
Passen Sie das Modell an den Anwendungsfall an: Eine der einfachsten Maßnahmen besteht darin, nicht automatisch auf die modernsten Modelle zurückzugreifen. Viele gängige Aufgaben – wie Zusammenfassung, Klassifizierung und Übersetzung – lassen sich mit kleineren, kostengünstigeren Modellen effektiv bewältigen.
Leistungsstarke Schlussfolgerungsmodelle sollten auf Bereiche beschränkt werden, in denen sie wirklich einen Mehrwert schaffen können, wie beispielsweise Anwendungsfälle in den Bereichen Recht, Compliance und Finanzmodellierung. Und warum generative KI einsetzen, wenn eine Suchmaschine oder traditionelles maschinelles Lernen besser geeignet ist?
Wenden Sie Context Engineering an: Context Engineering bedeutet, Tokens (den Kontext) so zu optimieren, dass genau die gewünschte Ausgabe ohne überflüssige Informationen erzielt wird. Dazu gehört die Verwaltung von Systemaufforderungen, des Nachrichtenverlaufs und von Eingaben aus anderen Tools.
Andrey Karpathy, Mitbegründer von OpenAI, beschreibt dies als „die feine Kunst und Wissenschaft, das Kontextfenster mit genau den richtigen Informationen für den nächsten Schritt zu füllen“.
Ziehen Sie kleinere oder spezialisierte Modelle in Betracht: Für viele Aufgaben sind kleine Sprachmodelle (SLMs), die auf domänenspezifischen Daten trainiert wurden, besser geeignet und wesentlich kostengünstiger als riesige LLMs, insbesondere wenn sie selbst gehostet werden oder Teil eines agentenbasierten Workflows sind.
Wählen Sie Modelle mit geringeren Inferenzkosten: Die Preisunterschiede zwischen weitgehend gleichwertigen Modellen können erheblich sein.
Open-Source-Modelle bzw. Modelle mit gewichteter Argumentation wie Chinas DeepSeek und Qwen sind derzeit bis zu 15-mal kostengünstiger im Betrieb als gleichwertige proprietäre Modelle von OpenAI und Anthropic – auch wenn hinsichtlich ihrer Nutzung möglicherweise Compliance-Bedenken bestehen. Zahlreiche Open-Source-LLM-Alternativen, darunter solche von Mistral und Meta, sowie Tausende kleinerer Modelle finden sich auf Plattformen wie Hugging Face.
Interessanterweise hat Satya Nadella von Microsoft kürzlich angedeutet, dass sich das Unternehmen zunehmend zu einem plattformunabhängigen Anbieter entwickeln will, der kostengünstigere Modelle wie DeepSeek hostet, anstatt sich wie bisher überwiegend auf die Modelle von OpenAI zu verlassen.
Vermeiden Sie Anbieterabhängigkeit: Angesichts des rasanten Wandels sollten Unternehmen es vermeiden, sich zu stark von einem einzigen Anbieter abhängig zu machen, auch wenn ein Multi-Vendor-Ansatz komplexer zu verwalten ist.
Planen Sie für Skalierbarkeit: Die Kosten steigen oft stark an, wenn der Übergang vom Pilotprojekt in den Produktivbetrieb erfolgt. Unternehmen sollten diese Szenarien sorgfältig modellieren – einschließlich der versteckten Anforderungen an Sicherheit und Governance – und sich an neuen Best Practices orientieren, um unangenehme Überraschungen zu vermeiden.
Wählen Sie das richtige Preismodell für den Anwendungsfall: KI-Preismodelle variieren stark – von der von Microsoft Copilot und anderen genutzten Lizenzierung pro Arbeitsplatz über nutzungsbasierte Abrechnung auf Basis von Tokens oder API-Aufrufen bis hin zu selbst gehosteten Setups, bei denen der Nutzer lediglich die Infrastrukturkosten trägt.
Das Modell pro Arbeitsplatz ist finanziell nur dann sinnvoll, wenn die KI sehr breit eingesetzt wird. Workloads mit hohem Volumen und hohem Token-Verbrauch sollten nach Möglichkeit auf eine Abrechnung pro API-Aufruf oder auf gehostete Lösungen umgestellt werden. Eine Hybrid-Cloud-Lösung mit einer Mischung aus On-Premises- und Cloud-Komponenten, die von einem Agenten koordiniert wird, könnte ein erstrebenswertes Ziel sein.
Optimieren Sie das Datenmanagement: Techniken wie „Retrieval-Augmented Generation“ (RAG) können die Effizienz der internen Dokumentensuche verbessern, während die Reduzierung von Doppelungen bei den Datenquellen die Verarbeitungskosten senken kann. Langfristig wird eine bessere Dateninfrastruktur wesentlich zur Steigerung der Effizienz beitragen.
Schulen Sie die Benutzer: Übermäßige Eingabeaufforderungen, der Einsatz eines LLM, wenn eine Suchmaschine besser geeignet wäre, die unnötige Wiederholung von Aufgaben sowie die Verwendung großer Modelle, wenn kleinere ausreichen würden – all dies verursacht unnötige Kosten.
Fazit
Die Ära der kostengünstigen KI auf Basis der bekannten US-amerikanischen LLMs neigt sich dem Ende zu. Was als Nächstes kommt, wird stark davon abhängen, wie lange die Märkte davon überzeugt bleiben, dass fortgesetzte Investitionen in die Infrastruktur Renditen bringen werden.
Langfristig werden die größten Einsparungen nicht allein durch kostengünstigere Modelle erzielt, sondern durch eine bessere Architektur, eine intelligentere Modellauswahl und eine strengere Steuerung. Wie bereits zuvor beim Cloud-Computing werden Unternehmen, die KI-Ausgaben als eine ingenieurwissenschaftliche Disziplin betrachten – und nicht lediglich als Beschaffungsentscheidung –, am besten in der Lage sein, die Kosten zu kontrollieren.
--
Dieser Artikel erschien ursprünglich auf unserer Schwester-Website Computing.