„Wohin fließt das ganze Geld?“ – Google-Kunden über den Umgang mit den steigenden Kosten der KI

Verantwortliche mussten bereits skeptische Mitarbeiter an der Basis überzeugen. Jetzt ist die Führungsebene dran.

KI-Anwender haben die Phase hinter sich gelassen, in der sie wie Kinder im Süßwarenladen alles mitnahmen, was verfügbar war. Stattdessen verfolgen sie zunehmend einen durchdachteren, ergebnisorientierten Ansatz – auch wenn der Nachweis des ROI weiterhin schwierig bleibt.

„Nur weil man sieht, dass man 100 Millionen Pfund ausgegeben hat und 100 Millionen Pfund im Budget vorgesehen waren, bedeutet das noch lange nicht, dass dadurch Mehrwert entstanden ist“, sagte Hayley McKelvey, Chief AI Officer bei Deloitte, während einer Podiumsdiskussion auf dem Google Cloud Summit in London in der vergangenen Woche.

Die Suche nach Mehrwert führt dazu, dass agentische KI derzeit einen „Perfect Storm“-Moment erlebt. Gerade als die Technologie bereit scheint, den Durchbruch in den Mainstream zu schaffen, sind die Token-Kosten deutlich gestiegen. KI-Entwickler erkennen zunehmend, dass sie es sich nicht dauerhaft leisten können, die Einführung zu subventionieren.

Da KI-Agenten halbautonom große Mengen an Token verbrauchen können, überrascht es kaum, dass Jo Drake, CTO von THG Ingenuity, erklärte, ihr Führungsteam frage sich zunehmend: „Wohin fließt all dieses Geld?“

Es beginnt an der Basis

Traditionell hat die IT-Abteilung neue Produkte gekauft, um Herausforderungen zu lösen – und anschließend weitere Produkte, um die durch die erste Tranche entstandenen Probleme zu beheben. Um den Nutzen von KI voll auszuschöpfen, ist jedoch ein anderer Ansatz erforderlich.

Bei dieser Technologie geht es nicht allein um Werkzeuge. Sie erfordert auch ein neues Betriebsmodell – doch sowohl auf operativer Ebene als auch in der Führung kann es schwierig sein, dafür Unterstützung zu gewinnen.

Mitarbeiter an vorderster Front sind nachvollziehbarerweise besorgt über mögliche Arbeitsplatzverluste und haben häufig nicht die Zeit, sich in die KI-Systeme einzuarbeiten, die ihre Arbeit erleichtern könnten. Dieses mangelnde Verständnis führt zu „einer wirklich instinktiven Angstreaktion“, so Hayley.

„Wenn Unternehmen und Führungskräfte diese hochgradig emotionale Reaktion wirklich nutzen können … dann beschleunigt sich der Fortschritt erheblich. Können Sie ein Umfeld des Vertrauens und der Sicherheit für die Menschen schaffen, indem Sie ihre Gefühle in dieser Angelegenheit anerkennen und ihnen versichern, dass wir diese Technologie und diese Fähigkeiten nutzen wollen, um den menschlichen Beitrag jedes Einzelnen zu steigern und zu beschleunigen?“

Mohsen Ghasempour, CAIO von Kingfisher PLC – zu dem Marken wie B&Q und Screwfix gehören – stimmte dem zu. „Sobald wir damit begonnen haben, die Menschen aufzuklären, weicht diese Angst der Neugier“, sagte er. „Die Menschen wechseln von ‚Ich möchte mit Ihnen nicht darüber sprechen‘ zu zehn verschiedenen Ideen, wie sich eine Aufgabe effizienter gestalten lässt.“

Von der Experimentierfreude hin zur Erklärungsnot

Führungskräfte müssen zwar möglicherweise nicht in gleicher Weise überzeugt werden wie Mitarbeiter an der Basis. Dennoch brauchen auch sie Orientierung im Umgang mit KI – insbesondere mit Blick auf die Kosten.

Wie bereits erwähnt, steigen die Token-Kosten rapide, und Agenten verstärken diesen Trend zusätzlich. Tokenomics und FinOps sind inzwischen Themen auf Vorstandsebene. IT-Führungskräfte benötigen daher einen Plan zur Kostenkontrolle, Transparenz bei der Token-Nutzung sowie ein Konzept, um Großverbraucher über die wirtschaftlichen Rahmenbedingungen aufzuklären.

Sowohl Jo von THG Ingenuity als auch Hayley von Deloitte gaben an, dass ihre Führungsteams beziehungsweise ihre Kunden einen starken Fokus auf die „Vorhersage und Messung von Kosten“ legten.

THG begegnet diesem Problem mit einem „Shift-Left“-Ansatz in AIOps beziehungsweise FinOps, der alle Mitarbeiter im Unternehmen stärker für ihre Ausgaben verantwortlich macht.

„Das ist ein ziemlich großer kultureller Wandel, denn plötzlich müssen sich Entwicklerteams und Führungskräfte im technischen Bereich Gedanken über die Kosten einiger dieser Produkte und Funktionen machen, die sie nutzen … und das kann ein kleiner Schock sein …

„Im Entwicklerteam herrscht mittlerweile eine deutlich stärkere Produktorientierung. Ich würde sagen, dass die Entwickler vor ein paar Jahren noch sehr aufgabenorientiert waren. Mit dieser Produktorientierung sind sie stärker auf Kunden, aber auch auf Funktionen ausgerichtet. Statt isolierter Entwicklerteams, die technische Lösungen erstellen, liefern sie tatsächlich Funktionen und Ergebnisse, die Teil des Einkaufserlebnisses sind, und tragen dafür von Anfang bis Ende Verantwortung.“

Mohsen erklärte, dass auch bei Kingfisher ein kultureller Wandel wichtig gewesen sei. Dort betrachte man KI als „einfach nur eine weitere Software“.

Die größere Veränderung betraf die Teamzusammensetzung: Während Mohsen früher 30 Ingenieure und einen Produktmanager einstellte, benötigt er nun „mehr von dieser [PM]-Ressource …, um die technischen Aspekte mit dem Geschäft zu besprechen.“

Es geht nicht nur um die Kosten

Abschließend warnten die Diskussionsteilnehmer davor, sich zu sehr auf Kostenfragen zu konzentrieren.

„Man kann nicht wirklich über Kosten sprechen, ohne über Ergebnisse und Messgrößen zu sprechen und darüber, was wir eigentlich aufbauen wollen. Was ist das Ergebnis, was ist der Erfolgsfaktor für den jeweiligen Anwendungsfall? Das steht ebenfalls im Mittelpunkt“, sagte Steve Pimblett, CDO von Rightmove.

Hayley von Deloitte erklärte, sie sei „besorgt“ über die starke Konzentration auf Token-Preise. Wer sich zu sehr auf „eine Art CFO-typischen Kanal zur Kostentransparenz“ fokussiere, laufe Gefahr, „aus den Augen zu verlieren, warum wir das, was wir tun, überhaupt tun und welchen Wert wir damit erzielen wollen.“

Sie bekräftigte, dass die Einführung von KI-Agenten eine umfassende Transformation des Betriebsmodells bedeute. Daher müsse sich auch die Art und Weise ändern, wie Unternehmen den ROI messen:

„Sobald Sie autonome Agenten in Ihrem Unternehmen etabliert haben, müssen sich die KPIs ändern und die Erwartungen an den ROI müssen sich ändern. Wir müssen aufhören, neue Entwicklungen in neuen Organisationen anhand alter Messgrößen zu bewerten.“

„Wohin fließt das ganze Geld?“ ist eine berechtigte Frage. Unternehmen müssen die Antwort darauf kennen – und vor allem in der Lage sein, sie Führungskräften außerhalb der IT nachvollziehbar zu erklären.

--

Dieser Artikel erschien ursprünglich auf unserer Schwester-Website Computing.