Wo sind all die KI-Agenten?

Trotz allen Tamtams halten sich die Agenten bedeckt

Kürzlich fiel mir auf, dass ich trotz all des Hypes in den 18 Monaten, seit ich zum ersten Mal über KI-Agenten geschrieben habe, noch keinen "in freier Wildbahn" gesehen habe.

Ich habe viele Demos von Technologieunternehmen gesehen, bei denen Agenten um das 10-fache herumflitzen und jenes hyperpersonalisieren, und ich habe Präsentationen von Führungskräften gehört, die anscheinend ihre Backoffices an autonome Akteure übergeben haben, aber bei näherer Recherche haben sich diese alle als Proofs-of-Concept oder Rebadings von RPA herausgestellt, um dem Zeitgeist gerecht zu werden.

Es ist natürlich nicht ungewöhnlich, dass der Tech-Hype der Realität vorauseilt, aber bei all dem Razzamatazz sind diese Agenten wirklich erstaunlich inkognito. Hier sind ein paar Gedanken, warum das so sein könnte.

Der Hype ist sich selbst voraus

Nachdem OpenAI die Welt mit der Veröffentlichung von ChatGPT in Erstaunen versetzt hatte, erkannten die Wettbewerber, dass sie einen erheblichen Nachholbedarf hatten. Das Konzept der autonomen Software-Agenten gibt es schon seit einiger Zeit, fügen Sie das magische Wort KI und Bingo hinzu.

Was nicht heißen soll, dass agentische KI als Vapourware abgetan wird. Es ist schließlich eine logische Weiterentwicklung, nur nicht so ausgereift, wie das Marketing uns glauben machen will.

Es gibt zahlreiche Agenten und Plattformen von den großen Playern - OpenAIs Operator, Anthopics Claude Computer Use (in der Beta-Phase), SAPs AI Foundation auf BTP und Googles Project Mariner, um nur einige zu nennen - aber es ist immer noch schwierig und teuer, sie sinnvoll einzusetzen. In der Tat warnte kein Geringerer als Demis Hassabis von Google kürzlich, dass Der Einsatz realer Agenten ist komplex. "Wenn Ihr Weltmodell nur eine Fehlerquote von 1 % hat ... Wenn Sie diese 50 oder 100 Schritte gemacht haben, befinden Sie sich möglicherweise an einem zufälligen Ort", sagte er.

Verstopfte Rohre

Wie Hassibis andeutet, wird das alte Garbage-in-Garbage-Out-Problem in einer agentischen Umgebung noch verschärft, was die Datenqualität noch wichtiger macht. Schließlich sind KI-Agenten nur so gut wie die Daten, mit denen sie gefüttert werden, und da viele in Echtzeit handeln, sind sie stark von der Geschwindigkeit abhängig, mit der Datenarchitekturen sie auch füttern können. Leider sind die meisten Organisationen jeder Größe durch Daten von fragwürdiger Qualität gekennzeichnet, die in Silos mit variabler Zugänglichkeit liegen, die durch Pipelines mit zweifelhafter Kapazität verbunden sind.

Wert = Zugriff

Aber damit Agenten einen echten Mehrwert generieren können – d. h. eine Aufgabe um ein Vielfaches effizienter oder effektiver erledigen oder Dinge tun können, die zuvor unmöglich waren – benötigen sie einen weitreichenden Zugriff auf interne Datenquellen.

In einer kürzlich von Confluent durchgeführten Umfrage stimmten 84 % der IT-Führungskräfte zu, dass KI-Systeme ihre Unternehmensdaten nutzen müssen, um das wahre Potenzial der agentischen KI auszuschöpfen. Toran Bruce Richards, Gründer des britischen KI-Unternehmens AutoGPT, würde dem zweifellos zustimmen.

"Folgendes sagt Ihnen niemand über die Entwicklung von KI-Agenten: In dem Moment, in dem sie tatsächlich anfangen zu arbeiten, brauchen sie Zugang zu allem", schreibt er im neuesten Forschungsbericht von OpenUK Von der Handlungsfähigkeit zum Gemeinwohl im Jahr 2025. “Das Muster ist klar: Zugriff einschränken, Wert einschränken."

Zugang = Sicherheits-Albtraum

Aber Agenten, die umherirren und sich an allem bedienen, was ihnen gefällt, sind der Stoff, aus dem Sicherheitsalbträume sind.

Es liegt auf der Hand, dass eine robuste Zero-Trust-Architektur in Kombination mit einem fortschrittlichen Identitäts- und Zugriffsmanagement eine wesentliche Voraussetzung sein wird, wenn Agenten in der Lage sein sollen, einen Mehrwert zu schaffen, ohne Geheimnisse preiszugeben. Dies ist jedoch eine praktische Herausforderung angesichts der veralteten Infrastruktur, die nicht mit Blick auf Zero Trust entwickelt wurde, der Vielzahl von Geräten, über die Agenten roamen werden, und der neuen speziellen Authentifizierungsanforderungen.

Dies erfordert "einen grundlegenden Wandel in der Art und Weise, wie wir über Identität, Vertrauen und Sicherheit denken, in einem Zeitalter, in dem autonome Agenten zu einem integralen Bestandteil unserer digitalen Infrastruktur werden", sagte Andrew Martin, Mitbegründer und CEO des Sicherheitsunternehmens ControlPlane.

Kurz gesagt, es besteht ein Spannungsverhältnis zwischen Zugang (Wert) und Sicherheit.

Übermäßige Datenfreigabe

Dann stellt sich die Frage, wo sensible Daten landen könnten. In einem plausiblen Szenario können sich angesichts des Hungers nach KI-Trainingsdaten sensible Informationen in den Händen des Anbieters der agentischen Plattform wiederfinden, nur um irgendwann von einem LLM in erkennbarer Form wiedergekäut zu werden. Oder ein übereifriger Agent könnte entscheiden, dass der Austausch von Daten mit einem Konkurrenten der schnellste Weg ist, um sein Ziel zu erreichen. Der Mangel an Transparenz von KI-Unternehmen trägt wenig dazu bei, diese Befürchtungen zu zerstreuen - obwohl der Bericht von OpenUK ironischerweise feststellt, dass Unternehmen "KI, die offen ist" langsamer einführen als proprietäre Technologie. Dies kann an der Markenbekanntheit liegen oder an der verständlichen Verwirrung darüber, was "offene KI" bedeutet. Es kann sich ändern, wenn sich Unternehmen fragen, wie sehr sie einer Blackbox vertrauen können.

Ethische Dilemmata

Wie können wir angesichts der zunehmenden Macht der Agenten sicher sein, dass ihre Ziele mit menschlichen Werten und vorherrschenden Normen übereinstimmen? Wer sollte zur Verantwortung gezogen werden, wenn sie durchdrehen und echten Schaden anrichten? Das Gesetz der unbeabsichtigten Folgen gilt mit zunehmender Handlungsfähigkeit immer mehr, was sich in der Unternehmenswelt in mehr Risiko- und Compliance-Problemen manifestiert.

Wird die KI das nachkommen?

Schatten-KI erweist sich für viele Cybersicherheitsexperten bereits als eine ganze Handvoll, und das sind meist nur Mitarbeiter, die aus Neugier Abkürzungen ausprobieren. Schlampig eingesetzte Akteure, die nach verzerrten Zielen handeln, könnten dieses Problem in einer Zeit, in der sich die Vorschriften weiterentwickeln und die Leitlinien dünn gesät sind, um das Zehnfache erhöhen. Sind die potenziellen Gewinne das Risiko wert? Für viele wird die Antwort nein lauten, zumindest vorerst.

Undercover-Agenten

All dies bedeutet, dass die Agenten immer noch sehr verdeckt operieren. Aber es wäre falsch, daraus zu schließen, dass nichts passiert. Der Preis für eine erfolgreiche Umsetzung könnte riesig sein.

"Im Moment befinden wir uns in einem frühen Stadium, um zu sehen, wie sich Agenten auf den Arbeitsablauf, den Return on Investment usw. auswirken, und wir haben nicht annähernd genug Daten", sagte Amanda Brock, CEO von OpenUK, als sie nach den in der Studie aufgedeckten Anwendungsfällen in der Produktion gefragt wurde.

"Nur sehr wenige Unternehmen bauen wirklich auf, aber der Prozess hat begonnen."

In der Tat arbeitet OpenUK mit AutoGPT – dem aktivsten Open-Source-Projekt für agentische KI auf GitHub – an seinen eigenen agentischen Experimenten. Die gemeinnützige Organisation ist fest davon überzeugt, dass Offenheit aus Gründen der Sicherheit und des Datenschutzes langfristig eine Voraussetzung sein wird, wenn sich agentische KI durchsetzen soll.

"Das Vereinigte Königreich ist einzigartig positioniert, um in Bezug auf KI-Offenheit und Technologie von öffentlichem Interesse eine Vorreiterrolle zu übernehmen - aber nur, wenn es systemische Herausforderungen angehen und sein kollaboratives Ökosystem nutzen kann", sagte Forschungsdirektorin Dr. Jennifer Barth.