AI-Essentials: Künstlich? Ja. Intelligent? Nicht wirklich.

Warum KI (noch) den Menschen braucht

KI versteht nicht. KI denkt nicht. KI ist im Wesentlichen ein stochastischer Papagei mit Neigung zu Halluzinationen. Von einer Superintelligenz sind derzeit verfügbare Algorithmen und Anwendungen noch sehr weit entfernt. Umso wichtiger ist es, dass sich Anwender von KI ihrer Verantwortung bewusst sind.

Glaubt man einschlägigen Experten, gibt es drei Stufen künstlicher Intelligenz (KI):

• basic oder narrow AI (spezielle Aufgabe/Zweck)
• strong oder generelle KI
• Super-KI

Aktuell sind wir zwischen Basic und starker KI, eher näher an Basic. Im Infrastrukturbereich fehlt es an technischer Leistungsfähigkeit für höhere Stufen. Vor allem die Stromversorgung könnte zu einem Problem werden, das mit Geld allein nicht zu lösen sein wird.

Zum Zweiten fehlen Algorithmen bzw. Anwendungen, die es KI-Modellen erlauben, sich selbstbewusst an unterschiedliche Kontexte sowie Kultur- und Wissensbereiche anzupassen und eigenständig zu lernen.

An der Situation wird sich wohl auch nicht so schnell etwas ändern: Zunehmende ethische und sicherheitsrelevante Bedenken hemmen die Entwicklung von Super-KI.

KI denkt nicht.

KI ist Mathematik: Statistik, Analytik, Wahrscheinlichkeitstheorie, Kalkulation, Mustererkennung.

Das Training großer Sprachmodelle (Large Language Model, LLM) basiert grundlegend auf Mustererkennung. Je mehr Muster zur Verfügung stehen, desto akkurater sind die Ergebnisse eines Modells in der Anwendung.

Zu viele Muster sind aber auch wieder nicht gut. Zu viel Information führt zu weniger präzisen Antworten. Das ist wie bei uns Menschen: Je mehr Auswahl wir haben, desto schwerer fällt die Entscheidung.

Dazu kommen infrastrukturelle Herausforderungen wie begrenzte (Zwischen-)Speicherkapazität. Das lässt sich nur bedingt mit Rechenleistung beheben. Details dazu – warum das so ist und welche Lösungsansätze es derzeit gibt – werden wir später in einem separaten Beitrag beleuchten.

KI versteht nicht

KI ist (im Wesentlichen) ein stochastischer Papagei. LLMs der jüngsten Generation von Meta und OpenAI sind näher an der zweiten Stufe und fangen an, Zusammenhänge und die Bedeutung einzelner Worte zu verstehen. Damit trifft der stochastische Papagei zwar nur noch bedingt zu. Es ist aber noch ein sehr großer Unterschied zwischen Bedeutung und Sinn.

KI kennt diesen Unterschied nicht. Die Bedeutung eines Wortes ist definiert. Der Sinn ergibt sich aus der Absicht der Verwendung des Wortes oder aus einer spezifischen Interpretation im Kontext der Aussage. Die Bedeutung ist unabhängig vom Verwender, also eher objektiv. Damit können Algorithmen umgehen. Der Sinn ist kontextabhängig und darüber hinaus stark von der subjektiven Situation eines Konsumenten geprägt. Das überfordert aktuell noch jede KI.

Entsprechend (sehr) weit sind wir von einer künstlichen Superintelligenz entfernt. Super-KI existiert derzeit nur in futuristischen Filmen oder Science-Fiction-Literatur: die intelligenten Roboter aus Westworld, HAL 9000 in 2001: Odyssee im Weltraum, das Hightech-Hochhaus aus Game Over, Sonny aus I.Robot oder die Mechas und Supertoys wie Teddy aus A.I.

Lassen Sie sich nicht von den Smileys und netten Plaudereien ihrer bevorzugten KI täuschen. Auch das ist der Mathematik und zugrunde liegenden Programmierung geschuldet. Echte Emotionen kennen Copilot & Co. nicht. Trivia: Das unterwürfige Verhalten von GPT-4o war selbst ChatGPT-Erfinder Sam Altman zu viel.

KI ist am ehesten vergleichbar mit einem Interpreter. Wie ein Computerprogramm, das einen Quellcode oder ein Skript Zeile für Zeile liest und analysiert, liest und analysiert eine KI-Anwendung Ihren Prompt und erzeugt entsprechend zuvor hinterlegter Anweisungen passende Ergebnisse.

Das ist übrigens auch eines der größten Sicherheitsrisiken bei KI. Prompt-Injections können KI zu gefährlichen Aussagen oder der Preisgabe sensibler Informationen bringen. Auf Entwicklerseite können mit grundlegenden Prompts das Verhalten und die Ergebnisse eines Modells manipuliert werden. Wer mehr darüber wissen möchte, sollte sich den Vortrag Unsere Worte sind unsere Waffen von Eva Wolfnagel auf dem 37C3 anschauen.

KI macht keine Fehler

Hoppla! Also gibt es sie doch, die Superintelligenz?!

Nein!

KI ist darauf konzipiert, Ergebnisse zu erzeugen – egal welche. KI denkt sich eher etwas aus, als dass sie zugibt, etwas nicht zu wissen.

Halluzination ist das größte Problem von KI.

Ersetzt KI den Menschen?

Vielleicht. Irgendwann. Noch braucht sie uns – und zwar auf allen Ebenen. Das beginnt bei der Konzeptionierung und hört beim Prompt nicht auf. KI braucht Hilfe bei der Datenbeschaffung. Diese Daten müssen für relevantere und präzisere Ergebnisse vor- und aufbereitet werden. KI-Modelle müssen entwickelt oder gefunden und implementiert werden. KI braucht Pflege und muss kontinuierlich weiterentwickelt bzw. optimiert werden.

In einigen Bereichen ist uns aktuell verfügbare KI aber tatsächlich bereits haushoch überlegen und kann uns bei Dingen wie Informationsbeschaffung, Analysen, Automatisierung oder Übersetzungen effizienter machen.

KI unterstützt uns. Sie kann unseren Alltag stressfreier machen und unsere Köpfe frei für strategischere oder kreativere Aufgaben. In der IT ist sie ein großartiges Instrument gegen Alarm-Müdigkeit. Bei der Installation und Administration kann sie uns lästige, wiederkehrende Arbeiten abnehmen und manuelle Eingriffe reduzieren. Sie kann uns neue Ansätze oder Gesichtspunkte aufzeigen und mehr und größere Zusammenhänge erkennen. KI erleichtert die Fehlerkorrektur (Rechtschreibung, Grammatik) und verbessert die Qualität von Texten.

Egal, wie wir KI einsetzen, sollten uns ihrer Grenzen immer bewusst sein. Ein Ergebnis ist immer nur so gut, wie Datenquellen und Modellprogrammierung es zulassen. Wir sollten uns nie blind auf ein Ergebnis verlassen.

Auch die Art und Weise, wie wir mit KI interagieren, beeinflusst die Qualität und Relevanz des Resultats. Im schlimmsten Fall lösen wir mit unseren Prompts einen Datenschutzvorfall aus. Wie einfach das ist, demonstrierte Inbar Raz sehr eindrucksvoll mit seinem Vortrag 15 Ways to Break Your Copilot im Rahmen des DefCamps 2024.

Seit dem 2. Februar 2025 muss gemäß EU AI Act KI-Kompetenz vermittelt und geschult werden. Betroffen ist jede Organisation, die KI einsetzt. Einen Leitfaden gibt es bei der Bitkom-Akademie.