Wem vertrauen Sie? Ein neues Verständnis von KI-Souveränität

KI-Souveränität ist keine Alles-oder-nichts-Frage. Unternehmen müssen Workloads, Datenkritikalität, regulatorische Anforderungen und Vertraulichkeit differenziert bewerten, um das richtige Maß an Kontrolle über ihre KI-Infrastruktur zu finden.

Während der GITEX Europe in Berlin habe ich mehrere Tage damit verbracht, mit Start-ups, Unternehmenskunden und Technologiepartnern über die Einführung von KI zu sprechen. Ein Muster tauchte dabei überraschend häufig auf: „Wir nutzen OpenAI. Über Souveränität müssen wir uns eigentlich keine Gedanken machen.“

KI-Souveränität wird branchenübergreifend zu einer geschäftlichen Frage

Die Verteidigungsindustrie ist der erste Sektor, den man mit KI-Souveränität in Verbindung bringt – und das aus gutem Grund. Wenn eine Verteidigungsorganisation generative KI für kritische Arbeitsabläufe wie die Softwareentwicklung einsetzen möchte, erwartet sie in der Regel, dass die Lösung auf einer von ihr kontrollierten Infrastruktur läuft und offene Modelle anstelle öffentlicher KI-Dienste nutzt.

Finanzinstitute sehen sich mit einem anderen Treiber konfrontiert: Regulierung. Rahmenwerke wie DORA und C5 drängen Unternehmen zu einer stärkeren Kontrolle über ihre KI-Umgebungen. In Bereichen wie der Vermögensverwaltung möchten Unternehmen oft nicht, dass sensible Kundendaten außerhalb ihrer kontrollierten Umgebung zugänglich sind. In manchen Fällen möchten sie nicht einmal, dass die eigenen Mitarbeiter uneingeschränkten Zugriff darauf haben.

Unternehmen im Gesundheitswesen und in der Pharmabranche unterliegen ähnlich strengen regulatorischen Anforderungen. Angesichts der Sensibilität der Daten, die sie verarbeiten, werden Fragen zu Kontrolle, Zugriff und Rechtshoheit zu einem wesentlichen Bestandteil der Gestaltung von KI-Systemen.

Und dann gibt es noch Start-ups. Sobald sie beginnen, mit Unternehmenskunden zusammenzuarbeiten, gehen die technischen Diskussionen schnell über Produktfunktionen hinaus. Potenzielle Kunden möchten wissen, wo die KI ausgeführt wird, welche Länder möglicherweise Zugriff auf die Daten haben und inwieweit die Lösung von einem bestimmten KI-Anbieter abhängig ist. Kann ein Unternehmen darauf keine klaren Antworten geben, kann sich das negativ auf einen Geschäftsabschluss mit einem Großkunden auswirken.

Bevor wir fortfahren, sollten wir zwischen zwei Konzepten unterscheiden, die oft verwechselt werden.

KI-Souveränität und KI-Vertraulichkeit lösen unterschiedliche Probleme

Eine einfache Analogie hilft, den Unterschied zu verdeutlichen.

Stellen Sie sich vor, Sie übernachten in einem Hotel in einem anderen Land. Das Hotel bietet Ihnen alles, was Sie brauchen. Das Zimmer ist komfortabel, das Frühstück ist inbegriffen, und jemand anderes kümmert sich um die Infrastruktur. Aber das Hotel hat weiterhin den Schlüssel zu Ihrem Zimmer.

So funktionieren heute viele KI-Workloads. Sie laufen auf einer Infrastruktur, die jemand anderem gehört und von diesem betrieben wird. Das ist bequem und skalierbar. Doch letztendlich kontrolliert jemand anderes die Umgebung, in der Ihre KI arbeitet.

Bei KI-Souveränität geht es um genau diese Kontrolle. Wenn wir mit Kunden über KI-Souveränität sprechen, betrachten wir in der Regel vier Dimensionen: wo sich die Daten physisch befinden, wer die operative Kontrolle über die Infrastruktur hat, unter welchen Gesetzen und in welcher Rechtsordnung das System betrieben wird und wie abhängig die Lösung von einem bestimmten Anbieter ist.

KI-Vertraulichkeit beantwortet eine andere Frage.

Stellen Sie sich vor, Sie bewahren Ihre Wertsachen in einem Schließfach bei einer Bank auf. Die Bank ist Eigentümerin des Gebäudes und schützt den Tresorraum, hat jedoch keinen Zugriff auf Ihr individuelles Schließfach.

Vertrauliche KI folgt demselben Prinzip. KI-Workloads laufen in vertrauenswürdigen Ausführungsumgebungen. Cloud- oder Hardwareanbieter können die Infrastruktur also hosten, ohne einsehen zu können, was tatsächlich verarbeitet wird.

Die Frage lässt sich also ganz einfach formulieren: Wem vertrauen Sie?

Wenn Sie der Organisation vertrauen, die Ihre KI-Infrastruktur betreibt, reicht Souveränität möglicherweise aus. Wenn nicht, wird Vertraulichkeit zu einem Teil der Lösung.

Ein praktischer Rahmen zur Bewertung der KI-Souveränität

Die erste Dimension ist die Datenkritikalität – die potenziellen geschäftlichen Auswirkungen, falls die vom KI-System verarbeiteten Daten einem Dritten zugänglich gemacht würden.

Die zweite Dimension ist die erforderliche KI-Fähigkeit. Einige Workloads benötigen Zugriff auf die leistungsfähigsten Modelle, die heute verfügbar sind. Andere lassen sich mit deutlich einfacheren Modellen oder Standard-KI-Assistenten lösen.

Zusammen helfen diese beiden Dimensionen dabei, die verfügbaren Optionen einzugrenzen:

• Wenn eine Arbeitslast unkritische Daten verarbeitet und keine fortgeschrittenen KI-Fähigkeiten erfordert, gibt es kaum einen Grund, zusätzliche Komplexität einzuführen. In diesem Fall können Lösungen wie ChatGPT ausreichen.
• Mit steigender Datensensibilität und höheren Anforderungen an die Leistungsfähigkeit können Unternehmen auf souveräne KI-Plattformen oder vorgefertigte Lösungen von Anbietern wie NVIDIA, Near AI und anderen umsteigen.
• Wenn die Anforderungen über Standardlösungen hinausgehen, unterstützen wir unsere Kunden dabei, Architekturen zu entwerfen, die auf ihre spezifischen Workloads zugeschnitten sind.

Die Entscheidung zu treffen ist eine Sache. Die Umsetzung ist eine andere

Sie haben eine Entscheidung getroffen. Sie haben die Modelle ausgewählt, die Sie ausführen möchten. Nun müssen Sie sie tatsächlich betreiben. Sie benötigen MLOps. Sie benötigen Observability, Sicherheit, Compliance und eine effiziente Hardwareauslastung.

Was zunächst wie eine technologische Entscheidung aussah, wird schnell zu einer betrieblichen Herausforderung. Sobald Kunden erkennen, was alles damit verbunden ist, ist die Reaktion oft dieselbe: „Okay, ich gebe auf.“

Sie müssen jedoch nicht den gesamten souveränen KI-Stack selbst aufbauen und betreiben. Sie können das Maß an Kontrolle behalten, das Sie benötigen, und sich gleichzeitig auf einen Partner verlassen, der Verantwortung für einen Teil der Infrastruktur und der betrieblichen Komplexität übernimmt.

Bei manchen Workloads reicht Souveränität allein jedoch nicht aus. Dann wird Vertraulichkeit zur dritten Dimension. In diesem Fall stellt sich weiterhin dieselbe Frage: Wem vertrauen Sie?

Je näher das Vertrauensniveau an Null rückt, desto wichtiger wird die Vertraulichkeit.

Genau wie Souveränität ist auch Vertraulichkeit kein binäres Konzept. Einige Unternehmen entscheiden sich für Anbieter, die Technologien für vertrauliches Computing von AMD, Intel und NVIDIA mit einer zusätzlichen Vertraulichkeitsschicht kombinieren, die als Managed Service bereitgestellt wird. Andere gehen noch einen Schritt weiter und betreiben ihre eigenen vertrauenswürdigen Ausführungsumgebungen, um die vollständige Kontrolle über vertrauliche Workloads zu behalten.

An dieser Stelle mag das Rahmenwerk noch komplexer erscheinen. In der Praxis ist jedoch das Gegenteil der Fall.

Sobald Sie das Problem in kleinere Entscheidungen aufschlüsseln, lässt es sich deutlich leichter bewältigen.

So können Sie die KI-Souveränität angehen.

Souveränität sollte workloadspezifisch sein: Ein Unternehmen muss nicht „KI-souverän“ werden. Unterschiedliche KI-Workloads stellen unterschiedliche Anforderungen. Betrachtet man Souveränität auf der Ebene der einzelnen Workloads, werden die Entscheidungen wesentlich überschaubarer und einfacher, als wenn man versucht, das gesamte Unternehmen auf einmal umzugestalten.

Souveränität ist kein binäres Konzept: Es handelt sich nicht um die Wahl zwischen vollständiger Souveränität und gar keiner Souveränität. Es gibt verschiedene Souveränitätsstufen, und Unternehmen können je nach Datenkritikalität, Anforderungen an die KI-Fähigkeiten und, falls erforderlich, Vertraulichkeitsanforderungen die Stufe wählen, die zu einer bestimmten Workload passt.

Komplexität lässt sich bewältigen: Heute ermöglicht „AI-as-a-Service“ einen einfachen Wechsel zwischen fünf oder zehn verschiedenen Modellen, je nach Aufgabe. In souveränen KI-Umgebungen hat diese Flexibilität ihren Preis. Wann immer möglich, empfehlen wir unseren Kunden, sich auf ein Modell – oder höchstens eine kleine Anzahl von Modellen – zu standardisieren. Der Betrieb von ein oder zwei Modellen ist deutlich einfacher als der von fünf oder zehn.

Regulatorische Anforderungen sollten die Architektur von Anfang an prägen: Ob DSGVO, CRA, DORA, C5 oder andere regulatorische Rahmenwerke: Compliance sollte vom ersten Tag an Teil des KI-Entwicklungsprozesses sein. Es ist wesentlich einfacher, Souveränität auf Grundlage regulatorischer Anforderungen aufzubauen, als die Einhaltung der Vorschriften später nachzurüsten.

Zusammenfassend lässt sich sagen…

Nicht jede Arbeitslast erfordert Souveränität.

Nicht jede Arbeitslast erfordert Vertraulichkeit.

Und nicht jedes Unternehmen muss alles selbst aufbauen und betreiben.

Der Schlüssel liegt darin, zu verstehen, was jede einzelne Arbeitslast tatsächlich erfordert. Sobald dies klar ist, wird die Wahl der richtigen Architektur wesentlich einfacher.

Das Ziel ist nicht die Maximierung der Souveränität. Das Ziel ist es, das richtige Maß an Souveränität – und, wo erforderlich, an Vertraulichkeit – auf die Arbeitslasten anzuwenden, bei denen es tatsächlich darauf ankommt.

Anatoliy Kochetov ist ein im internationalen Raum renommierter Technologie-Manager und globaler COO sowie Managing Director der deutschen Niederlassung der Sigma Software GmbH. Kochetov hat ukrainische Wurzeln und verfügt über mehr als 20 Jahre Erfahrung in der Software-Industrie. Er lebt in Deutschland und leitet die Expansion sowie strategische Partnerschaften des Konzerns in rund 20 Ländern.