KI-Compliance im Enterprise-Umfeld

Warum der „Digital Omnibus“ keinen Aufschub für die Dateninfrastruktur bedeutet

Der EU AI Act verschiebt wichtige Fristen für Hochrisiko-KI-Systeme, aber nicht die strategische Aufgabe dahinter: Unternehmen müssen ihre Dateninfrastruktur so organisieren, dass Herkunft, Qualität, Nutzung, Schutz und Nachweisbarkeit von KI-relevanten Daten belastbar dokumentiert werden können. Für Enterprise-IT wird KI-Compliance damit weniger zu einer reinen Rechtsfrage als zu einem Architektur-, Governance- und Security-Thema.

Nach der aktuellen Umsetzungslinie gilt die Verordnung bereits schrittweise: Verbotene KI-Praktiken und Vorgaben zur KI-Kompetenz greifen seit Februar 2025, Regeln für General-Purpose-AI-Modelle seit August 2025. Transparenzpflichten bleiben für August 2026 relevant. Die Pflichten für bestimmte Hochrisiko-KI-Systeme wurden im Zuge des „Digital Omnibus on AI“ jedoch nach hinten verschoben: Systeme in den Annex-III-Bereichen wie Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Migration, Asyl und Grenzkontrolle sollen ab 2. Dezember 2027 unter die entsprechenden Vorgaben fallen; für KI-Systeme, die in regulierte Produkte wie Robotik oder Industriemaschinen integriert sind, ist der 2. August 2028 maßgeblich.

Für Unternehmen ist das keine Entwarnung. Dateninventare, technische Dokumentation, Logging, Modell- und Datenversionierung sowie Zugriffskontrollen lassen sich in komplexen IT-Landschaften kaum kurzfristig nachrüsten.

„Der EU AI Act führt dazu, dass Unternehmen sich mehr Gedanken darüber machen, wo ihre Daten liegen, wer darauf zugreifen kann und wie sie genutzt werden“, bilanziert Sascha Uhl, Senior Solutions Architect bei Cloudian. “Die Frage nach der Dateninfrastruktur müssen die Verantwortlichen mit als Erstes beantworten, wenn es um die Entwicklung und den Einsatz eigener KI-Systeme geht.“

Die Aussage ist aus Anbieterperspektive naheliegend, trifft aber einen realen Punkt: KI-Compliance lässt sich nicht allein durch Policies, Modellkarten oder juristische Dokumentation herstellen. Ohne kontrollierte Datenhaltung bleiben Data Governance, Logging, Security und Nachweisfähigkeit fragmentiert.

Datenqualität und Governance im gesamten Lebenszyklus (Artikel 10)

Artikel 10 des EU AI Act verlangt für Hochrisiko-KI-Systeme geeignete Daten-Governance- und Datenmanagement-Praktiken. Trainings-, Validierungs- und Testdaten müssen für den vorgesehenen Zweck relevant, ausreichend repräsentativ, möglichst fehlerfrei und vollständig sein. Außerdem sind unter anderem Herkunft, Erhebung, Aufbereitung, Annotation, Bereinigung, Aktualisierung, mögliche Verzerrungen und Datenlücken zu berücksichtigen.

In der Unternehmenspraxis trifft dieser Anspruch auf gewachsene Datenlandschaften: Daten liegen in Public Clouds, SaaS-Anwendungen, Dateiablagen, Data Lakes, Backup-Systemen und lokalen Rechenzentren. Für KI-Projekte reicht eine statische Bestandsaufnahme deshalb nicht aus. Unternehmen brauchen Metadatenmanagement, Versionierung, Data Lineage, klare Verantwortlichkeiten und technische Verfahren, mit denen sich nachvollziehen lässt, welche Daten zu welchem Zeitpunkt für Training, Validierung, Feinabstimmung oder Monitoring verwendet wurden.

Ein naheliegendes Enterprise-Beispiel sind KI-Systeme im Personalbereich. Anwendungen zur Vorauswahl von Bewerbungen, Bewertung von Kandidatenprofilen oder internen Talentanalysen können je nach Ausgestaltung unter die Hochrisiko-Kategorien des AI Act fallen. Für Unternehmen bedeutet das: Trainingsdaten dürfen nicht nur technisch verfügbar sein, sondern müssen hinsichtlich Herkunft, Zweckbindung, Repräsentativität und möglicher Bias-Risiken nachvollziehbar dokumentiert werden. Gerade im HR-Umfeld überschneiden sich AI Act, DSGVO, arbeitsrechtliche Anforderungen und Mitbestimmung. Ohne belastbare Datenklassifizierung und Löschkonzepte wird es schwierig, Betroffenenrechte und regulatorische Nachweispflichten zugleich zu erfüllen.

Unveränderliche Audit-Trails (Artikel 12)

Artikel 12 verlangt für Hochrisiko-KI-Systeme technische Möglichkeiten zur automatischen Aufzeichnung relevanter Ereignisse über den Lebenszyklus hinweg. In der Praxis geht es nicht nur um klassische Systemlogs. Relevant sind Zugriffe auf Datenbestände, Änderungen an Trainingsdaten, Modellversionen, Konfigurationsänderungen, Inferenzereignisse, Fehlerzustände, sicherheitsrelevante Ereignisse und Eingriffe durch menschliche Aufsicht.

Für Enterprise-IT-Abteilungen entsteht daraus eine Evidenzpflicht: Sie müssen nicht nur kontrollieren, sondern auch belegen können, was wann passiert ist. Audit-Trails sind bei internen Untersuchungen, forensischen Analysen und regulatorischen Prüfungen nur belastbar, wenn sie manipulationssicher gespeichert werden. WORM-Funktionalität, kryptografische Integritätsprüfungen, getrennte Administratorrollen, Retention Policies und revisionssichere Protokollierung werden damit zu zentralen Bausteinen der KI-Governance.

Schutz der Trainingsdaten vor „Data Poisoning“ (Artikel 15)

Artikel 15 adressiert Genauigkeit, Robustheit und Cybersecurity. Damit rückt auch die Datenpipeline in den Fokus. Data Poisoning, manipulierte Labels, veränderte Referenzdaten oder kompromittierte Datenquellen können dazu führen, dass KI-Systeme falsche, verzerrte oder gefährliche Ergebnisse liefern.

Besonders relevant ist dies in industriellen Umgebungen und kritischer Infrastruktur, etwa bei vorausschauender Wartung, Anomalieerkennung, Prozessoptimierung oder Security-Monitoring in OT-Umgebungen. Manipulierte Sensordaten können operative Entscheidungen beeinflussen. Unternehmen sollten Sicherheitskontrollen deshalb bereits bei Datenaufnahme, Speicherung, Versionierung und Zugriffspfaden einsetzen. Rollenbasierte Zugriffskontrollen, Multifaktor-Authentifizierung, Privileged-Access-Management, Netzwerksegmentierung, unveränderliche Snapshots und ransomware-resistente Backups gehören zur technischen Grundausstattung.

Auch Finanzdienstleister zeigen, wie eng KI-Governance, Security und Nachweisbarkeit zusammenrücken. KI-gestützte Scoring-, Betrugserkennungs- oder Risikomodelle benötigen belastbare Nachweise darüber, welche Datenquellen verwendet wurden, wie Modelle validiert wurden und wie menschliche Aufsicht organisiert ist. Gleichzeitig gelten für Banken und Versicherungen weitere Anforderungen aus DSGVO, DORA, interner Modellrisiko-Governance und branchenspezifischen Aufsichtsregimen. Besonders kritisch sind Versionierung und Rekonstruierbarkeit: Wenn eine Entscheidung später überprüft wird, muss nachvollziehbar sein, welche Daten- und Modellversion zum Zeitpunkt der Entscheidung maßgeblich war.

Ein weiteres Enterprise-Szenario sind generative KI-Systeme im Kundenservice. Chatbots, Agentic-AI-Systeme oder Self-Service-Assistenten greifen häufig auf CRM-Systeme, Ticketdatenbanken, Wissensartikel, Vertragsdaten und personenbezogene Kundeninformationen zu. Der Compliance-Schwerpunkt liegt deshalb nicht allein auf der Benutzeroberfläche des Chatbots, sondern auf den Datenquellen dahinter: Welche Informationen darf das System abrufen? Welche Antworten werden protokolliert? Wie werden personenbezogene Daten geschützt? Und wie lässt sich verhindern, dass vertrauliche Informationen in Trainings- oder Prompt-Kontexte abfließen?

Hinzu kommt Shadow AI. Wenn Fachbereiche ohne zentrale Freigabe KI-Tools einsetzen, entstehen unbekannte Datenflüsse, unklare Verantwortlichkeiten und fehlende Zugriffskontrollen. Für Unternehmen wird ein vollständiges Inventar produktiver, experimenteller und geduldeter KI-Systeme daher zur Voraussetzung jeder AI-Act-Roadmap.

Digitale Souveränität: Repatriierung als strategische Option

Während der EU AI Act keine pauschale Vorgabe zum physischen Speicherort von Daten enthält, rückt die Frage der Datenlokalität aus strategischen, regulatorischen und wirtschaftlichen Gründen stärker in den Vordergrund. Lokale oder souverän kontrollierte Datenhaltung kann Vorteile bieten, wenn Unternehmen besonders sensible Trainings-, Validierungs-, Referenz- oder Auditdaten besser kontrollieren wollen. Gleichzeitig bleibt die Cloud für viele KI-Workloads unverzichtbar. Entscheidend ist daher nicht ein Entweder-oder, sondern eine bewusste Strategie zur Datenplatzierung. Für KI-Projekte mit großen Rohdatenbeständen, kuratierten Trainingsdaten, Modellartefakten, Logs und Backup-Kopien kann partielle Repatriierung (Datenrückführung) ein rationaler Bestandteil einer hybriden Architektur sein.

Fazit

Der zeitliche Aufschub durch den “Digital Omnibus” reduziert den kurzfristigen Druck, verändert aber nicht die Richtung: Wer KI belastbar, sicher und wirtschaftlich betreiben will, muss seine Dateninfrastruktur jetzt governancefähig machen. Unternehmen sollten deshalb zuerst identifizieren:

• welche KI-Systeme sie entwickeln, betreiben oder dulden,
• welche Daten diese Systeme verwenden und
• welche Rolle die Organisation im Sinne des AI Act einnimmt.

Erst auf dieser Basis lassen sich technische Kontrollen, Dokumentation, Audit-Trails und Sicherheitsmaßnahmen sinnvoll priorisieren.