„Mitarbeiter daran zu erinnern, vorsichtig zu sein, ist keine Datenschutzmaßnahme“

Warum für KI die Regeln für den Datenschutz neu geschrieben werden müssen

Die meisten Unternehmen setzen mittlerweile in irgendeiner Form KI ein. McKinseys aktuelle „State of AI“-Umfrage beziffert den Anteil der Arbeitnehmer, die KI regelmäßig in mindestens einem Geschäftsbereich nutzen, auf 88 % – ein Anstieg gegenüber 78 % im Vorjahr. Die Tools haben innerhalb eines einzigen Planungszyklus den Sprung vom Experiment zur Routine geschafft.

Der andere Teil dieser KI-Nutzungsgleichung betrifft die Disziplin rund um den Einsatz. Diese hält, gelinde gesagt, nicht Schritt. Ivantis 2026 State of Cybersecurity Report stellt fest, dass nur 55 % der Sicherheitsexperten formelle Leitplanken nutzen, um zu regeln, wie KI-Systeme und -Agenten eingesetzt und betrieben werden. Etwa die Hälfte der Fachleute stützt sich auf individuelles Urteilsvermögen, Standardeinstellungen der Anbieter oder informelle Richtlinien, um zu entscheiden, welche Daten sicher in ein Modell eingegeben werden können.

Diese Standardeinstellungen wurden mit Blick auf die Leistung des Modells entwickelt. Welche Konsequenzen sie für die Risikosituation eines Unternehmens haben, muss häufig eigenständig bewertet werden.

Was passiert in einem Prompt?

Eine Eingabeaufforderung ist eine Form von Daten. Sie kann alles enthalten, was eingegeben wurde – etwa Kundennamen, Strategiedokumente, Quellcode oder den Namen eines internen Projekts. Sobald diese Informationen den Browser verlassen, unterliegen sie den Aufbewahrungs-, Überprüfungs- und Trainingspraktiken des jeweiligen Anbieters.

In der Praxis passen Beschäftigte die Einstellungen von KI-Tools zunehmend an – in der Erwartung, dadurch diskreter zu agieren. Der Effekt ist jedoch begrenzt: Selbst wenn Nutzer ihre Datenschutzeinstellungen sorgfältig verwalten, werden Unterhaltungen in vielen am Arbeitsplatz gebräuchlichen KI-Tools standardmäßig gespeichert.

Das Deaktivieren des Chatverlaufs bedeutet nicht, dass Daten sofort gelöscht werden. Anbieter bewahren sie in der Regel für einen bestimmten Zeitraum auf, häufig auf externen Servern. Von Nutzern übermittelte Eingaben können überprüft oder wiederverwendet werden, um die Modellleistung zu verbessern. Enthalten diese Eingaben sensible Informationen, können sie in Ergebnisse einfließen, die anderen Nutzern desselben Dienstes bereitgestellt werden.

Viele dieser Systeme sind so konzipiert, dass sie genau so funktionieren.

Re-Identifizierung gewinnt an Bedeutung

Ein weiteres Problem ist, was moderne Analysetechniken mit Daten anstellen können, die einst als sicher galten.

Die seit langem bestehende Annahme – dass Informationen, sobald Namen, E-Mail-Adressen und nationale Identifikationsnummern entfernt wurden, keine personenbezogenen Daten mehr sind – trifft in vielen Fällen nicht mehr zu. Wenn Geräte-IDs, IP-Adressen, Verhaltensmuster, Metadaten und der genaue Standort datensatzübergreifend miteinander verknüpft werden, können fortschrittliche Analysen die Identität ableiten, ohne dass traditionelle Identifikatoren vorhanden sind.

Hinzu kommt: Zuvor pseudonymisierte Datensätze wurden bereits rückverfolgt. Das Gleiche gilt für zuvor anonymisierte Datensätze. Selbst anonymisierte Daten – oft als höchste Stufe der Datenbereinigung angesehen – wurden in dokumentierten Fällen wieder identifiziert, wenn sie mit ausreichend reichhaltigem Kontext kombiniert wurden.

Für Datenschutzbeauftragte bedeutet das, dass die Kategorie „nicht-personenbezogene Daten“ still und leise geschrumpft ist. Für diejenigen, die diese Daten in KI-Tools einspeisen, wird die Annahme „Ohne Namen ist alles unkritisch“ zunehmend unzuverlässig.

Governance beginnt vor der Einführung

Mitarbeiter daran zu erinnern, vorsichtig zu sein, ist keine Datenschutzmaßnahme. Selbst vorsichtige Beschäftigte treffen unter Zeitdruck weiterhin Ermessensentscheidungen; die Einstufung eines Produktmanagers, ob ein Roadmap-Dokument „sensibel genug“ ist, um aus einem Modell herausgehalten zu werden, ist keine Grundlage, auf die sich bei einer behördlichen Prüfung verlässlich bauen lässt.

Was funktioniert, ist die Bewertung der Tools selbst, bevor sie in die Umgebung gelangen. Das bedeutet, zu verstehen, welche Daten jedes Tool sammelt, wohin diese Daten fließen, wie lange sie aufbewahrt werden und welche Rechte der Anbieter gegebenenfalls daran beansprucht. Diese Arbeit gehört in ein Governance-Framework.

„Privacy by Design“ und „Privacy by Default“ existieren seit der DSGVO als regulatorisches Konzept. Die Anwendung auf KI bedeutet, diese Arbeit früher im Prozess zu erledigen.

Sobald ein Tool im Einsatz ist und Eingaben übermittelt wurden, ist das Zeitfenster für eine ordnungsgemäße Bewertung praktisch geschlossen.

Was beudet das in der Praxis?

Für Organisationen, die KI schneller einführen, als sie den Einsatz regeln, lassen sich drei Arbeitsannahmen formulieren (auch wenn sie zugespitzt wirken):

• Daten können nicht vollständig zurückgezogen werden, sobald sie an ein externes KI-System weitergegeben wurden.
• Anonymisierte Daten sind nicht immer anonym.
• Die Standard-Datenschutzeinstellungen begünstigen den Modellanbieter, nicht das Unternehmen.

Das gilt bereits heute. Es handelt sich nicht um Warnungen vor zukünftigen regulatorischen Rahmenbedingungen. Wenn die Durchsetzung nachzieht, werden die Aufsichtsbehörden den guten Willen der Mitarbeiter wahrscheinlich nicht anerkennen.

Das Zeitfenster für die Etablierung verlässlicher Disziplin beim KI-Einsatz ist enger, als es zunächst erscheint. Die Tools sind bereits im Einsatz, und Daten werden bereits übertragen. Entscheidend ist daher die konsequente Steuerung der kontrollierbaren Faktoren.

--

Dieser Artikel erschien ursprünglich auf unserer Schwester-Website Computing.