KI-Governance statt Verbote: Warum Unternehmen auf kluge Richtlinien statt auf Abschottung setzen sollten

„Shadow-KI ist bereits in Ihrem Unternehmen präsent – ob die IT-Abteilung dies nun gutheißt oder nicht.”

Das Blockieren von KI-Tools funktioniert nicht. Von Tools zur Erstellung von Besprechungsprotokollen bis hin zur Einführung von Copilot – West McDonald erläutert, warum Governance und nicht Verbote die einzige nachhaltige Sicherheitsstrategie für KI ist.

“Die Mitarbeiter in Ihrem Unternehmen nutzen KI, ob es Ihnen gefällt oder nicht”, sagt West McDonald, Gründer und CEO von GoWest.ai. Und das bringt unweigerlich neue Risiken in eine Sicherheitslandschaft mit sich, die ohnehin schon voller Bedrohungen ist.

Drakonische Methoden zur Unterbindung der KI-Nutzung sind jedoch laut McDonald nicht die richtige Antwort. Während seiner Keynote auf dem MES IT Security 2026 Summit betonte der anerkannte Experte für KI-Governance, dass das Blockieren von KI-Anwendungen aufgrund der schieren Anzahl verfügbarer Apps eine nahezu unmögliche Aufgabe sei und dass eine Überregulierung der KI-Nutzung keine ideale Lösung darstelle.

Mitarbeiter sollten neugierig sein und keine Angst vor KI haben, sagte er. Wenn man den Mitarbeitern jedoch erlaubt, (im Rahmen des Zumutbaren) mit KI zu experimentieren, sollte dies dazu führen, dass IT-Teams sich der damit verbundenen Sicherheitsrisiken bewusster werden und diese sorgfältiger handhaben.

McDonald lieferte einige wichtige Erkenntnisse dazu, wie man einem Unternehmen die Möglichkeit gibt, sich mit KI zu transformieren, und gleichzeitig die Sicherheit des Unternehmens gewährleistet.

„Shadow AI“ ist mehr als nur „nicht genehmigte“ Tools. Bei „Shadow AI“ geht es nicht nur darum, dass ein Mitarbeiter eine App herunterlädt oder ein von der IT nicht genehmigtes LLM nutzt. Dazu gehört auch die unsichere Nutzung innerhalb genehmigter KI-Tools, wie beispielsweise das Posten sensibler Daten in einer von der IT genehmigten App.

Es liegt in der Verantwortung der IT, die nicht genehmigte Nutzung von KI einzudämmen, und eine der besten Möglichkeiten, dies anzugehen, ist eine solide Überwachung. „Die meisten Unternehmen verfügen nicht über gute Prüfpfade, um nachzuverfolgen, wie KI genutzt wird, wann sie genutzt wurde und was damit getan wurde”, sagte McDonald.

Auch das Blockieren von KI funktioniert nicht – die Menschen umgehen die Sperren und „No-AI“-Richtlinien; einfache Sperren scheitern in der Praxis. „Sie werden einen Weg finden“, sagte McDonald über Endnutzer, die entschlossen sind, KI zu nutzen. Selbst wenn „KI im Büro vielleicht gar nicht genutzt wird, wird sie dennoch genutzt. Daher funktioniert [das Blockieren von KI] nicht wirklich“, fügte er hinzu. “Mitarbeiter werden KI auf Smartphones, privaten Laptops, zu Hause und im Browser nutzen.”

Eine der wohl häufigsten Anwendungen von KI am Arbeitsplatz ist die Transkription von Besprechungen. KI-Protokollführer, die sich automatisch an Besprechungen beteiligen, sind wahrscheinlich auch eine der Ursachen für einen häufigen Arbeits-Fauxpas: die Weitergabe sensibler Daten und persönlicher Notizen innerhalb einer Organisation an Personen, die diese Informationen nicht einsehen müssen.

McDonald äußerte sich sehr deutlich dazu, wie mit KI-Besprechungsassistenten umzugehen ist: „Gehen Sie zurück in Ihr Büro und deaktivieren Sie die automatische Übermittlung für diese Besprechungsassistenten in den jeweiligen Räumen. Schalten Sie sie aus“, sagte er und berichtete von einem Vorfall, bei dem eine private Besprechung über den Gesundheitszustand einer Person versehentlich über einen Besprechungsassistenten nach außen gelangte.

KI schafft keine Sicherheitslücken – sie deckt sie auf, so McDonald weiter. Tools wie Copilot können Fehler beim Datenzugriff in großem Umfang aufdecken. “Bereinigen Sie Berechtigungen, wie sie beispielsweise mit SharePoint verbunden sind, bevor Sie KI flächendeckend einführen”, ist sein Rat.

Richtlinien und Leitlinien müssen vor einer groß angelegten KI-Einführung stehen. KI-Governance ist keine Aufgabe, die später erledigt werden kann. “Wenn Sie keine KI-Richtlinien oder -Leitlinien haben, sollten Sie Copilot nicht flächendeckend einführen oder in Unternehmens-Content-Speicher integrieren – Punkt”, so McDonald. “Schaffen Sie einen klaren Genehmigungsprozess, um sicherzustellen, dass eine Lösung die Mindeststandards erfüllt.”

McDonald appeliert: “Behandeln Sie KI-Ergebnisse als Entwurf – verlangen Sie eine menschliche Überprüfung für externe Inhalte.” Zwar kann KI beim Verfassen von E-Mails, Verträgen und kundenorientierten Inhalten helfen, doch KI-Ergebnisse müssen von einem Menschen überprüft und genehmigt werden, bevor sie Kunden, Klienten und/oder der Öffentlichkeit präsentiert werden.

Schulungen sollten laut dem Experten fortlaufende Mentoring-Maßnahmen sein, keine einmalige Angelegenheit. Häufige, praxisorientierte Schulungen fördern sicherere Gewohnheiten und decken aufkommende Risiken früher auf als jährliche Schulungen und Compliance-Module.

Anstatt die Denkweise eines Trainers anzunehmen, sollten Sie die eines Mentors übernehmen, rät er. „Schulungen sind etwas, das wir am Wochenende absolvieren, um dann ins Büro zurückzukehren und es am Montag wieder zu vergessen. Mentoring ist etwas, das wir tun, um unsere Fähigkeiten zu verfeinern“, sagte er.

Die Wichtigkeit untermalt er mit einem Beispiel: „Was erscheint als Erstes, wenn Sie [in eine Suchleiste] ‚Chat GPT‘ eingeben? Ist es Chat GPT? Nein, es ist eine gesponserte Anwendung“, sagte McDonald. Diese aggregiert in der Regel mehrere LLMs und macht wer weiß was mit unseren Daten – was ein potenzielles Risiko darstellt und ein Beispiel für die ständig zunehmende Ausbreitung von KI-Apps ist.

Die Zunahme von Anbietern und Apps beschleunigt sich; das Ökosystem der KI-Tools wächst explosionsartig. IT-Abteilungen sollten zugelassene Tools standardisieren und Ausnahmen prüfen.

Agentische KI erweitert die Bedrohungslandschaft. McDonald bezeichnete agentische KI als „eine völlig andere Sicherheitslandschaft“. Er sagte, sie sei für die meisten mittelständischen Unternehmen noch nicht reif für den breiten Einsatz. Stattdessen solle man agentische KI vorerst als kontrollierten Lernbereich betrachten und nicht als produktionsreife Automatisierung.

Gut durchdachte Richtlinien klären, was erlaubt ist, und ermutigen zu sicherem Experimentieren. „Unser allererster Kernwert ist Neugierde“, sagte er. „Wir dürfen sie nicht zerstören.“

Leitlinien schaffen einen Rahmen für Neugier. “Auf Angst basierende Überwachungsstrategien verfehlen ihr Ziel.”

Dieser Artikel erschien ursprünglich auf unserer Schwester-Website MES Computing.