5 Regeln für den Einstieg in die KI-Governance

IT-Führungskräfte aus dem Mittelstand teilen ihre Ansichten zur Umsetzung von KI-Governance.

Laut einem Bericht des Marktforschungsunternehmens Gartner hatten bis Ende des letzten Jahres 75 Prozent der Unternehmen mit der Implementierung von KI begonnen. Es ist zu erwarten, dass 2026 viele KI-Projekte von der Pilotphase in die Produktion übergehen. Daher ist es für IT-Führungskräfte – nicht nur im Mittelstand – an der Zeit, eine solide Strategie für die KI-Governance zu entwickeln.

Für die Experten von Gartner ist KI-Governance ein entscheidender Bestandteil der KI-Integration: „Die Einführung von KI und der Aufstieg der agentenbasierten KI, die autonom handeln kann, haben ethische und geschäftliche Fragen aufgeworfen, die von sozialer Verantwortung und Fairness bis hin zu Sicherheit und Nachhaltigkeit reichen.“

KI ist für Unternehmen, insbesondere für KMU, noch eine neue Technologie. Jay Ferro, CTO/CPO bei Clario, und Blaine Carter, CIO bei FranklinCovey, teilen ihre Erfahrungen und geben anderen Technologieverantwortlichen Ratschläge zur KI-Governance.

Gute KI-Governance beginnt mit guter Daten-Governance

Häufig scheitern KI-Projekte, weil es an der nötigen Datenqualität und -verfügbarkeit mangelt. „Wenn Sie und Ihr Unternehmen kein gutes Daten-Governance-Programm haben, wird KI-Governance wahrscheinlich eine sehr schwierige Aufgabe sein“, sagt Carter.

Laut IBM gehört dazu auch, die Herkunft, die Sensibilität und den Lebenszyklus der Daten im Unternehmen zu verstehen. Um KI-Governance richtig zu implementieren, ist es unerlässlich, die Daten, mit denen KI-Modelle trainiert werden, zu analysieren und zu klassifizieren.

Finden Sie heraus, auf welche Daten KI zugreifen darf

“Wenn ein KI-Modell auf sensible Daten angewiesen ist, möchten Sie nicht, dass einfach jeder in diesen Daten herumstochert. Auch der Zugriff der KI auf Unternehmensdaten kann nicht einfach für alle frei sein“, sagt Ferro.

Er empfiehlt, im Vorfeld folgende Fragen zu beantworten: „Welche Daten können zum Trainieren von Modellen verwendet werden? Wer ist verantwortlich? Wem gehört der Anwendungsfall? Wer genehmigt ihn? Wurden die Daten für das Training anonymisiert bzw. pseudonymisiert“

Eine gute KI-Governance erfordert zudem strenge Zugriffskontrollen – auch für KI.

Das Project Management Institute rät in einem Blogbeitrag: “Richten Sie rollenbasierte Zugriffskontrollen (RBAC), Multi-Faktor-Authentifizierung (MFA) und Audit-Protokolle ein, um den Datenzugriff zu verfolgen. KI-Systeme sollten auch auf unbefugte Datennutzung überwacht werden – denn selbst ein Algorithmus kann unbeabsichtigt unbefugte Daten offenlegen oder darauf zugreifen, wenn er nicht ordnungsgemäß überwacht wird.”

Fundamentieren Sie Ihre KI-Modelle

„Ich denke, es ist ein grundlegender KI-Begriff, der sich zunehmend durchsetzt: Stellen Sie sicher, dass sich Ihre Modelle auf relevante Daten stützen, damit die Schlussfolgerungen bedeutsame Ergebnisse liefern und die KI nicht halluziniert”, sagt Carter. “Das bedeutet auch, sicherzustellen, dass das von Ihnen verwendete Modell genau auf den gewünschten Anwendungsfall abgestimmt ist.”

Organisatorische Anpassungen

Für den Erfolg von KI-Projekte spielen organisatorische Faktoren eine entscheidende Rolle. „Viele Unternehmen unterschätzen, wie wichtig es ist, die Belegschaft frühzeitig zu beteiligen und Ängste ernst zu nehmen“, so Wolfgang Merx, wissenschaftlicher Mitarbeiter des Regionalen Kompetenzzentrums der Arbeitsforschung WIRKsam.

“Sie müssen davon ausgehen, dass Ihre Mitarbeiter vor allem in der Anfangsphase Hilfe benötigen“, weiß Ferro. „Benennen Sie einen klaren Verantwortlichen und definieren Sie einige Ansprechpartner innerhalb der Organisation.“

Lenkungsausschüsse einrichten

„Eine der ersten Maßnahmen, die wir ergriffen haben, war die Einrichtung sogenannter Lenkungsausschüsse“, ergänzt Carter. „Einer davon befasst sich mit Compliance- und Rechtsfragen. Wie gehen wir mit den Risiken der KI um? Der zweite Ausschuss ist etwas breiter gefächert und befasst sich mit Anwendungsfällen, die für Ihr Unternehmen besonders sinnvoll sind. Oftmals geht man davon aus, dass die Geschäftsleitung und die Führungskräfte auf höchster Ebene diejenigen sind, die dies wirklich lenken können. Wir haben jedoch festgestellt, dass viele unserer besten Anwendungsfälle von Menschen stammen, die täglich mit den Problemen konfrontiert sind.“

Dieser Artikel erschien ursprünglich auf unserer Schwester-Website MES Computing.