KI: Warum Unternehmen jetzt auf individuelle Richtlinien setzen müssen
Inklusive Handlungsempfehlungen und 10 KI-Richtlinienvorlagen für KI-Governance
Agentische KI ist für 2025 das, was generative KI für 2023 war. Laut dem „2025 Connectivity Benchmark Report” von MuleSoft und Deloitte Digital geben 93 Prozent der IT-Führungskräfte an, innerhalb der nächsten zwei Jahre autonome KI-Agenten einführen zu wollen, und fast die Hälfte hat dies bereits getan.
Agentische KI kann mehr Sicherheits- und Verwaltungsprobleme für die IT mit sich bringen. Ein Agent könnte beispielsweise „eine unkontrollierte oder unerwartete Entscheidung treffen, die zu einem Sicherheitsversagen führen könnte”. Ein Beispiel: Ein KI-Agent führt automatisierte Aufgaben zur Reaktion auf Vorfälle durch und fährt fälschlicherweise einen kritischen Produktionsserver herunter, was zu Ausfallzeiten führt. Die KI dachte also, dass etwas nicht in Ordnung sei, traf jedoch eine unerwartete Entscheidung und fuhr möglicherweise etwas herunter, das äußerst kritisch war”, erklärte Ian Swanson, CEO von Protect AI, in einem Interview mit MES Computing.
Künstliche Intelligenz (KI), insbesondere generative und agentische KI, hat für die Unternehmens-IT eine ganze Reihe neuer Herausforderungen mit sich gebracht.
Dazu gehören Fragen zum Urheberrecht und zur fairen Nutzung, zu Bedenken hinsichtlich des Datenschutzes und der Transparenz, aber auch zu potenziellen Problemen in Bezug auf Ethik sowie auf Voreingenommenheit eines KI-Chatbots (BIAS) oder auf die Möglichkeit, dass KI falsche oder halluzinatorische Antworten gibt.
Darüber hinaus müssen sich Agenten in der Regel bei bestehenden Systemen anmelden und authentifizieren. Das bedeutet, dass sie genau wie menschliche Benutzerkonten eine Identitäts- und Zugriffsverwaltung benötigen. Die Sicherung und Verwaltung von Agenten-Anmeldungen ist etwas, das Strata Identity mit der kürzlich angekündigten Einführung seines neuen Produkts „Identity Orchestration for AI Agents“ zu lösen versucht.
Angesichts dieser Sicherheits- und Verwaltungsaspekte ist es für Unternehmen von entscheidender Bedeutung, eine KI-Richtlinie festzulegen, die auf die Bedürfnisse ihres Unternehmens zugeschnitten ist.
Die Information Systems Audit and Control Association (ISACA) bietet mehrere Überlegungen, die bei der Ausarbeitung einer KI-Unternehmensrichtlinie zu berücksichtigen sind:
- Bewerten Sie den KI-Bedarf Ihres Unternehmens: Wie wird KI eingesetzt? Von welchen Abteilungen? Welche Tools werden zur Ergänzung der Geschäftsabläufe benötigt?
- Verstehen Sie die Vorschriften: Laut ISACA sollten Sie „die gesetzlichen und regulatorischen Anforderungen in Bezug auf generative KI in Ihrer Branche und Ihrem Rechtsgebiet recherchieren“.
- Führen Sie eine Risikobewertung durch: Dazu gehört die Bewertung potenzieller technischer oder ethischer Risiken (wie z. B. generierte Fehlinformationen).
- Beziehen Sie die Stakeholder ein: Alle Personen oder Teams innerhalb der Organisation, die KI nutzen oder von deren Einsatz betroffen sein könnten, sollten in die Erstellung der Richtlinie einbezogen werden.
- Planen Sie, die Richtlinie nicht nur intern, sondern auch extern zu kommunizieren: Alle Stakeholder sollten umfassend über die KI-Richtlinie Ihrer Organisation informiert sein.
Um einen schnellen Einstieg in die Erstellung einer Richtlinie zu erhalten, bietet das Internet mehrere Vorlagen zur Nutzung. Allerdings sollten diese Vorlagen nicht nur zum Ausfüllen und zur anschließenden Vorlage bei der Unternehmensleitung dienen, um lediglich das Compliance-Häkchen setzen zu können. Stattdessen sollten sie als Rahmen dienen, um eine auf die Bedürfnisse Ihrer Organisation zugeschnittene Richtlinie zu erstellen.
10 Vorlagen für KI-Richtlinien
Die folgenden Leitfäden und Tools helfen, ein geeignetes Rahmenwerk zu erstellen:
Die TrustClouds Vorlage für die Richtlinie zur Nutzung künstlicher Intelligenz in der Trust Community enthält Richtlinien und Verfahren für den verantwortungsvollen und ethischen Einsatz von Technologien der künstlichen Intelligenz (KI) innerhalb eines Unternehmens.
Die Richtlinie des SANS Institute zur künstlichen Intelligenz bietet eine KI-Vorlage an, die von seiner Website heruntergeladen werden kann. Das SANS Institute ist seit über 30 Jahren eine führende Quelle für Cybersicherheitszertifizierungen, -schulungen und -forschung.
Die Richtlinie von Workable zur Nutzung von KI-Tools hilft Unternehmen dabei, eine Richtlinie zur Nutzung von KI-Tools zu erstellen.
Der Microsoft-Standard für verantwortungsvolle KI bietet eine sehr detaillierte Richtlinie für die verantwortungsvolle Umsetzung von KI-Richtlinien und -Standards.
Die herunterladbare Vorlage für KI-Richtlinien von Responsible Artificial Intelligence (RAI) entspricht den Normen ISO/IEC 42001 – dem ersten internationalen Standard, der Anforderungen an ein Managementsystem für künstliche Intelligenz (AIMS) festlegt – und NIST. Die Vorlage enthält Leitlinien zur Erstellung von Governance-Regeln, ethischen Praktiken, Risikomanagement, Projektmanagement sowie Beschaffungs- und Dokumentations-Tools.
Die Vorlage für Richtlinien zur Nutzung generativer KI der Society for Human Resource Management bietet eine Vorlage für Richtlinien zur generativen KI an, die jedoch nur für SHRM-Mitglieder zugänglich ist.
Die KI-Richtlinien der AI Governance Library sind eine anpassbare Vorlage mit Anleitungen zur Festlegung von Definitionen für KI und KI-Systeme innerhalb einer Organisation, zur Dokumentation spezifischer KI-Ziele, zur Erstellung von Governance-Regeln, zur Einhaltung gesetzlicher Vorschriften und vieles mehr.
Die KI-Richtlinien des Institute of AI Studies helfen Organisationen bei der Erstellung von KI-Richtlinien für GenAI hinsichtlich Datenschutz, Transparenz, Risiken und Audits.
Jasper.ai bietet eine Vorlage für Unternehmen mit Anweisungen zur Förderung der ethischen Nutzung von KI, zur Risikominimierung, zur Schulung von Teams im Umgang mit KI und vielem mehr.
Die NFPS.AI-Vorlage für KI-Richtlinien hilft gemeinnützigen und nicht gewinnorientierten Organisationen, KI-Technologie zur Förderung von Innovationen zu nutzen.
Dieser Artikel erschien ursprünglich auf unserer Schwester-Website MES Computing.