Automatisiert Agentic AI geschlechtsspezifische Vorurteile?

Vorurteile sind tief in agentischen Systemen verankert. Wie lässt sich das verhindern?

Kurz vor dem Internationalen Frauentag wollten wir wissen, ob – und wie – agentische KI geschlechtsspezifische Vorurteile in Geschäftsabläufen automatisiert und systemische Ungleichheit verstärkt. Außerdem haben wir Expertinnen gefragt, wie sich dieser Kurs ändern lässt.

Die schnelle Entwicklung von KI hat dazu geführt, dass die Menschheit kaum noch Schritt mit den großen Herausforderungen halten kann, die KI-Tools verursachen. Angesichts des Internationalen Frauentags 2026 unter dem Motto „Rechte, Gerechtigkeit, Handeln: Für alle Frauen und Mädchen“ ist es sinnvoll, zu beleuchten, wie die Integration agentenbasierter KI in Unternehmen und Arbeitsprozesse diese Ziele gefährden könnte – insbesondere durch die Festigung von Vorurteilen im System – und welche Maßnahmen dagegen ergriffen werden können.

Während große Sprachmodelle (LLMs) vor allem Informationen zusammenfassen und Empfehlungen abgeben, konzentriert sich agentenbasierte KI auf konkrete Aktionen. Diese Systeme sind bereits Teil vieler Geschäftsprozesse: Sie treffen Vorauswahlen bei Bewerbern, markieren Versicherungsansprüche, entscheiden über Kredite, ordnen medizinische Anfragen nach Priorität oder führen sogar Verhandlungen. Manche werden dabei von Menschen kontrolliert, andere arbeiten vollständig autonom.

Manasi Vartak, Chief AI Architect bei Cloudera, erklärt, warum agentenbasierte KI Vorurteile verstärken kann.

„Wenn KI-Systeme eigenständig handeln können, werden alle Schwachstellen – sei es in den Daten, mit denen sie gefüttert werden, in ihrer Konzeption oder in der Person, die sie entworfen hat – massiv verstärkt“, sagt sie. „Ein kleiner Riss in der Entwicklung kann zu einer ernsthaften Bruchlinie werden, sobald das System autonom arbeitet und Entscheidungen trifft, die Menschen, Unternehmen und die Gesellschaft betreffen.“

Sobald diese Systeme in Arbeitsabläufe eingebettet sind, spiegeln sie Vorurteile nicht nur wider, sondern standardisieren sie. In jedem Schritt des Prozesses werden ungleiche Ergebnisse verstärkt.

„Vor etwa fünf Jahren gab es große Bestrebungen, Stellenbeschreibungen inklusiver zu gestalten, damit sich mehr Frauen und Angehörige von Minderheiten bewerben“, bemerkt Vartak.

Das Ergebnis ist die stille Rückkehr von Formulierungen wie „Rockstar-Programmierer“ oder „aggressiver Selbststarter“, die laut wiederholten Untersuchungen weibliche Bewerber abschrecken. Und wenn sich Frauen doch bewerben, schleichen sich weiter unten in der Pipeline weitere Vorurteile ein.

„Teams verwenden häufig Aufzeichnungssoftware, um mit Zustimmung der Kandidaten Zusammenfassungen und Notizen aus Vorstellungsgesprächen zu erstellen“, erklärt Vartak. „Unterscheiden sich diese Zusammenfassungen, wenn ein männlicher Kandidat spricht, im Vergleich zu einer weiblichen Kandidatin? Die meisten Unternehmen hinterfragen die Technologie auf dieser Ebene nicht.“

Die gleichen Risiken treten auch im Leistungsmanagement auf. Wenn KI-Zusammenfassungs-Tools Ausführlichkeit belohnen, indem sie wichtige Punkte in Zusammenfassungen herausgreifen, können Mitarbeiter, die sich ausführlich äußern, in Bewertungen besser abschneiden als ihre prägnanteren Kollegen.

„Wenn Bob dazu neigt, sich ausführlich zu äußern, und Alice sehr direkt ist, kann Bob in KI-generierten Zusammenfassungen durchweg besser abschneiden“, sagt Vartak. „Ein Mensch, der den Kontext, die Persönlichkeit und die menschlichen Dynamiken versteht, kann dies berücksichtigen. Ein System kann das nicht.“

Der Effekt ist kumulativ. Kleine Verzerrungen, die sich in großem Maßstab wiederholen, werden zu strukturellen Nachteilen.

Zufälliger oder absichtlicher Ausschluss?

Wie Vartak betont, haben viele Unternehmen vor einigen Jahren unter dem Banner von DEI oder EDI ihre Stellenbeschreibungen, Beförderungskriterien und Talentpipelines überarbeitet. Einige davon wurden von Mentoring-Programmen und Führungskräfteentwicklungsprogrammen begleitet, die darauf abzielten, den Frauenanteil zu erhöhen.

Doch viele Initiativen scheiterten. Ohne die Unterstützung der Führungskräfte, messbare Ziele oder eine nachhaltige Finanzierung hatten sie Schwierigkeiten, bedeutende Veränderungen zu bewirken. Außerdem führten sie zu Unmut: bei Männern, die sich bedroht fühlten, und bei Frauen, denen gesagt wurde, sie müssten sich an Systeme anpassen, die nicht für sie konzipiert waren.

Gleichzeitig verstärkte sich der kommerzielle Druck, den Einsatz von KI zu beschleunigen. Im Wettlauf um Produktivitätssteigerungen und ROI wurden verantwortungsvolle KI-Praktiken häufig in den Hintergrund gedrängt.

Manchmal wirkt dies fast absichtlich. Kommentare wie Mark Zuckerbergs Lob der „männlichen Energie” vermitteln den Eindruck, dass Big Tech Frauen bewusst ausschließt, weil sie möglicherweise unangenehme Wahrheiten aufzeigen könnten.

Birgit Neu, eine auf KI spezialisierte DEI-Beraterin, beschreibt die Überschneidung zwischen dem Aufstieg der agentenbasierten KI und dem Rückgang der Inklusionsbemühungen als „besonders wenig hilfreich”. Sie glaubt jedoch nicht, dass es einen koordinierten Versuch gibt, Frauen aus der KI-Entwicklung auszuschließen. Stattdessen sieht sie Geschwindigkeit als die dominierende Kraft.

Dies spiegele nicht unbedingt eine bewusste Ausgrenzung wider, argumentiert sie, aber das Ergebnis könne dennoch ausgrenzend sein.

„Viele Organisationen halten noch nicht inne, um die gesamte Bandbreite der Auswirkungen von KI auf unterrepräsentierte Gruppen zu betrachten. Die Ausgrenzung mag nicht bewusst sein, aber sie kann dennoch systemisch sein.“

Regulierung und Gesetzgebung

Regulierung könnte dazu beitragen, die Politik neu auszurichten. Politiker haben Innovation und Ethik oft als gegensätzliche Kräfte dargestellt, aber wie Computing kürzlich argumentiert hat, ist dies schlichtweg nicht wahr. Klare regulatorische Rahmenbedingungen verringern Unsicherheiten. Und Unsicherheit ist das eigentliche Hindernis für Innovation.

Vartak verweist auf den Responsible AI Safety and Education (RAISE) Act, der Ende letzten Jahres im Bundesstaat New York in Kraft getreten ist, als nützliches Beispiel. Der Act schafft einen Rahmen für die Regulierung innovativer KI-Modelle mit Schwerpunkt auf der Verhinderung kritischer Schäden.

„Bei der Personalbeschaffung ist es beispielsweise sinnvoll, die Anwendungen zu regulieren und nicht die zugrunde liegende Technologie“, sagt sie. „KI in der Personalbeschaffung birgt andere Risiken als KI, die von Minderjährigen oder im Gesundheitswesen eingesetzt wird. Eine auf Anwendungsfällen basierende Regulierung ist pragmatisch.“

Unternehmen müssen nicht auf gesetzliche Vorgaben warten. Es gibt konkrete Maßnahmen, die Organisationen jetzt ergreifen können, um zu verhindern, dass Vorurteile in agentenbasierten Systemen verankert werden.

Maßnahmen für eine inklusive KI

Karen Blake, MBE, ehemals Tech Inclusion Strategist bei Tech Talent Charter, skizziert mehrere praktische Maßnahmen, die Unternehmen ergreifen können.

Als erste Maßnahme empfiehlt Blake, dass Unternehmen geschlechterdiverse KI-Governance-Gremien etablieren sollten. Sie betont, dass eine vielfältige Vertretung in technischen Führungs- und Aufsichtsgremien unabdingbar ist. Falls intern das notwendige Fachwissen fehlt, sei es sinnvoll, externe Spezialisten einzubinden und gleichzeitig interne Weiterentwicklungsmöglichkeiten zu schaffen.

Weiterhin weist sie darauf hin, dass vor der Einführung neuer Systeme formelle Bewertungen der geschlechtsspezifischen Auswirkungen notwendig sind. Bias-Audits sollten laut Blake in allen Phasen – von der Konzeption bis zur Überwachung nach dem Rollout – fest verankert werden. Besonders in Anwendungsbereichen, die Frauen besonders betreffen, wie etwa bei Einstellungs-, Beförderungs-, Gesundheits- und Kreditentscheidungen, müssten Systeme einem Stresstest unterzogen werden, wobei klare Verantwortlichkeiten bei festgestellten Vorurteilen essenziell seien.

Ein weiteres zentrales Anliegen ist aus ihrer Sicht die Überprüfung und Diversifizierung von Datensätzen, da die Fairness von KI-Tools entscheidend von der Qualität und Ausgewogenheit der zugrundeliegenden Daten abhänge.

Darüber hinaus hebt Blake hervor, dass Transparenz in agentenbasierten Systemen fest verankert sein muss. Nur so könnten potenzielle geschlechtsspezifische Ungleichheiten sichtbar gemacht werden. Sie hält regelmäßige Berichte zu Gleichstellungskennzahlen, unabhängige Audits für Hochrisikosysteme und etablierte Berichtswege an die Unternehmensspitze für unverzichtbar.

Abschließend unterstreicht sie, dass es nicht ausreicht, bloß auf Compliance zu setzen. Die Verantwortung für faire, ethische und transparente KI dürfe nicht allein bei unterrepräsentierten Mitarbeitenden liegen. Schulungen zu geschlechtsspezifischen Vorurteilen sollten alle, die an der Entwicklung, am Produktmanagement und an der Führung beteiligt sind, einbeziehen. Teams müssten verstehen, wie Vorannahmen bereits bei der Problemformulierung und beim Lösungsdesign entstehen können. Sie sieht kontinuierliche Lern- und Austauschformate als wirksamer an als einmalige Workshops.

Historische Datensätze kodieren oft vergangene Diskriminierungen. Organisationen müssen die Geschlechterverteilung untersuchen, stereotype Muster identifizieren und verschiedene Interessengruppen in die Definition eines „guten“ Verhaltens von Agenten einbeziehen.

Blake fasst zusammen: „Schließlich sollten Sie rigorose Tests durchführen und die Feedbackschleife schließen. Wenn Unternehmen auf agentenbasierte Entscheidungsfindung setzen, müssen sie deren Auswirkungen in der Praxis kontinuierlich evaluieren. Weibliche Endnutzer sollten in Pilotprogramme einbezogen werden und klare Kanäle erhalten, um voreingenommene Ergebnisse zu melden. Das Feedback derjenigen, die am stärksten von den Ergebnissen eines Systems betroffen sind, ist keine Höflichkeit, sondern ein wichtiger Beitrag.“

Die Möglichkeiten für agentenbasierte KI, durch die Rationalisierung von Prozessen, die Erweiterung des Zugangs und die Erschließung von Innovationen Gutes zu bewirken, sind immens. Ohne aktive Interventionen wird sie jedoch historische Ungleichheiten in einem noch nie dagewesenen Ausmaß reproduzieren und verfestigen.

Da der Internationale Frauentag zu Rechten, Gerechtigkeit und Handeln aufruft, stellt sich nicht die Frage, ob KI die Zukunft der Arbeit und der Gesellschaft prägen wird. Das tut sie bereits. Die Frage ist, ob diese Systeme die Gleichstellung vorantreiben oder nur stillschweigend die Vorurteile automatisieren und verstärken, gegen die Frauen noch immer kämpfen müssen, um sie abzubauen.

Dieser Artikel erschien ursprünglich auf unserer Schwester-Website Computing.