Trumps KI-Pakt setzt auf Selbstregulierung – und lässt die Durchsetzung offen

Bundesbehörden sollen KI künftig als „Superintelligenz“ bezeichnen

Donald Trump hat mit führenden Big-Tech-Vertretern freiwillige Schutzmaßnahmen für KI vereinbart. Der US-Präsident bezeichnete den Pakt als „moralisch bindend“ – rechtlich durchsetzbar ist er jedoch nicht.

Das „Joint Commitment on Frontier Responsibilities“ wurde nach einem Mittagessen im Weißen Haus vorgestellt. Zu den anwesenden Führungskräften zählten Elon Musk, Mark Zuckerberg, Nvidia-Chef Jensen Huang und Anthropic-Chef Dario Amodei. Trump erklärte, die Vereinbarung sei „fast wie eine Verfassung“ und solle vor den Risiken fortschrittlicher KI-Systeme schützen. Das zweiseitige Dokument entfaltet jedoch offenbar weder Rechtskraft noch konkrete Durchsetzungsmechanismen. Stattdessen sollen die Unternehmen ihre Technologien selbst überwachen und die Einhaltung der vorgesehenen Sicherheitsmaßnahmen sicherstellen.

Die Ankündigung fällt in eine Zeit wachsender öffentlicher Skepsis gegenüber KI. Zugleich fordern Gesetzgeber, Forschende und Teile der Technologiebranche eine stärkere staatliche Aufsicht. Große Teile der Technologiebranche unterstützen dagegen den Kurs der Trump-Regierung und lehnen strenge Regulierung ab. Ihre Begründung: Zu enge Vorgaben könnten Innovation und Wirtschaftswachstum bremsen.

Vier Kontrollstufen – aber keine rechtliche Durchsetzung

Die Vereinbarung nennt vier Kontroll- und Prüfstufen, mit denen KI-Unternehmen Risiken bei der Entwicklung neuer Systeme erkennen und begrenzen sollen. Auf der ersten Stufe sollen Unternehmen das Training ihrer KI-Modelle intern auf Sicherheitsrisiken überwachen. Auf der zweiten Stufe sollen spezialisierte interne Teams prüfen, ob diese Schutzmaßnahmen wirksam greifen. Die dritte Stufe sieht unabhängige externe Prüfer vor, die die Sicherheitskontrollen der Unternehmen bewerten. Auf der vierten Stufe soll ein unabhängiger Ausschuss des Verwaltungsrats die Berichte zu diesen Maßnahmen prüfen.

Eine Rolle für staatliche Aufsichtsbehörden sieht die Vereinbarung allerdings nicht vor. Auch müssen die Unternehmen die Ergebnisse externer Prüfungen nicht veröffentlichen. Damit können sie ihre Prüfer selbst auswählen, eigene Aufsichtsgremien einsetzen und darüber entscheiden, ob sie die Bewertungen offenlegen. Unterm Strich beruht der Pakt damit vor allem auf freiwilliger Selbstverpflichtung statt auf einklagbaren Standards.

Verhaltener Beifall aus der Branche: „Besser als nichts“

Michael Adjei, Direktor für Systemtechnik bei Illumio, nannte die Initiative „besser als nichts“. Selbstregulierung allein reiche jedoch nicht aus. „Selbstregulierung ist nicht die Lösung. Schließlich haben selbst die Leiter großer KI-Forschungslabore eine externe Regulierung gefordert, um die Entwicklung insgesamt zu verlangsamen und der Sicherheit Zeit zum Aufholen zu geben“, sagte er.

Amanda Brock, Geschäftsführerin von OpenUK, wertete die Ankündigung hingegen als Zeichen dafür, dass die USA auf eine KI-Regulierung, Einschränkungen für Innovationen und ein Verbot offener Modelle verzichten. „Nach Monaten der Besorgnis ist die gute Nachricht, dass die USA KI nicht reguliert, Innovationen nicht eingeschränkt und offene Modelle nicht verboten haben. Sie haben nicht einmal Leitplanken auferlegt“, sagte sie.

Brock, die sich bereits früher gegen Regulierung ausgesprochen hatte, sieht in internen Risikoprüfungen, externen Audits und der unabhängigen Aufsicht durch den Verwaltungsrat vor allem Selbstkontrolle. Das ermögliche zugleich den zunehmenden Einsatz von KI-Modellen mit offenen Gewichten.

Bundesbehörden sollen künftig von „Superintelligenz“ sprechen

Parallel zum Pakt unterzeichnete Trump eine Durchführungsverordnung. Sie weist Bundesbehörden und -ämter an, in der offiziellen Kommunikation die Begriffe „künstliche Intelligenz“ und „KI“ durch „Superintelligenz“ und „SI“ zu ersetzen. Die Vorgabe gilt für amtlichen Schriftverkehr, öffentliche Mitteilungen, Websites, Berichte und politische Dokumente. Bereits erlassene Vorschriften und historische Aufzeichnungen müssen jedoch nicht geändert werden.

Zudem verlangt die Verordnung, in künftigen Gesetzesentwürfen eine bundesweit einheitliche Definition der neuen Begriffe festzulegen. Die Durchführungsverordnung steht unabhängig neben der freiwilligen Vereinbarung der Technologieunternehmen.

Wie skeptisch die Öffentlichkeit den Kurs bewertet, zeigt eine Quinnipiac-Umfrage vom 24. bis 27. September: Nur 25 Prozent der Befragten billigten Trumps Umgang mit KI, 58 Prozent lehnten ihn ab. Damit liegt Trump beim Thema KI ausnahmsweise deutlich von der Stimmung seiner eigenen Wählerschaft entfernt. Trotz seiner offensiven Unterstützung der Technologie zeigte eine Pew-Research-Umfrage Anfang dieses Jahres, dass nur 16 Prozent der Amerikaner positive gesellschaftliche Auswirkungen von KI erwarten.

In der Quinnipiac-Umfrage fiel Trumps Zustimmung in der KI-Politik sogar geringer aus als seine Werte zum Iran-Krieg, zur Wirtschaft und zur US-China-Politik.

--

Dieser Artikel erschien ursprünglich auf unserer Schwester-Website Computing.