Nvidia- und Meta-Chefs lehnen verlangsamte KI-Forschung ab

Nvidia-Chef Jensen Huang und Meta-Chef Mark Zuckerberg haben Forderungen zurückgewiesen, wonach Technologieunternehmen kollektiv die Entwicklung fortschrittlicher KI-Systeme verlangsamen sollten. Sie befürworten einen von Unternehmen geleiteten Ansatz zur KI-Sicherheit.

Die beiden Konzern-Chefs erklärten, KI-Unternehmen sollten die Verantwortung für den Umgang mit Sicherheitsrisiken eigenständig übernehmen, anstatt sich auf eine kollektive Forschungspause zu einigen. Die Stellungnahmen von Huang und Zuckerberg folgten auf Äußerungen von Anthropic-Chef Dario Amodei, OpenAI-Chef Sam Altman und SpaceX-Gründer Elon Musk, die gemeinsam für einen koordinierten Ansatz zur Verlangsamung der Pionierforschung im Bereich KI plädierten.

Schnelle und sichere KI-Entwicklung

Nvidia-Chef Huang erklärte, es bestehe kein Bedarf an zusätzlichen US-Gesetzen oder Vorschriften, die speziell auf die Sicherheit von KI abzielen, und argumentierte, dass der Markt den Unternehmen bereits einen Anreiz gebe, keine unsicheren Produkte anzubieten. „Wenn man ein Produkt oder eine Dienstleistung entwickelt und kein Vertrauen in deren Funktionalität, Leistungsfähigkeit oder Sicherheit hat, dann sollte man es nicht auf den Markt bringen“, sagte Huang auf einer Veranstaltung mit Salesforce-Geschäftsführer Marc Benioff in San Francisco. Zwischen schneller Innovation und sicherer KI-Entwicklung zu unterscheiden, sei eine „falsche Wahl“. Man könne definitiv beides gleichzeitig haben, unterstrich Huang.

Der Nvidia-Chef fügte hinzu, dass Unternehmen ihre eigene Arbeit verlangsamen sollten, wenn sie der Meinung seien, dass ein System schwer kontrollierbar werde oder nicht sicher genug für die Markteinführung sei. Huang hat bereits zuvor Warnungen zurückgewiesen, dass KI eine existenzielle Bedrohung für die Menschheit darstelle. Er unterstützt damit den Widerstand von US-Präsident Trump gegen Vorschläge, die die KI-Entwicklung in den USA verlangsamen könnten. Während der Salesforce-Veranstaltung nahm Huang einen Anruf von Trump entgegen, der existenzielle Bedenken bezüglich KI erneut als „Schwindel“ bezeichnete und Bemühungen kritisierte, die US-Forschung und den Bau von Rechenzentren einzuschränken.

Zuckerberg befürwortet unternehmensspezifischen Ansatz

Meta-Boss Mark Zuckerberg argumentiert in ähnlicher Weise. Er verrtritt die Auffassung, dass KI-Labore ihr eigenes Entwicklungstempo bestimmen sollten, während sie gleichzeitig Sicherheitsmaßnahmen ergreifen. In einem Beitrag auf X erklärte er, jedes Labor habe sowohl die Verantwortung als auch den Anreiz, sicherzustellen, dass seine Modelle sicher trainiert würden. Er verwies auf die eigene Entscheidung von Meta, die Einführung seines neuesten „Muse“-Modells aufgrund interner Sicherheitsbedenken um mehrere Monate zu verschieben.

Sein Unternehmen habe nicht andere Labore gebeten, ihr Tempo zu drosseln, bevor es selbst Maßnahmen ergriff, sagte Zuckerberg. Er argumentierte, dass Sicherheitsentscheidungen Teil des normalen Entwicklungsprozesses sein sollten. Er forderte zudem einen verstärkten Einsatz unabhängiger Gutachter und Berater zur Bewertung von KI-Systemen. Zuckerberg meinte, KI-Bewertungen durch Dritte könnten den Anbietern dabei helfen, zu überprüfen, ob ihre Systeme sicher und gemäß den geltenden Vorschriften entwickelt würden.

KI-Branche uneinig über den Umgang mit Risiken

Die Meinungsverschiedenheiten der US-Manager deuten auf eine tiefe Kluft innerhalb der KI-Branche hin, wie mit den Risiken immer leistungsfähigerer Systeme umgegangen werden soll. Amodei, Altman und Musk forderten kürzlich eine stärkere Koordination zwischen führenden KI-Forschungslabors, nachdem verschiedene Forscher davor gewarnt hatten, dass ein unkontrollierter Wettlauf um die Entwicklung immer leistungsfähigerer Systeme es den Menschen erschweren könnte, die Kontrolle zu behalten.

Google und Microsoft haben ihre Unterstützung für die Idee einer Koordinierung des Tempos bei der Entwicklung von Pionier-KI signalisiert. Die Debatte verdeutlicht zudem die Unterschiede zwischen Unternehmen, die proprietäre oder „geschlossene“ KI-Modelle entwickeln, und solchen, die stärker anpassbare „offene“ Systeme fördern.

EU plant mit Kanada und UK

Unterdessen wird auch in Europa über die Regulierung der KI diskutiert. Vertreter aller 27 EU-Mitgliedstaaten trafen sich dazu in Brüssel zu einer Sitzung des KI-Beirats der Union. Dort wurde hervorgehoben, dass die EU die Industrie dabei unterstützen will, die Entwicklung besonders kritischer KI-Technologien (Frontier-KI-Modelle) zu verlangsamen. In ihrer jährlichen Rede zur Lage der Union vor dem Europäischen Parlament hob EU-Kommissionspräsidentin Ursula von der Leyen das Potenzial von KI hervor, der Menschheit zu nutzen – vorausgesetzt, Risiken und Chancen stünden in einem ausgewogenen Verhältnis. Man werde bei der KI-Sicherheit mit Partnern wie Kanada und Großbritannien zusammenarbeiten, kündigte die Kommissionspräsidentin an. Von der Leyen verwies hinsichtlich der angekündigten Sicherheitsanstrengungen auf jüngste Vorfälle bei OpenAI und Hugging Face, bei denen KI-Agenten ihre Testumgebungen verlassen und eigenständig andere Systeme angegriffen haben.

Beifall und Kritik aus der Forschung

Deutsche Forschende bewerten die aktuelle Debatte unterschiedlich. So hält Professor Dr. Philipp Hennig von der Eberhard Karls Universität in Tübingen die Forderungen von Anthropic-Chef Dario Amodei für fragwürdig: „Die überhebliche Geheimniskrämerei von Amodei und anderen – aktuellen wie ehemaligen – Angestellten der großen KI-Firmen, die ominösen Verweise auf ‚interne‘ Entwicklungen und Erkenntnisse, sie nervt. Wenn Amodei, als CEO eines der führenden KI-Unternehmen, wirklich Sorgen um die Sicherheit des Internets, der globalen Wirtschaft oder gar des Menschheitsüberlebens hat, dann stehen ihm konkretere Optionen offen als die nebulöse Bitte um ‚demokratische und globale Koordination‘, die er in seinem Blogpost formuliert.“

Das wahre Problem, so Hennig, sei einmal mehr die von Gewinnstreben getriebene Inaktivität der US-Regierung. Einer Regierung, der etwas am Gemeinwohl der eigenen und der Weltbevölkerung liege, sollte dringend mindestens ein schärferes Monitoring der KI-Unternehmen in Betracht ziehen. Bei selbstfahrenden Autos seien Safety Drivers eine Selbstverständlichkeit. Es sei unverständlich, warum man das unüberwachte Handeln autonomer Bot-Schwärme wie dem, der Hugging Face überfiel, hinnehme.

Die Professorin für Völkerrecht, Rechtsvergleichung und Rechtsethik Dr. Silja Vöneky von der Albert-Ludwigs-Universität Freiburg sieht rechtliche Möglichkeiten als gegeben, die Kontrolle von KI-Modellen durchzusetzen: „Rechtlich verbindlich können KI-Hochrisikomodelle durch nationales Recht, EU-Recht oder Völkerrecht (universell oder regional) reguliert und eingehegt werden. Verifikationsmechanismen, die nicht zahnlos sind, sind aus anderen Verträgen bekannt und können übernommen, weiter optimiert und wiederum rechtlich verankert werden. Welche Regulierungen davon sinnvoll, aber auch verhältnismäßig und wirkmächtig sind, muss dabei schnell in Zusammenarbeit mit KI-Forscher/innen entschieden werden. Es liegen aber entscheidende Vorschläge, wie eben jetzt der von Dario Amodei, auf dem Tisch, an die sehr gut angeknüpft werden kann.“

Teile dieses Artikels erschienen ursprünglich auf unserer Schwester-Website MES Computing