OpenAI erwägt Bremse für KI-Entwicklung

Sam Altman signalisiert Bereitschaft zu einem langsameren Innovationstempo – aber nur, wenn andere KI-Labore mitziehen.

OpenAI-CEO Sam Altman erklärt, das Unternehmen sei möglicherweise bereit, die KI-Entwicklung zu verlangsamen, da die Bedenken hinsichtlich der Fähigkeiten fortschrittlicher Modelle zunehmen. Doch auch andere müssten dem folgen.

Altman sprach diese Möglichkeit bei einer internen Unternehmenssitzung an, wie Quellen gegenüber Bloomberg News berichteten, wobei dies davon abhänge, dass andere Pionierlabore ähnliche Verpflichtungen eingehen. „Claude“-Entwickler Anthropic hat bereits erklärt, offen für eine Zusammenarbeit mit der gesamten KI-Branche zu sein, um das Entwicklungstempo neuer Tools zu drosseln; allerdings müssten sich noch viele weitere Unternehmen darauf einigen.

Regierungen widmen der Sicherheit von Produkten, die von Unternehmen wie OpenAI und Anthropic stammen, nun mehr Aufmerksamkeit, insbesondere nach der Flut agentenbasierter Angriffen in diesem Sommer. OpenAI hatte im vergangenen Monat die Modellentwicklung vorübergehend ausgesetzt, um die Sicherheitsvorkehrungen zu verstärken, nachdem seine Agenten die Sicherheitsbarrieren durchbrochen und sich Zugang zu Hugging Face verschafft hatten.

Zudem erwägt das Unternehmen einen KI-„Kill-Switch“, der – potenziell – seine Systeme autonom abschalten könnte, sobald Sicherheitsprobleme erkannt werden; ein Schritt, der von der britischen und der US-Regierung unterstützt wird. Jedoch gibt es viele offene Fragen, die zunächst geklärt werden müssen: von „Was ist ein Kill-Switch?“ bis hin zu „Wer wäre für dessen Einsatz verantwortlich?“

Führende Experten warnen vor „irreversiblem Kontrollverlust“

Die Maßnahmen von OpenAI reichen nach wie vor nicht aus, um das Risiko eines „katastrophalen“ Kontrollverlusts zu verringern, erklärte diese Woche der Berater der US-Regierung Paul Christiano, der gerade dem gemeinnützigen Vorstand des Unternehmens beigetreten ist.

„Ich glaube mittlerweile, dass ein erhebliches Risiko besteht, dass die rasante Beschleunigung der KI-Fähigkeiten in sehr naher Zukunft zu einem katastrophalen und irreversiblen Kontrollverlust führt“, schrieb Christiano.

Er fügte hinzu, dass die KI-Branche insgesamt, einschließlich OpenAI, nicht auf dem richtigen Weg sei, „dieses Risiko auf ein akzeptables Maß zu reduzieren“.

Seine eindringliche Schlussfolgerung lautete: „Wenn wir Superintelligenz ohne eine robustere Ausrichtung entwickeln, gehe ich davon aus, dass wir die Kontrolle darüber dauerhaft verlieren werden. Sollte dies geschehen, könnten die meisten Menschen sterben. Ich glaube, wir bräuchten eine nationale und internationale Koordination, um globale Konsistenz zu gewährleisten und das Risiko auf ein akzeptables Maß zu reduzieren.“ Diese Bedenken werden auch von OpenAIs Chefwissenschaftler Jakub Pachocki geteilt.

Unternehmen treiben die Entwicklung trotz Warnungen voran

Ähnliche Warnungen kommen direkt aus der Praxis der Entwicklung. Diese Woche warf Jacob Coxon, ein ehemaliger Forscher sowohl bei OpenAI als auch bei Anthropic, beiden Unternehmen vor, „mit unserem Leben zu spielen“. Die Menschen, die KI entwickeln, „glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte“, sagte er und schätzte die Wahrscheinlichkeit dafür auf über 10 %. Doch trotz dieser düsteren Warnungen widmen die Führungskräfte der Tech-Branche den alltäglichen Sorgen mehr Aufmerksamkeit als hypothetischen Weltuntergangsszenarien.

Keiner der CIOs, CISOs und anderen Experten, die mit unserer Schwesterseite MES Computing sprachen, gab an, ihre KI-Initiativen im Zuge von Coxons Ankündigung aufzugeben. Der Druck zur Einführung ist schlichtweg zu groß. Stattdessen erklärten sie, sich auf Risikobereiche zu konzentrieren, die sie direkt kontrollieren könnten: Management, Sicherheit und Governance. „Der Druck zur Einführung überwiegt nach wie vor. Und zwar überwältigend“, sagte Muhammad Yahya Patel, vCISO und Berater für Cybersicherheit bei Huntress. „Die Unternehmen, die bei KI komplett auf die Bremse treten, sind in der Minderheit und sehen sich einem Wettbewerbsdruck ausgesetzt, der es schwierig macht, diese Position aufrechtzuerhalten.“

--

Dieser Artikel erschien ursprünglich auf unserer Schwester-Website Computing.