Anthropic-Alignment-Verantwortlicher räumt öffentlich „unlösbares" Superintelligenz-Risiko ein – Branche warnt vor „Wette auf Menschenleben"

Laut ABC News Australia hat Evan Hubinger, Alignment-Forschungsleiter bei Anthropic, diese Woche in seltenen öffentlichen Worten eingeräumt, dass das Unternehmen intern aufrichtig davon ausgeht, dass eine Superintelligenz noch in diesem Jahrzehnt die „gesamte Menschheit auslöschen" könnte – und es derzeit keine klare Lösung für das sogenannte „Alignment-Problem" gibt. Dies ist die jüngste Erschütterung aus den eigenen Reihen des Unternehmens, nachdem der Anthropic-Forscher Jacob Coxon seinen Abschied angekündigt hatte.

Coxon erklärte auf der Social-Media-Plattform X unumwunden, er habe sich nach insgesamt drei Jahren Forschung im Bereich Pre-Training bei Anthropic und OpenAI zum Ausstieg entschlossen, da „beide Unternehmen nicht verantwortlich gehandelt" hätten. Seine Worte im Original: „Sie rasen auf eine sich selbst verbessernde Superintelligenz zu und setzen dabei unsere Leben aufs Spiel."

Hubinger reagierte auf X und bezeichnete Coxons Worte als „zutreffend". Er schrieb: „Wir glauben tatsächlich aufrichtig, dass KI die gesamte Menschheit auslöschen könnte! Ich persönlich schätze die Wahrscheinlichkeit, dass dies in den nächsten zehn Jahren geschieht, auf über zehn Prozent." In einer Frage, die über die Zukunft des Unternehmens und das Schicksal der Menschheit entscheidet, räumte er zugleich ein: „Ich glaube, dass Anthropic sein Bestes gibt, aber wir haben keine Lösung für das Alignment-Problem bei Superintelligenz und sind auch nicht klar auf dem Weg dorthin."

Coxon ist kein Einzelfall. Im Juli dieses Jahres unterzeichneten mehr als 1300 Beschäftigte von Anthropic, OpenAI und anderen führenden KI-Unternehmen eine gemeinsame öffentliche Erklärung, in der sie warnten, dass „die Fähigkeitsentwicklung möglicherweise rasch unsere Fähigkeit übersteigt, die von uns geschaffenen Systeme zu verstehen oder zu kontrollieren", und riefen die US-Regierung auf, internationale Bemühungen zu unterstützen, um Instrumente zu schaffen, die „das Tempo der KI-Entwicklung an der Spitze bewusst steuern" können. Die Initiative trägt den Namen „Pacing the Frontier".

Die Reaktion beider Unternehmen auf den gemeinsamen Aufruf blieb jedoch auf prinzipieller Ebene und enthielt keine konkreten Handlungszusagen. Laut ABC News Australia unter Berufung auf X-Erklärungen beider Unternehmen räumte Anthropic ein, dass seine im Vormonat veröffentlichte Forschung zur „rekursiven Selbstverbesserung" darauf hindeute, „dass Werkzeuge erforderlich seien, um das Tempo der KI-Entwicklung an der Spitze bewusst zu steuern, damit die Gesellschaft vorbereitet sei"; OpenAI äußerte sich vage und erklärte: „Wir glauben, dass irgendwann in der Zukunft der Punkt kommen wird, an dem das Tempo der KI-Beschleunigung bei der Entwicklung von Spitzenmodellen so hoch sein könnte, dass die Welt das Tempo des KI-Fortschritts kontrollieren muss." Keines der beiden Unternehmen verpflichtete sich, die Entwicklung zu pausieren oder einer verbindlichen externen Regulierung zuzustimmen.

Das Fehlen eines Regulierungsrahmens wird zunehmend direkt auf internationaler Bühne benannt. Wie ABC News Australia berichtete, warnte der UN-Hochkommissar für Menschenrechte, Volker Türk, am Montag in Genf, fortschrittliche KI könne ein „existenzielles Risiko" für die Menschheit darstellen, und schwor, Druck auf die betreffenden Unternehmen auszuüben, um die in seinem Büro aufgelisteten Risiken zu verringern – darunter die Auswirkungen auf öffentliche Dienstleistungen, Kommunikation und demokratische Systeme. Türk forderte, „bevor es zu spät ist" „eiserne Garantien" für die KI-Sicherheit zu schmieden. „Ich teile die Besorgnis von Menschen aus der Branche, dass fortschrittliche KI ein existenzielles Risiko für die Menschheit darstellen könnte", erklärte er vor dem UN-Gremium.

Das Wesen des „Alignment-Problems" besteht darin, dass ein KI-System, das die menschlichen Fähigkeiten übersteigt, möglicherweise nicht dieselben Werte teilt wie die Menschen. Vor dem Hintergrund, dass es auf US-Bundesebene bislang keinen verbindlichen Regulierungsrahmen für KI an der Spitze gibt, räumt die Branche intern nun auf die direkteste Weise ein: Das Risiko- und Ertragsprofil dieses Wettlaufs ist asymmetrisch – die Gewinne werden von den Unternehmen eingestrichen, die Kosten könnten auf allen lasten.