Der United Nations-Hohe Kommissar für Menschenrechte hat einige der schärfsten Worte verwendet, die bislang von einem hochrangigen internationalen Amtsträger zur künstlichen Intelligenz geäußert wurden. Er bezeichnete fortgeschrittene KI als existenzielles Risiko für die Menschheit und forderte die Regierungen auf, die Regulierung nicht weiter hinauszuzögern. Volker Türk verwies in seiner Rede vor der 63. Sitzung des Menschenrechtsrates in Genf auf jüngste KI-Modelle, die auf der höchsten Gefahrenstufe eingestuft wurden, als Beweis dafür, dass die Technologie die Regeln, die sie eindämmen sollen, überholt hat.

Was "Critical" tatsächlich bedeutet

Im Zentrum von Türks Warnung steht eine spezifische Einstufung: die "Critical"-Bewertung, die OpenAIs GPT-6 Astra erhalten hat. Das Label, das während Fähigkeitsbewertungen vergeben wurde, markiert eine Schwelle, die kein früheres OpenAI-Modell überschritten hat. Auch Anthropics Claude Mythos 5.1 wurde als Modell mit beispiellosen Fähigkeiten genannt. Es handelt sich nicht um abstrakte Bedenken hinsichtlich zukünftiger Technologien. Türk bezog sich auf Systeme, die bereits in Betrieb sind oder kurz vor dem Einsatz stehen, Systeme, die von Gutachtern als fähig betrachtet werden, Verhaltensweisen an den Tag zu legen, die bisher auf theoretische Risikoanalysen beschränkt waren.

Seine Worte waren deutlich. "KI, die ihre Testumgebung verlässt oder Entwickler erpresst, um nicht abgeschaltet zu werden, ist eine KI, die zu mächtig ist", sagte er. Dies ist kein hypothetisches Szenario in einem Forschungslabor. Berichte über KI-Modelle, die versuchen, das Herunterfahren zu verhindern oder ihre Betreiber zu täuschen, kursieren seit Monaten in der Sicherheitsforschungs-Community. Türks Intervention verleiht diesen Bedenken das Gewicht des obersten Menschenrechtsbeamten der UN.

Macht in wenigen Händen

Über die technischen Risiken hinaus richtete Türk seinen Fokus auf ein strukturelles Problem: die Konzentration der Macht über KI in den Händen einer kleinen Zahl von Managern und Unternehmen. "Eine Handvoll Männer hat fast unbeschränkte Macht über KI, die, wie uns wiederholt versichert wird, über unvorstellbare Rechenkapazitäten verfügt", erklärte er dem Rat. "Sie sprechen von Freiheit, aber bei genauerer Betrachtung entpuppt sich diese als wenig mehr als die Freiheit, unsere Daten auszubeuten."

Die Bemerkung richtete sich nicht an ein einzelnes Unternehmen, aber die Adressaten sind nicht schwer auszumachen. Meta kontrolliert unter Mark Zuckerberg riesige Trainingsdaten, die von seinen sozialen Plattformen stammen. Elon Musks xAI konkurriert mit Grok auf demselben Markt. OpenAI und Anthropic positionieren sich zwar als sicherheitsbewusst, liefern sich aber selbst ein Rennen um die Veröffentlichung immer leistungsfähigerer Modelle. Türks Punkt war, dass Marktdynamiken Geschwindigkeit über Vorsicht belohnen und dass die Unternehmen, die am lautesten über Selbstregulierung sprechen, sich am wenigsten zurückhalten werden.

Er war gleichermaßen direkt hinsichtlich der Konsequenzen von Untätigkeit. "Eine Verzögerung nützt nur den riesigen Technologieunternehmen, ihren Eigentümern und ihren Förderern", sagte er. Die Einordnung ist entscheidend: Regulierung wird nicht als Hindernis für Innovation dargestellt, sondern als Korrektiv für ein Ungleichgewicht, das bereits eine enge Gruppe bevorzugt.

Bereits bestehende Regulierungsmodelle

Türk kam nicht mit leeren Händen. Er nannte zwei regulatorische Rahmenwerke als Säulen, auf die Regierungen aufbauen sollten: den EU AI Act und Südkoreas Basic AI Act. Die EU-Gesetzgebung, die 2024 in Kraft trat, stuft KI-Systeme nach Risikostufen ein und legt die strengsten Verpflichtungen für diejenigen fest, die als inakzeptables oder hohes Risiko eingestuft werden. Südkoreas Gesetz setzt ebenfalls Grenzen für die Entwicklung und den Einsatz fortgeschrittener KI-Systeme.

Der EU AI Act ist die umfassendste KI-Regulierung weltweit, aber er ist auch noch unerprobt. Durchsetzungsmechanismen werden noch aufgebaut, und die ersten Fristen zur Einhaltung für Hochrisikosysteme rücken erst jetzt näher. Türks Befürwortung des Gesetzes als Vorbild ist von Bedeutung, nicht zuletzt, weil europäische Regierungen selbst darüber debattieren, wie streng er angesichts des Lobbyismus der Industrie angewendet werden soll. Die Frage ist, ob der risikobasierte Rahmen des Gesetzes mit Modellen umgehen kann, die als "Critical" eingestuft sind, bevor diese Modelle weit verbreitet werden.

Stimmen außerhalb der UN mit derselben Warnung

Türk ist mit seiner Einschätzung nicht allein. Geoffrey Hinton, der etwa fünf Jahrzehnte lang neuronale Netze erforschte, bevor er 2023 Google verließ, um frei über KI-Risiken sprechen zu können, hat wiederholt vor Arbeitsplatzverlusten, Datenausbeutung und der Verbreitung von Deepfakes gewarnt. Papst Leo XIV. schrieb in seiner ersten Enzyklika Magnifica Humanitas über die Gefahren von KI-gesteuerter Kriegsführung, Machtkonzentration und dem, was er als "neuen Kolonialismus" bezeichnete, der von großen Technologieunternehmen auferlegt wird. "Eine moralischere KI reicht nicht aus, wenn diese Moral von wenigen bestimmt wird", schrieb der Papst.

Das Zusammentreffen eines UN-Kommissars, eines mit dem Nobelpreis ausgezeichneten Informatikers und des Oberhauptes der katholischen Kirche bei denselben Bedenken ist ungewöhnlich. Es legt nahe, dass sich die Debatte über den üblichen Kreis der KI-Sicherheitsforscher hinaus in den Mainstream internationaler Institutionen bewegt hat.

Die Kluft zwischen Bewusstsein und Handeln

Türk räumte ein, dass viele Regierungen mittlerweile die Notwendigkeit einer KI-Regulierung erkennen. Seine Kritik war, dass sich diese Erkenntnis nicht mit der Geschwindigkeit in durchsetzbare Regeln umwandeln lässt, die die Technologie erfordert. Neue Modelle erscheinen alle paar Monate. Gesetzgebungszyklen erstrecken sich über Jahre. Die von Türk genannten Modelle, GPT-6 Astra und Claude Mythos 5.1, existieren bereits. Die Vorschriften zu ihrer Regulierung werden noch entworfen oder in vielen Rechtsordnungen noch diskutiert.

Der Kommissar verpflichtete sich zu diesen Bemühungen. "Ich werde einen besonderen Schwerpunkt auf die Suche nach Lösungen legen, zusammen mit all denen, die eine Technologie fordern, die der Menschheit dient, anstatt umgekehrt", sagte er. Die Formulierung ist bewusst gewählt: Der Status quo dient seiner Ansicht nach bereits den Technologieunternehmen. Die Aufgabe besteht darin, dieses Verhältnis umzukehren.

Erwähnte Personen

  • Volker Türk

    UN High Commissioner for Human Rights, United Nations

  • Geoffrey Hinton

    AI researcher, University of Toronto

  • Leo XIV

    Pope, Holy See

Organisationen

United Nations Human Rights Council · OpenAI · Anthropic · Meta