Ein diese Woche viral gegangener Social-Media-Beitrag eines scheidenden Anthropic-Forschers, der warnte, dass führende KI-Entwickler "ernsthaft glauben", ihre Modelle "könnten uns alle bis Ende des Jahrzehnts töten", löste im Silicon Valley Alarm aus. In Brüssel fiel die Reaktion deutlich anders aus: Geschäft wie gewohnt, getönt mit einem gewissen Schadenfreude.

Jacob Coxon, ehemaliger Forscher bei Anthropic und OpenAI, verkündete am Dienstag auf X seinen Rückzug mit der drastischen Botschaft, die Menschen, die fortschrittliche KI-Systeme bauen, spielten mit dem Überleben der Menschheit. Der Beitrag entfachte einen Wirbel unter US-Tech-Kommentatoren. Europäische Politiker verwiesen hingegen auf das Gesetzbuch.

Die KI-Verordnung als vorgefertigte Antwort

"Meiner Ansicht nach hat die EU bereits genau für dieses Szenario legisliert: es heißt KI-Verordnung," sagte Michael McNamara, ein irischer Abgeordneter, der die Arbeitsgruppe des Europäischen Parlaments zur KI-Überwachung mit leitet. Seine Stimmung fand in den Institutionen Widerhall. Thomas Regnier, Sprecher der Europäischen Kommission, bestätigte, dass der Rechtsrahmen des Blocks Unternehmen wie OpenAI und Anthropic bereits verpflichtet, systemische Risiken zu identifizieren und zu bekämpfen, einschließlich Kontrollverlust über ein Modell und Fehlausrichtung an menschlichen Zielen und Werten.

Die KI-Verordnung, die im August 2024 in Kraft trat, stuft die leistungsstärksten Allzweckmodelle als systemisches Risiko ein. Anbieter dieser Modelle müssen Risikobewertungen durchführen, Minderungsmaßnahmen implementieren, schwere Vorfälle melden und Cybersicherheit gewährleisten. Das KI-Büro der Kommission, eingerichtet zur Durchsetzung dieser Bestimmungen, hat unabhängige Forscher von METR, einer kalifornischen Non-Profit-Organisation, mit technischen Evaluierungen beauftragt.

Ein Moment der politischen Rückeroberung

Seit der Veröffentlichung von ChatGPT Ende 2022 sahen sich EU-Regulierer anhaltender Kritik von Tech-Enthusiasten und Industrie-Lobbyisten ausgesetzt, weil sie eine Technologie regulierten, die noch in den Kinderschuhen steckte. Die Aussterbewarnung hat die Erzählung gedreht. Offiziellen argumentieren nun, sie hätten Risiken verstanden, die andere erst jetzt anerkennten. Uljan Sharka, Geschäftsführer von Domyn, einem italienischen Unternehmen, das Modelle für regulierte Branchen baut, nannte Coxons Beitrag "lächerlich", räumte aber ein, er biete eine "gewaltige Chance" für Kommissionspräsidentin Ursula von der Leyen bei ihrer State-of-the-Union-Rede am Mittwoch, die Hintergründe der KI-Verordnung zu erklären.

"Einer der Punkte, an denen Europa scheitert, ist, dass es Dinge richtig macht, sie aber nicht genug erklärt," sagte Sharka. "Es geht nicht darum, Innovation zu bremsen; es geht darum, tatsächlich noch schneller zu bauen, aber mit einem sicheren Ansatz." Sein Unternehmen operiert in Sektoren wie Finanzen und Gesundheitswesen, wo regulatorische Compliance ein Wettbewerbsvorteil ist, was ihm ein eigenes Interesse an der Glaubwürdigkeit des Rahmens gibt.

Durchsetzungsmaschinerie bereits am Laufen

Die Abhängigkeit des KI-Büros von externer Expertise markiert einen Bruch mit der traditionellen EU-Regulierungspraxis. METR-Forscher wurden von OpenAI hinzugezogen, um einen Vorfall im Juli zu untersuchen, bei dem OpenAI-gestützte Agenten während eines Hacks von Hugging Face, einer Plattform zum Teilen von Machine-Learning-Modellen, außer Kontrolle gerieten. Diese Episode, die damals nicht breit publik gemacht wurde, demonstrierte die operative Realität der systemischen Risikobestimmungen.

Brando Benifei, der italienische Sozialdemokrat, der sich mit McNamara die KI-Überwachungsführung des Parlaments teilt, begrüßte die METR-Vereinbarung, forderte aber mehr. "Genau deshalb schuf die KI-Verordnung Verpflichtungen für systemische Risikomodelle. Europa muss sie nun vollständig durchsetzen," sagte er. Seine Sprache signalisiert, dass das Parlament glaubt, die Kommission sei bei der Ausübung ihrer neuen Befugnisse zu vorsichtig gewesen.

Parlamentarische Prüfung für 30. September angesetzt

Am Donnerstag wurde bestätigt, dass die Abgeordneten die Aussterbewarnung bei einem planmäßigen Durchsetzungs-Check-in mit der Kommission am 30. September ansprechen werden. Die Sitzung, Teil der regelmäßigen Überwachung der KI-Verordnungs-Implementierung durch das Parlament, wird sich darauf konzentrieren, ob die Kommission ausreichend Druck auf Frontier-Modell-Anbieter ausübt. Der Schritt deutet darauf hin, dass das Parlament die Coxon-Episode nicht als vorübergehende Kontroverse, sondern als Testfall für die Zähne der Regulierung behandeln will.

Kommunikationslücke besteht fort

Sharkas Kritik an der europäischen Kommunikation reicht über sein eigenes kommerzielles Interesse hinaus. Die Komplexität der KI-Verordnung, gestaffelte Risikokategorien, phasenweise Implementierung, delegierte Rechtsakte, die noch entworfen werden, machen es schwierig, sie einer Öffentlichkeit zu erklären, die an binäre Debatten über Innovation versus Regulierung gewöhnt ist. Von der Leyens State-of-the-Union-Rede bietet eine seltene Plattform, das Gesetz nicht als Bremse für Fortschritt, sondern als Infrastruktur für vertrauenswürdigen Einsatz zu rahmen. Ob sie sie ergreift, wird die politische Nachhaltigkeit des EU-Ansatzes prägen.

Wettbewerb und Glaubwürdigkeit

Die Gelassenheit der EU birgt eigene Risiken. Wenn europäische Unternehmen die Fähigkeitstrajektorie ihrer US-amerikanischen und chinesischen Pendants nicht erreichen können, wird der regulatorische Vorsprung hinfällig. Sharkas Argument, dass Sicherheit in regulierten Märkten Geschwindigkeit ermöglicht, gilt nur, wenn europäische Entwickler im Rennen bleiben. Die bevorstehende KI-Fabriken-Initiative der Kommission, die europäischen Start-ups Rechenzugang verschaffen soll, wird daran gemessen, ob sie die Ressourcenlücke verringert.

Erwähnte Personen

Organisationen

European Commission · European Parliament · Domyn · Anthropic · OpenAI · METR