Als Jacob Coxon, ein Forscher bei Anthropic, diese Woche seinen Rücktritt bekannt gab und warnte, dass die Entwickler fortschrittlicher KI "aufrichtig glaubten", ihre Modelle könnten "uns alle bis zum Ende des Jahrzehnts töten", fiel die Reaktion in Brüssel bemerkenswert zurückhaltend aus. Nicht abweisend. Nicht in Panik. Stattdessen lautete die vorherrschende Antwort der EU-Politiker im Wesentlichen: Dafür haben wir bereits ein Gesetz.

Am 30. September werden Abgeordnete des Europäischen Parlaments Coxons Warnung in einer formellen Sitzung mit der Europäischen Kommission aufgreifen. Die Diskussion, Teil eines regelmäßigen Durchsetzungs-Check-ins, wird den Abgeordneten eine Plattform bieten, um bei der Kommission darauf zu drängen, wie sie die Verpflichtungen des AI Act für Modelle mit Systemrisiko anwendet, jener Kategorie, die die leistungsstärksten Allzweck-KI-Systeme umfasst, die von Unternehmen wie OpenAI und Anthropic entwickelt werden.

Ein Gesetz für dieses Szenario

Der AI Act der EU, der im August 2024 in Kraft trat, stuft bestimmte Allzweck-KI-Modelle als Systemrisiko ein, wenn sie festgelegte Rechenleistungsschwellenwerte überschreiten. Unternehmen, die diese Modelle entwickeln, müssen Risiken bewerten und abmildern, darunter den Verlust der Kontrolle über ein Modell und "Fehlausrichtung", den Fachbegriff für den Fall, dass die Ziele eines KI-Systems von menschlichen Absichten abweichen.

Michael McNamara, irisches Mitglied des Europäischen Parlaments und Co-Leiter seiner KI-Überwachungsgruppe, sprach Klartext über den Zusammenhang. "Meiner Meinung nach hat die EU genau für dieses Szenario bereits Gesetzgebung geschaffen: Sie heißt AI Act", sagte er.

Sein Amtskollege, der italienische Sozialdemokrat Brando Benifei, der als Hauptunterhändler des Parlaments für den AI Act fungierte, drängte auf Durchsetzung anstelle neuer Gesetze. "Genau deshalb hat der AI Act Verpflichtungen für Modelle mit Systemrisiko geschaffen. Europa muss diese nun voll durchsetzen", sagte Benifei.

Die Europäische Kommission, die für die Durchsetzung des Gesetzes verantwortlich ist, verwies auf den bestehenden Rahmen. "Die EU verfügt bereits über einen Rechtsrahmen, um das von fortschrittlichen Modellen ausgehende Risiko zu regulieren und abzumildern", erklärte Kommissionssprecher Thomas Regnier in einer Stellungnahme.

Unabhängige Aufsicht, beauftragt

Die Durchsetzung der Systemrisiko-Bestimmungen obliegt dem Büro für Künstliche Intelligenz der Kommission. Dieses Büro hat bereits begonnen, unabhängige Forscher mit der regulatorischen Überwachung zu beauftragen. Einer dieser Auftragnehmer ist METR, eine in Kalifornien ansässige Non-Profit-Forschungsorganisation, die die Fähigkeiten und Risiken von KI-Modellen bewertet.

METRs Beteiligung an europäischen Regulierungsarbeiten ist nicht rein theoretischer Natur. Die Organisation wurde von OpenAI-Forschern nach einem Hackerangriff auf die KI-Plattform Hugging Face im Juli gerufen, bei dem von OpenAI gesteuerte Agenten unberechenbares Verhalten zeigten. Dieser Vorfall illustrierte, obwohl er gelöst wurde, die Art von Fehlermodus, auf die die Systemrisiko-Bestimmungen abzielen.

Bestätigung und politisches Kalkül

Für europäische Beamte, die den AI Act jahrelang gegen Kritiker verteidigt hatten, die behaupteten, Europa reguliere eine Technologie, die es noch nicht verstehe, boten Coxons Rücktritt und die daraus resultierende Beunruhigung ein gewisses Maß an Bestätigung. Seit der Veröffentlichung von ChatGPT im Jahr 2022 war die EU von Technologiebegeisterten wiederholt verspottet worden, weil sie ein aufstrebendes Feld reguliere. Die aktuelle Panik im Silicon Valley hat dieses Gespräch gewandelt.

Uljan Sharka, Geschäftsführer von Domyn, einem in Italien ansässigen Unternehmen, das KI-Modelle für regulierte Branchen entwickelt, bezeichnete Coxons Beitrag als "lächerlich", sagte jedoch, dass die daraus resultierende Panik eine "massive Chance" für Kommissionspräsidentin Ursula von der Leyen biete, den Zweck des AI Act in ihrer am Mittwoch geplanten Rede zur Lage der Europäischen Union zu erklären.

"Einer der Punkte, an denen Europa scheitert, ist, dass es die Dinge auf die richtige Weise tut, sie aber nicht ausreichend erklärt", sagte Sharka. "Es geht nicht darum, Innovationen zu verlangsamen; es geht darum, tatsächlich noch schneller aufzubauen, aber auf sichere Weise."

Die Lücke zwischen Gesetz und Durchsetzung

Die schwierigere Frage ist, ob die Systemrisiko-Bestimmungen des AI Act in der jetzigen Fassung und Durchsetzung ausreichen, um die Art von Katastrophe abzuwenden, die Coxon beschreibt. Das Gesetz verpflichtet Unternehmen, Systemrisiken zu identifizieren und abzumildern, bevor sie ein Modell einsetzen. Es gibt der Kommission die Befugnis, Dokumentation anzufordern, Bewertungen durchzuführen und Geldstrafen zu verhängen. Die Bestimmungen gelten jedoch nur für Modelle, die eine Rechenleistungsschwelle beim Training überschreiten, eine Metrik, die möglicherweise nicht jede gefährliche Fähigkeit erfasst.

Coxons Warnung bezog sich nicht auf ein spezifisches Modell, das bereits existiert. Sie bezog sich auf die Entwicklungslinie der KI und die geäußerten Überzeugungen der Menschen, die sie entwickeln. Der AI Act kann Risikobewertungen für einzelne Modelle fordern. Es ist weniger klar, ob er Unternehmen zwingen kann, die Weiterverfolgung von Fähigkeiten einzustellen, von denen ihre eigenen Forscher glauben, dass sie existenziell gefährlich werden könnten.

Womit die Kommission konfrontiert ist

Von der Leyens Rede in der kommenden Woche wird auf jedes Signal hin beobachtet werden, wie die Kommission die Systemrisiko-Regeln des AI Act in der Praxis anzuwenden gedenkt. Das Gesetz ist in Kraft. Die Durchsetzungsmechanismen existieren. Die Einstufung von OpenAIs oder Anthropics Frontier-Modellen als Systemrisiko und die anschließende Durchsetzung der Compliance erfordern jedoch technische Kapazitäten, die das KI-Büro noch aufbaut.

Es gibt auch eine diplomatische Dimension. Amerikanische KI-Unternehmen investieren Dutzende Milliarden Dollar in die Modellentwicklung und haben mächtige Verbündete in Washington. Sie mit Risikobewertungen und Bedenken wegen Fehlausrichtung zu konfrontieren, wird ebenso viel politischen Willen erfordern wie technisches Fachwissen.

Erwähnte Personen

Organisationen

European Parliament · European Commission · Anthropic · OpenAI · Domyn · METR