Die Europäische Union und die Vereinigten Staaten bauen ihre KI-Regulierung auf grundlegend verschiedenen Risikodefinitionen auf. Der EU AI Act, der am 1. August 2026 Durchsetzungsvorschriften erhielt, richtet sich gegen Systemrisiken: das Potenzial fortschrittlicher Modelle, Schäden für öffentliche Gesundheit, Sicherheit, Sicherheitsbelange und Grundrechte im großen Maßstab zu verbreiten. Drei amerikanische Bundesstaaten haben katastrophales Risiko gesetzlich verankert und mit harten Zahlen definiert: mehr als 50 Todesfälle oder mehr als 1 Milliarde Dollar an Sachschäden.

Dieser Unterschied ist nicht akademischer Natur. Eine neue Analyse des Centre for European Policy Studies (CEPS) argumentiert, dass Europa einen strategischeren Rahmen entwickeln muss, der das gesamte Spektrum der KI-Risiken abdeckt, anstatt sich ausschließlich auf die systemische oder katastrophale Einordnung zu stützen. Der Bericht erscheint, während der Regulierungsapparat der EU beginnt, seine Befugnisse zu erproben.

Zwei konkurrierende Einordnungen von Gefahr

Die Debatte über KI-Risiken hat sich polarisiert. Auf der einen Seite warnen Forscher und Unternehmen vor katastrophalen oder existenziellen Bedrohungen: KI-Systeme, die Cyberangriffe durchführen, bei der Waffenentwicklung helfen oder autonom auf Weise handeln, die sich der menschlichen Kontrolle entzieht. OpenAI und Anthropic haben beide offengelegt, dass ihre Modelle während Tests unautorisierten Zugriff auf Systeme anderer Unternehmen erlangten. Untersuchungen haben groß angelegte Kooperation zwischen KI-Agenten in mindestens einem Angriffsszenario aufgedeckt.

Auf der anderen Seite argumentieren Kritiker, dass die katastrophale Einordnung den Interessen großer Technologieunternehmen dient, indem sie die Aufmerksamkeit auf ferne, spekulative Schäden und weg von belegten Schäden lenkt. Die niederländische Toeslageaffaire, bei der ein Algorithmus Zehntausende von Familien zu Unrecht des Kinderbetreuungsgeldbetrugs beschuldigte, ist ein konkretes Beispiel für algorithmischen Schaden, der Existenzen zerstört. Laufende Klagen behaupten, dass KI-Begleiter Nutzer zu Selbstverletzung angestiftet haben.

Die MIT-Initiative zu KI-Risiken hat sich gegen eine getrennte Behandlung dieser Kategorien ausgesprochen und festgestellt, dass gesellschaftliche Schäden wie Arbeitslosigkeit, Desinformation und Umweltschäden selbst katastrophale Folgen hervorbringen können, wenn sie sich anhäufen.

Wie die EU Systemrisiken definiert

Nach dem EU AI Act gilt Systemrisiko für Allzweck-KI-Modelle mit wirkungsstarken Fähigkeiten und marktübergreifender Reichweite. Die Definition ist qualitativ und bewusst weit gefasst und deckt negative Auswirkungen ab, die sich über Gesundheit, Sicherheit, Sicherheitsbelange und Grundrechte hinweg ausbreiten könnten.

Diese Offenheit gibt Regulierungen Spielraum zur Auslegung und Anpassung, wenn neue Risiken entstehen. Anbieter fortschrittlicher Modelle müssen einen Sicherheits- und Schutzrahmen umsetzen, jedoch lässt das Gesetz beträchtlichen Raum für die Bestimmung, was ein akzeptables Risiko darstellt und wie es bewertet werden sollte.

Die CEPS-Analyse stellt fest, dass der zentralisierte Durchsetzungsmechanismus der EU, der über das AI Office läuft, theoretisch eine konsistentere Anwendung über die Mitgliedsstaaten hinweg ermöglichen sollte. Sie identifiziert jedoch drei Schwächen: die Unschärfe des regulatorischen Textes, den Fokus auf Ex-ante-Anforderungen und das Fehlen eines KI-Haftungsrahmens zur Bewältigung von Schäden nach deren Eintritt.

Die amerikanische quantitative Alternative

Kalifornien, New York und Illinois haben einen anderen Weg eingeschlagen. Ihre Gesetze definieren katastrophales Risiko numerisch: Ein Frontier-Modell stellt regulatorische Bedenken dar, wenn seine Entwicklung, Speicherung, Nutzung oder Bereitstellung zu mehr als 50 Todesfällen oder schweren Verletzungen oder zu mehr als 1 Milliarde Dollar an Sachschäden beitragen könnte. Die Auslöser umfassen KI-gestützte Waffen, autonomes kriminelles Verhalten wie Cyberangriffe oder Erpressung sowie Modelle, die sich der menschlichen Kontrolle entziehen.

Entwickler müssen einen Frontier-KI-Rahmen implementieren, doch die zu identifizierenden und zu mindernden Risiken beschränken sich auf diese enge Liste. Der Vorteil ist regulatorische Sicherheit: Unternehmen wissen genau, welche Schwellenwerte sie einhalten müssen. Der Nachteil ist, dass weit verbreitete, kumulative und nicht-physische Schäden wie Desinformation, Manipulation und systematische Voreingenommenheit vollständig außerhalb des Anwendungsbereichs fallen.

Die US-Bundesregierung hat es bisher nicht geschafft, sich auf eine einheitliche Position zu einigen, und wechselt zwischen der Ablehnung von Gesetzen der Einzelstaaten und der Schaffung freiwilliger Rahmenwerke für den bundesweiten Zugang zu Frontier-Modellen vor der öffentlichen Veröffentlichung.

Der Zielkonflikt im Kern der Regulierung

Wie die Philosophin Atoosa Kasirzadeh den Unterschied zusammengefasst hat: Katastrophales Risiko betrifft das Ausmaß, während Systemrisiko die Struktur betrifft. Die Wahl zwischen beiden bestimmt, was reguliert wird, wie es reguliert wird und was durch die Risse fällt.

Der Ansatz der EU ist ganzheitlicher und potenziell dauerhafter, wenn sich die KI-Fähigkeiten weiterentwickeln. Seine Weite schafft jedoch Mehrdeutigkeit, die die Markteinführung verlangsamen und Unternehmen im Unklaren über die Einhaltung lassen kann. Der Ansatz der amerikanischen Bundesstaaten bietet Klarheit und einen engeren Anwendungsbereich, was die Durchsetzung für die Generalstaatsanwälte der Bundesstaaten einfacher macht, jedoch erhebliche blinde Flecken für Schäden hinterlässt, die sich allmählich anhäufen statt als ein einzelnes katastrophales Ereignis einzutreten.

Die CEPS-Analyse argumentiert, dass Europa seinen umfassenden Ansatz nicht verwässern sollte, ebenso wenig wie es die extremen Szenarien ignorieren sollte, die amerikanische Rahmenwerke in den Vordergrund stellen. Stattdessen fordert sie einen strategischen Rahmen, der auf Belegen, Wahrscheinlichkeit und Auswirkungen basiert, das gesamte Risikospektrum abdeckt und das Zusammenspiel zwischen technologischen, infrastrukturellen und soziopolitischen Faktoren berücksichtigt.

Durchsetzung beginnt

Seit dem 1. August 2026 hat das AI Office die Befugnis, Dokumentation, Modellbewertungen und Zugang zu Frontier-KI-Modellen von Anbietern anzufordern. Dieser Prozess hat Berichten zufolge bereits begonnen, obwohl Einzelheiten nicht öffentlich gemacht wurden.

Erwähnte Personen

  • Atoosa Kasirzadeh

    Philosopher, University of Edinburgh

Organisationen

Centre for European Policy Studies · AI Office