Die Europäische Kommission hat ChatGPT am Montag nach dem Digitale-Dienste-Gesetz als sehr große Online-Suchmaschine eingestuft und den weltweit meistgenutzten Chatbot somit demselben regulatorischen Rahmen unterstellt wie Google Search und Microsofts Bing. Die Entscheidung, deren Abschluss knapp ein Jahr dauerte, legt OpenAI eine Reihe von Transparenz- und Risikominderungspflichten auf. Bei Nichteinhaltung drohen Strafen von bis zu 6 Prozent des weltweiten Jahresumsatzes.

Die Einstufung ist jedoch eng gefasst. Sie betrifft nur jene Teile von ChatGPT, die als Suchmaschine fungieren, also Informationen aus dem Internet abrufen und ranken. Die große Mehrheit der Nutzerinteraktionen, bei denen das Modell eigene Antworten generiert, Ratschläge erteilt, Rollenspiele durchführt oder einfach konversiert, fällt nicht darunter. Diese Lücke lässt Gesetzgeber und Rechtswissenschaftler zweifeln, ob das digitale Flaggschiff-Gesetzwerk der EU für die Ära der generativen KI geeignet ist.

Ein Kategorisierungsfehler von Anfang an

Als das DSA 2022 verabschiedet wurde, waren generative Chatbots noch ein Nischen-Forschungsprojekt. Die beiden Hauptkategorien des Gesetzes für sehr große Dienste, sehr große Online-Plattformen (VLOPs) und sehr große Online-Suchmaschinen (VLOSEs), waren für soziale Netzwerke, Marktplätze und traditionelle Suchmaschinen konzipiert. ChatGPT passt in keine von beiden.

João Pedro Quintais, außerordentlicher Rechtsprofessor an der Universität Amsterdam, beschreibt den Dienst als eine "hybride" Technologie. Er ruft Informationen ab und rankt sie wie eine Suchmaschine, beherbergt nutzergenerierte Konversationen wie eine Plattform und produziert eigene synthetische Inhalte wie ein Verlag. Die Entscheidung der Kommission, den Dienst in die Schublade der Suchmaschine zu stecken, spiegelt den Weg des geringsten Widerstands wider statt einer kohärenten Taxonomie.

Hätte die Kommission sich für die Plattform-Einstufung entschieden, hätte OpenAI umfassendere Pflichten zur Inhaltsmoderation gehabt, wäre aber auch in den Genuss der "Safe-Harbour"-Bestimmung des DSA gekommen, die Plattformen vor der Haftung für nutzergenerierte Inhalte schützt. Diese Verteidigungslinie wird rechtlich problematisch, wenn der "Nutzer" eine Maschine ist, die Antworten in Echtzeit generiert. Das Label der Suchmaschine umgeht diese Debatte, schafft aber eine andere: Was passiert mit den Risiken, die im Chat stecken?

Kinder, Therapie und der blinde Fleck

Christel Schaldemose, die dänische sozialdemokratische Abgeordnete, die an den Verhandlungen zum DSA beteiligt war, gehört zu den schärfsten Kritikern der engen Einstufung. "ChatGPT ist viel mehr als eine Suchmaschine, und es gibt auch Risiken, die mit dem Chatbot selbst verbunden sind und außerhalb der stärksten Pflichten (der Verordnung) liegen", sagte sie. Sie wies insbesondere auf Risiken für Kinder hin, darunter "emotionale Abhängigkeit und manipulatives oder suchterzeugendes Design".

Das sind keine hypothetischen Bedenken. ChatGPT und konkurrierende Systeme wurden in Klagen nach Selbstmorden von Jugendlichen genannt, darunter der 16-jährige Adam Raine aus Kalifornien, dessen Eltern gegen OpenAI geklagt haben. Therapie und Begleitung sind inzwischen gängige Anwendungsfälle: Eine Studie der Versicherungsbranche ergab, dass bis zu 60 Prozent der Erwachsenen weltweit KI-Chatbots für therapeutische Zwecke nutzen. Die Suchmaschinen-Pflichten des DSA decken offensichtlich nicht die Designentscheidungen ab, die längere, intime Gespräche mit einem nichtmenschlichen Gegenüber fördern.

Wahlkampfintegrität und die Konversationslücke

Der regulatorische blinde Fleck erstreckt sich auf demokratische Prozesse. Nach der DSA-Einstufung gilt die Aufforderung an ChatGPT, Kandidaten bei einer lokalen Wahl aufzulisten, als erfasste Suchfunktion. Ein Nutzer, der den Chatbot um Wahlempfehlungen bittet oder sich mit ihm auf ein politisches Gespräch einlässt, betritt jedoch unerfasstes Terrain. Fehlinformationen, halluzinierte politische Positionen oder subtile Beeinflussung in diesem Gesprächsverlauf würden nicht dieselben Transparenz- oder Risikobewertungspflichten auslösen.

Dieser Unterschied zwischen einer Suchanfrage und einem Dialog ist technisch marginal, aber rechtlich weitreichend. Der Einstufungstext der Kommission wurde noch nicht vollständig veröffentlicht, sodass die genauen Grenzen unklar bleiben. Experten warnen, dass es ohne Einsicht in das finale Instrument unmöglich ist, genau zu wissen, welche Pflichten für OpenAI aktiviert werden und welche ruhen.

Zwei Regelwerke, ein Dienst

Während die DSA-Einstufung die auf Verbraucher ausgerichtete Anwendung betrifft, überwacht die Kommission die zugrunde liegenden Modelle seit Inkrafttreten über den KI-Gesetz. OpenAI, Anthropic und Googles Gemini sind als Anbieter von KI-Modellen für allgemeine Zwecke mit möglichen systemischen Risiken eingestuft. Seit August 2025 müssen sie diese Risiken bewerten und mindern, und die Kommission hat Ende desselben Monats mit Prüfinterviews begonnen.

Die Systemrisiken-Taxonomie des KI-Gesetzes neigt jedoch stark zu katastrophalen Szenarien: der Ermöglichung von nuklearen oder biologischen Waffen, dem Kontrollverlust über Modelle, autonomem Hacken oder groß angelegter Manipulation. Daniel Leufer von AccessNow argumentiert, dass diese Perspektive alltägliche Schäden vernachlässigt. "[Dieser Leitfaden] konzentriert sich eher auf sogenannte existenzielle Risiken als auf Risiken für Grundrechte", sagte er. Die DSA-Einstufung bietet seiner Meinung nach "die Chance, sich in die Details der Designentscheidungen einzuarbeiten und ChatGPT eher als das zu behandeln, was es wirklich ist: ein Produkt".

Komplementär oder widersprüchlich?

Brando Benifei, der italienische sozialdemokratische Abgeordnete, der die Arbeit des Parlaments am KI-Gesetz leitete, verteidigt den zweigleisigen Ansatz. Er sagt, die beiden Regelwerke könnten sich "kraftvoll ergänzen", wobei das KI-Gesetz die Risiken auf Modellebene und das DSA die Risiken auf Einsatzebene reguliert. Er räumt jedoch ein, dass die DSA-Überwachung "dringend erforderlich" ist, um tatsächliche Nutzer zu schützen, und nennt "gefährliche psychische Abhängigkeiten" von Begleit-Chatbots als konkretes Beispiel.

Die Spannung ist struktureller Natur. Das KI-Gesetz reguliert den Motor, das DSA das Fahrzeug. Wenn das Fahrzeug jedoch ein Konversationsagent ist, der lernt, sich anpasst und Beziehungen zu Nutzern aufbaut, verschwindet die Grenze zwischen Motor und Fahrzeug. Die Entscheidung der Kommission, nur die Suchfunktion einzustufen, deutet darauf hin, dass sie noch nicht bereit ist, sich dieser Auflösung zu stellen.

Was die Einstufung tatsächlich ändert

Konkret muss OpenAI nun einen Transparenzbericht über seine suchbezogenen Empfehlungssysteme veröffentlichen, eine Kontaktstelle für Behörden bereitstellen und jährliche Risikobewertungen für die Suchfunktion durchführen. Es muss zudem geprüften Forschern den Zugang zu Daten darüber gewähren, wie seine Suchmaschine funktioniert. Dies sind bedeutungsvolle Pflichten, sie beziehen sich jedoch nur auf einen Bruchteil des Datenverkehrs von ChatGPT.

Das Unternehmen hat nicht öffentlich dargelegt, wie es die Suche für Compliance-Zwecke vom Chat trennen wird. Technisch gesehen bedient dasselbe Modell beide Funktionen. Die Unterscheidung wird auf der Schnittstellenebene getroffen. Das wirft die Möglichkeit regulatorischer Arbitrage auf: Funktionen, die wie eine Suche aussehen, könnten als Chat neu etikettiert werden, um Prüfungen zu entgehen, oder umgekehrt.

Erwähnte Personen

  • Christel Schaldemose

    Member of the European Parliament, European Parliament

  • João Pedro Quintais

    Associate law professor, University of Amsterdam

  • Daniel Leufer

    Emerging technologies policy lead, AccessNow

  • Brando Benifei

    Member of the European Parliament, European Parliament

Organisationen

European Commission · OpenAI · European Parliament · AccessNow · University of Amsterdam