Transparenzvorschriften des EU-AI-Act treten in Kraft, doch die Lücken sind ebenso vielsagend wie die Regeln

Am 2. August 2026 wurden drei separate Stränge des EU-AI-Act gleichzeitig vollziehbar: Transparenzverpflichtungen für KI-generierte Inhalte, volle Vollzugskompetenzen für das AI Office der Kommission über Anbieter von Allzweck-KI und die aktive Überwachung der Anforderungen an KI-Kompetenzen, die technisch bereits seit Februar 2025 gelten. Zusammen stellen sie den ersten echten Test dar, ob die Vorzeigeregulierung Europas für KI halten kann, was ihre Architekten versprachen: das Informationsumfeld, auf das Demokratien angewiesen sind, ein wenig durchschaubarer zu machen.

Was Artikel 50 tatsächlich verlangt

Die Transparenzvorschriften in Artikel 50 legen zwei Gruppen Pflichten auf. Anbieter von KI-Systemen, die eine direkte Interaktion mit Menschen beinhalten, müssen sicherstellen, dass diese Menschen darüber informiert werden, dass sie mit einem KI-System und nicht mit einem Menschen interagieren. Darüber hinaus müssen Anbieter von Systemen, die synthetische Inhalte, Deepfakes und KI-generierten Text zu Themen von öffentlichem Interesse generieren oder manipulieren, sicherstellen, dass diese Ausgaben maschinenlesbare Kennzeichnungen tragen. Betreiber, also die Organisationen, die diese Systeme tatsächlich nutzen, haben ihrerseits die Pflicht, Deepfakes und KI-generierten Text zu Themen von öffentlichem Interesse offenzulegen.

Die Verordnung sieht Ausnahmen vor. Strafverfolgungsbehörden sind ausgenommen. Das gilt auch für geringfügige redaktionelle Unterstützung, künstlerische Werke und Satire. Inhalte, die eine menschliche Überprüfung durchlaufen haben und für die eine klare redaktionelle Verantwortung besteht, fallen ebenfalls nicht unter die Kennzeichnungspflicht. Die Logik ist einfach: Wenn ein menschlicher Redakteur die Verantwortung für den Inhalt eines Textes übernommen hat, sinkt das Interesse des Lesers daran zu wissen, ob eine Maschine die erste Version entworfen hat. Ob diese Logik in der Praxis Bestand hat, wenn sich redaktionelle Prozesse selbst zunehmend automatisieren, ist weniger sicher.

Anthropics Wasserzeichen-Experiment

Anthropic, das Unternehmen hinter dem großen Sprachmodell Claude, ist der erste große GPAI-Anbieter, der Wasserzeichen gemäß dem EU-Verhaltenskodex zur Transparenz implementiert hat. Seit dem 2. August betten Claude-Modelle, die nach diesem Datum veröffentlicht wurden, ein unsichtbares Wasserzeichen in generierte Texte ein und hängen unterstützten Dateien Herkunftsmetadaten an. Das Unternehmen entschied sich dafür, die Technologie weltweit einzuführen, anstatt sie auf europäische Nutzer zu beschränken, eine Entscheidung, die eine Fragmentierung vermeidet, die aus einer rein europäischen Implementierung resultieren würde.

Das Zugeständnis, das Anthropic selbst gemacht hat, ist jedoch aufschlussreich. Das Fehlen eines Wasserzeichens beweist nicht, dass ein Inhalt von einem Menschen geschrieben wurde. Ein Screenshot, eine Formatkonvertierung oder auch nur das erneute Speichern einer Datei können die Herkunftsdaten entfernen. Das Wasserzeichen zielt auf einen einzigen Moment in einer viel längeren Kette ab: den Punkt, an dem der Text das Modell verlässt. Alles, was danach passiert, von der Verbreitung über die Bearbeitung bis hin zur Plattform, auf der ein Nutzer ihn schließlich sieht, entzieht sich der Reichweite des Wasserzeichens.

Die Vollzugsarchitektur

Das AI Office, die Kommissionseinheit, die für die Überwachung von GPAI zuständig ist, verfügt nun über volle Vollzugskompetenzen. Es kann Dokumentation von GPAI-Anbietern zu Trainingsinhalten, Urheberrechtskonformität und Risikomanagement anfordern und bewerten. Das ist wichtig, weil Dokumentation die Voraussetzung für jeden Vollzugsakt ist. Ohne sie bleiben den Aufsichtsbehörden nur Vermutungen darüber, mit welchen Daten ein Modell trainiert wurde, welche Risiken der Anbieter identifiziert und welche Gegenmaßnahmen er ergriffen hat.

Die Bestimmungen zu KI-Kompetenzen in Artikel 4, die seit Februar 2025 in Kraft sind, sind nun in die Überwachungs- und Vollzugsphase eingetreten. Die Anforderung besagt, dass Anbieter und Betreiber sicherstellen müssen, dass ihre Mitarbeiter und andere Personen, die KI-Systeme in ihrem Auftrag bedienen, ein ausreichendes Verständnis dieser Systeme haben, wobei ihr technisches Wissen, ihre Erfahrung und der Verwendungskontext zu berücksichtigen sind. Die Vorschrift klingt bescheiden, fast administrativ. Das ist sie nicht. Ein Richter, der die Grenzen eines Risikobewertungsalgorithmus nicht versteht, ein Polizist, der einen Gesichtserkennungstreffer als Fakt behandelt, oder ein Beamter, der eine KI-generierte Vorlage ohne Prüfung akzeptiert, stellt jeweils ein Versagen der institutionellen Vorbereitung dar, das Transparenzvorschriften allein nicht beheben können.

Die Akteure, die der AI Act nicht erreichen kann

Ein Großteil der Desinformation, die sich gegen europäische Demokratien richtet, stammt aus Russland und China. Diese Staaten liegen außerhalb der Zuständigkeit des AI Act und können nicht durch die Androhung von Geldbußen abgeschreckt werden. Der Einfluss der Verordnung auf sie ist indirekt: Sie beschränkt die kommerziellen Plattformen, generativen Werkzeuge und Verbreitungskanäle, über die staatlich gestützter Inhalt europäische Zielgruppen erreicht. Ob dieser indirekte Druck das Volumen oder die Wirksamkeit ausländischer Einflussoperationen substanziell verringert, ist eine offene Frage.

Eine weitere, eher technische Lücke betrifft Open-Weight-Modelle. Der AI Act reguliert Unternehmen, die KI-Systeme auf dem EU-Markt bereitstellen. Er hat kaum praktische Reichweite über einen bösartigen Akteur, der ein modifiziertes Open-Weight-Modell herunterlädt und auf privater Infrastruktur betreibt. Ein solcher Akteur kann Deepfakes, Propaganda oder gefälschte Dokumente völlig außerhalb der Überwachung eines Anbieters generieren und niemals die Transparenzanforderungen auslösen, die für kommerzielle Dienste gelten. Die Architektur von Open-Source-KI, die viele in der europäischen Forschungsgemeinschaft unterstützen, schafft einen parallelen Vertriebskanal, den das Regelwerk schlichtweg nicht abdeckt.

Das Problem des Content-Launderings

Selbst wenn ein Anbieter Herkunftsinformationen einbettet, ist die Kette schnell unterbrochen. Ein bösartiger Akteur kann einen Deepfake auf eine unbeaufsichtigte Plattform wie Telegram hochladen, wo Kopieren, Abfotografieren und erneutes Teilen versteckte Tracking-Daten entfernen, bevor der Inhalt zu den Mainstream-Medien gelangt. Wenn ein synthetischer Inhalt eine regulierte Plattform erreicht, ist das Wasserzeichen, das Artikel 50 vorschreibt, wahrscheinlich verschwunden. Die Verordnung befasst sich mit der Inhaltserstellung. Sie befasst sich nicht mit dem Content-Laundering.

Es gibt ein Risiko zweiter Ordnung, das wohl noch schädlicher ist. Die obligatorische Kennzeichnung soll Fälschungen entlarven. Sie kann auch genutzt werden, um die Realität abzustreiten. Ein bösartiger Akteur, der echtes Bildmaterial diskreditieren will, kann behaupten, dass ihm das Wasserzeichen fehlt oder es verändert erscheint, wodurch ein Transparenzinstrument zu einem Instrument der Realitätsverleugnung wird. Wenn diese Taktik zur Norm wird, wird sie genau die Verantwortlichkeit untergraben, die die Verordnung stärken soll. Wähler, die sich nicht einig sind, ob ein Video authentisch ist, können es nicht nach seinem eigentlichen Inhalt beurteilen, unabhängig davon, was das Etikett besagt.

Warum der DSA notwendig, aber unzureichend ist

Der Digital Services Act zielt auf die Algorithmen ab, die Inhalte verstärken, und nicht auf die Systeme, die sie generieren. Als ChatGPT die Marke von 45 Millionen EU-Nutzern überschritt, stufte die Kommission es als sehr große Online-Suchmaschine ein und unterwarf es damit den strengsten DSA-Verpflichtungen. Grundsätzlich kann der DSA große Plattformen zwingen, virale synthetische Medien zu erkennen und einzuschränken, unabhängig davon, ob diese Medien ein Wasserzeichen tragen oder nicht.

In der Praxis hat der DSA ein eigenes Abdeckungsproblem. Telegram hat angegeben, seit mehr als zwei Jahren knapp unter der Schwelle für sehr große Online-Plattformen zu bleiben, trotz anhaltender Kontrolle durch EU-Aufsichtsbehörden. Diese Positionierung ermöglicht es dem Unternehmen, den verschärften Pflichten zur Erkennung und Abschwächung koordinierter Manipulation zu entgehen, die für größere Plattformen gelten. Dieselbe Plattform, die als erste Station für das Waschen von Deepfakes dient, ist auch die Plattform, die der strengsten Regulierungsschicht am sorgfältigsten ausgewichen ist.

Transparenz ist ein Mittel, kein Zweck

Die Transparenzvorschriften des AI Act behandeln einen Teil des Problems: die Identifizierbarkeit synthetischer Inhalte zum Zeitpunkt der Erstellung. Sie behandeln nicht, warum Menschen ihnen glauben, wie sie sich verbreiten oder was mit den Herkunftsdaten passiert, wenn der Inhalt das Informationsökosystem durchläuft. Sinkendes institutionelles Vertrauen und politische Polarisierung sind keine regulatorischen Lücken, die Kennzeichnungspflichten füllen können. Menschen, die den Mainstream-Medien misstrauen oder bereits dazu neigen, Verschwörungstheorien zu glauben, werden ihre Ansichten nicht revidieren, nur weil ein Text ein maschinenlesbares Etikett trägt.

Die wichtigsten Vorschriften sind vielleicht die unscheinbarsten. Die Anforderung an KI-Kompetenzen in Artikel 4 drängt öffentliche Einrichtungen, politische Kampagnen und Redaktionen auf ein Grundmaß an Kompetenz, KI-generierte Inhalte zu erkennen. Ein Beamter, der nichts von einer Offenlegungspflicht weiß, wird sie nicht durchsetzen. Ein Journalist, der synthetische Medien nicht erkennen kann, wird sie nicht markieren. Institutionelle Vorbereitung ist die Voraussetzung, die Transparenz und Verantwortung funktional statt nur theoretisch macht.

Auch die technischen Standards müssen sich weiterentwickeln. Anthropics Wasserzeichen ist eine erste Iteration. Robustere, interoperable Herkunftsstandards über Plattformen und Dateiformate hinweg würden es schwieriger machen, dass Tracking-Daten beim Weitergeben von Inhalten verschwinden. Der EU-AI-Act sieht selbst eine weitere technische Entwicklung vor, aber die Verordnung kann nur vorschreiben, was technisch machbar ist, und der aktuelle Stand der Technik weist erhebliche Lücken auf.

Organisationen

European Commission · AI Office · Anthropic