Die Europäische Union hat der Ära ungekennzeichneter synthetischer Inhalte effektiv ein Ende gesetzt. Seit dem 2. August verlangen die Transparenzpflichten des KI-Gesetzes, dass Anbieter der leistungsfähigsten generativen Modelle sicherstellen, dass ihre Ausgaben ein maschinenlesbares Wasserzeichen tragen und Nutzer darüber informiert werden, dass sie mit KI interagieren. Die Regel gilt unabhängig davon, wo das Modell entwickelt wurde; wird es auf dem europäischen Markt angeboten, muss es konform sein.

Brüssel setzt erneut den globalen Maßstab

Der Mechanismus ist bekannt. Die EU erlässt eine Verordnung mit extraterritorialer Wirkung, und die größten Technologiekonzerne passen ihre globalen Produkte an, statt separate europäische Versionen zu pflegen. Die Datenschutz-Grundverordnung etablierte das Muster. Der Digital Services Act verstärkte es. Nun zwingt das KI-Gesetz Anthropic, OpenAI und andere, Herkunftssignale in jedes Bild, jeden Audio-Clip und jeden Textabschnitt einzubetten, den ihre Modelle produzieren.

"Ich glaube nicht, dass die Menschen das Ausmaß des Wandels verstehen," sagte Ashley Casovan, Leiterin des KI-Governance-Zentrums bei der International Association of Privacy Professionals. Sie beschrieb den Übergang von einer Welt, in der Nutzer raten mussten, ob etwas maschinell erstellt wurde, zu einer, in der solche Inhalte ein verifiziertes Symbol oder Overlay tragen. Die Änderung ist nicht optional. Das Gesetz weist diese Transparenzregeln Anbietern von KI-Modellen mit systemischem Risiko zu, einer Kategorie, die die aktuellen Spitzenmodelle erfasst.

Anthropic und OpenAI ziehen voran

Am 11. August kündigte Anthropic an, dass alle seit dem Konformitätsdatum veröffentlichten Claude-Modelle eingebettete Wasserzeichen in Texten hinzufügen würden. Das Wasserzeichen, so das Unternehmen, sei in den Token-Strom selbst eingewoben. "Man sieht es nicht, und es verändert weder die Bedeutung, Qualität noch Lesbarkeit von Claudes Antwort," schrieb das Unternehmen in seinem Blogbeitrag. "Weil das Wasserzeichen Teil des Textes ist, wandert es mit, wenn der Text kopiert und anderswo eingefügt wird." Der Ansatz unterscheidet sich von der Bildwasserzeichen, wo ein unsichtbares Pixelmuster Kompression und Beschneiden übersteht. Bei Text muss die statistische Signatur Paraphrasierung, Übersetzung und Teilzitation überleben.

OpenAI handelte früher. Ende Juli verpflichtete sich das Unternehmen dazu, dass "Menschen besseren Kontext über die Inhalte haben sollten, die sie online sehen, einschließlich der Frage, ob sie von KI erstellt oder bearbeitet wurden." Es setzt auf SynthID, ein Wasserzeichen-Tool, das von Googles DeepMind-Einheit entwickelt wurde, um KI-generierten Bildern ein unsichtbares Overlay zu geben. Diese Fähigkeit wurde in derselben Ankündigung auf Audio ausgeweitet. Beide Unternehmen haben sich auch dem Standard der Coalition for Content Provenance and Authenticity (C2PA) angeschlossen, einer Brancheninitiative, die darauf abzielt, Herkunftsmetadaten plattformübergreifend zu speichern und zu übertragen.

Die Detektionslücke

Wasserzeichen sind nur die erste Hälfte der Gleichung. Die zweite, und kommerziell gewichtigere, ist die Detektion. Walter Pasquarelli, Forscher für synthetische Inhalte an der University of Cambridge und Berater der OECD, erklärte die praktische Kette: Ein Nutzer generiert Text bei Claude, fügt ihn in einen Social-Media-Composer ein, und die Plattformoberfläche erkennt das Wasserzeichen, bevor der Beitrag veröffentlicht wird. Die Plattform entscheidet dann, wie sie das Signal visualisiert, ob mit einem Label, einem Badge oder einer reduzierten Verteilungsrangfolge.

In dieser Entscheidung verschiebt sich die Ökonomie. "Es gibt reichlich Belege, dass im Medienbereich die Interaktion recht erheblich sinkt, sobald Menschen wissen, dass etwas KI-generiert ist," sagte Pasquarelli. Er fügte hinzu, in der aktuellen digitalen Umgangssprache, dass der Schritt der EU "KI-Schrott" reduzieren könnte, die Flut müheloser synthetischer Beiträge, die Feeds und Suchergebnisse verstopfen. LinkedIn hat bereits eine Option hinzugefügt, mit der Nutzer einen Beitrag markieren können, der "wie KI-Schrott wirkt," ein Signal dafür, dass Plattformen sich auf eine gekennzeichnete Umgebung vorbereiten.

Von Täuschung zur Offenlegung

Der politische Rahmen hat sich spürbar verschoben. Die Erwägungsgründe des KI-Gesetzes sprechen davon, KI-generierte Inhalte daran zu hindern, täuschend zu wirken. Die Umsetzung ist breiter: Alle Ausgaben designierter Modelle müssen gekennzeichnet werden, unabhängig von der Absicht. "Das Gespräch hat sich von KI-generierten Inhalten mit täuschender Absicht hin zu KI-generierten Inhalten als Ganzes verschoben," merkte Pasque an. Diese Erweiterung kommt Plattformen entgegen, die mit Volumenmoderation kämpfen. Ein universelles Label ist leichter durchzusetzen als eine kontextuelle Beurteilung über Täuschung.

Francesca Pole, Anwältin für Datenschutz, Privatsphäre und Cybersicherheit bei DLA Piper, bestätigte, dass Transparenzpflichten "derzeit der Hauptfokus sind, worüber alle sprechen." Der Grund ist praktisch. Die anderen Anforderungen des Gesetzes, Risikomanagement, Daten-Governance, menschliche Aufsicht, sind operativ. Transparenz ist sichtbar. Sie verändert die Benutzeroberfläche. Sie schafft ein Konformitätsartefakt, das Regulierer prüfen können.

Technische Grenzen und adversärischer Druck

Wasserzeichen auf Token-Ebene bei Text stehen einer härteren adversären Umgebung gegenüber als bei Bildern. Ein Bildwasserzeichen überlebt, weil Pixelstatistiken redundant sind. Textwasserzeichen beruhen darauf, die Wahrscheinlichkeitsverteilung des Modells in Richtung eines erkennbaren Musters zu verzerren. Dieses Muster kann durch Paraphrasierungstools, Übersetzungsketten oder gezielte Angriffe abgeschwächt werden, die den Output umschreiben, während sie die Bedeutung bewahren. Anthropics Behauptung, das Wasserzeichen "wandere mit dem Text, wenn er kopiert und eingefügt wird," gilt nur bis zur Transformation des Textes.

Der C2PA-Metadaten-Ansatz bietet eine ergänzende Ebene. Durch das Binden eines kryptografischen Manifests an den Inhalt bei der Erstellung entsteht eine Custody Chain. Aber Metadaten lassen sich leicht entfernen. Screenshots, Kopieren in Plain-Text-Felder und Plattform-Re-Encoding brechen die Kette. Die EU-Anforderung, dass Anbieter "sicherstellen" müssen, dass Nutzer wissen, sie interagierten mit KI, impliziert eine Pflicht, die diese Transformationen überdauert, ein Standard, den keine aktuelle Technologie vollständig erfüllt.

Kommerzielle Folgen

Der von Pasquarelli zitierte Interaktionsrückgang ist nicht spekulativ. Interne Forschungen mehrerer Plattformen haben gezeigt, dass explizite KI-Labels Klickraten, Verweildauer und Teilen reduzieren. Für Unternehmen, deren Geschäftsmodell von Aufmerksamkeit abhängt, entsteht ein Spannungsfeld. Sie müssen dem Gesetz konform sein, haben aber einen Anreiz, Labels dezent zu gestalten, sie dort zu platzieren, wo Blicke nicht verweilen, oder Detektionsschwellen so zu setzen, dass Grenzfälle durchrutschen.

Das Gesetz antizipiert dies. Artikel 50 verlangt, dass die Kennzeichnung "wirksam, interoperabel, robust und zuverlässig" sei. Die Europäische Kommission wird delegierte Rechtsakte zur Festlegung technischer Standards erlassen. Bis diese veröffentlicht sind, haben Unternehmen Spielraum bei der Umsetzung. Anthropics Token-Ebenen-Ansatz und OpenAIs Vertrauen auf SynthID repräsentieren zwei verschiedene Wetten darauf, was der spätere Standard verlangen wird.

Erwähnte Personen

  • Walter Pasquarelli

    Researcher in synthetic content, University of Cambridge

  • Ashley Casovan

    Managing director of the AI governance centre, IAPP

  • Francesca Pole

    Data, privacy and cybersecurity lawyer, DLA Piper

Organisationen

European Commission · Anthropic · OpenAI · Google DeepMind · C2PA · LinkedIn