Als die Transparenzpflichten der Europäischen Union aus der KI-Verordnung am 2. August 2026 in Kraft traten, aktualisierten die Compliance-Teams großer europäischer Banken nicht einfach nur einen Datenschutzhinweis. Sie standen vor der Anforderung, maschinenlesbare Identifikatoren in jedes Stück synthetischen Textes, Bildes oder Audios einzubetten, das ihre generativen Modelle produzieren, Identifikatoren, die nachgelagerte Bearbeitung, Archivierung und regulatorische Prüfung überdauern. Dreitausend Kilometer westlich hatte Kaliforniens Gesetzgeber bereits ein Gesetz verabschiedet, das dasselbe technische Ziel ansteuert, mit Vollzug ab 2027. Die Konvergenz ist nicht zufällig; sie spiegelt einen regulatorischen Konsens wider, wonach Transparenz nicht durch ein Pop-up-Banner erfüllt werden kann.

Zwei Regime, dasselbe technische Ziel

Die EU-KI-Verordnung ist ein umfassender, risikobasierter Rahmen, der Systeme nach potenziellem Schaden klassifiziert und Pflichten proportional zu dieser Einstufung auferlegt. Artikel 50 liegt in der Transparenzstufe und gilt für Anbieter und Betreiber von KI-Modellen mit allgemeinem Verwendungszweck sowie bestimmter Hochrisikosysteme. Kaliforniens KI-Transparenzgesetz ist auf dem Papier enger gefasst, fokussiert auf Inhaltsherkunft, aber seine operativen Bestimmungen spiegeln den europäischen Text wider: Beide verlangen, dass KI-generierte Ausgaben persistente, maschinenlesbare Marker tragen, wie Wasserzeichen, kryptografische Signaturen oder strukturierte Metadaten. Keines der Gesetze betrachtet ein für Menschen lesbares Label als ausreichend.

Eine aktuelle Analyse der Anwaltskanzlei Duane Morris argumentiert, dass diese Angleichung einen breiteren Wandel hin zu operativer KI-Governance signalisiert. Die Kanzlei merkt an, dass die beiden Regime unabhängig unter unterschiedlichen Rechtstraditionen entwickelt wurden, das eine eine unmittelbar in 27 Mitgliedstaaten geltende Verordnung, das andere ein Bundesstaatsgesetz in der größten Volkswirtschaft der USA, , dennoch auf demselben Ingenieursproblem konvergieren: wie synthetische Inhalte im großen Maßstab, plattformübergreifend und über die Zeit hinweg erkennbar gemacht werden können.

Was die Regeln tatsächlich verlangen

Für den Betreiber eines generativen KI-Systems, etwa eine Bank, die ein großes Sprachmodell zur Erstellung von Kundenkorrespondenz nutzt, verlangt Artikel 50, dass die Ausgabe so gekennzeichnet wird, dass automatisierte Systeme sie als KI-generiert kennzeichnen können. Die Kennzeichnung muss robust gegen Entfernung oder Veränderung sein. Das kalifornische Gesetz, das am 1. Januar 2027 in Kraft tritt, verpflichtet Anbieter generativer KI-Systeme mit mehr als einer Million monatlicher Nutzer, ein kostenloses Erkennungstool bereitzustellen und Herkuftsdaten in von ihren Systemen erzeugte Inhalte einzubetten. Betreiber in Kalifornien müssen diese Tools dann nutzen und die Herkuftsdaten bewahren.

Die praktische Folge: Compliance kann nicht mehr in der Rechts- oder Kommunikationsabteilung sitzen. Softwareentwickler müssen Modellpipelines instrumentieren, um Marker zur Inferenzzeit einzufügen. Cybersicherheitsteams müssen verifizieren, dass Marker adversarialem Stripping standhalten. Aktenverwalter müssen sicherstellen, dass archivierte KI-generierte Dokumente ihre Herkuftsmetadaten für den gesamten Aufbewahrungszeitraum behalten. Drittparteien-Risikospezialisten müssen Lieferantenverträge prüfen, ob vorgelagerte Anbieter, sei es OpenAI, Anthropic oder ein spezialisierter Fintech, Ausgaben liefern, die beide Regime gleichzeitig erfüllen.

Finanzsektor im Fokus

Banken gehören zu den am stärksten exponierten Institutionen. Generative KI ist bereits in Kundenservice-Chatbots, Betrugserkennung mit Narrativgenerierung, Code-Assistenten für Softwareentwicklung, Investmentresearch-Zusammenfassungen, Marketingtextproduktion, juristischer Dokumentenerstellung und internem Wissensabruf im Einsatz. Jeder Anwendungsfall erzeugt Ausgaben, die schließlich einem Regulierer, Prüfer oder Gericht vorliegen können. Die Europäische Bankenaufsichtsbehörde beaufsichtigt seit Jahren das Modellrisikomanagement unter Leitlinien, die von Instituten die Dokumentation von Modellherkunft, Validierungsergebnissen und laufender Überwachung erwarten. KI-Transparenzpflichten schneiden sich nun direkt mit diesen Erwartungen.

Ein Szenario: Das generative Modell einer Bank erstellt eine Zusammenfassung einer Kreditrisikobewertung, die in ein Kreditkomitee-Paket einfließt. Sechs Monate später fragt eine Aufsichtsprüfung, ob die Zusammenfassung menschlich oder maschinell verfasst wurde. Fehlt dem Dokument ein persistenter, verifizierbarer Marker, kann die Bank nicht definitiv antworten. Schlimmer noch: War der Marker bei der Erstellung vorhanden, wurde aber bei der PDF-Konvertierung oder E-Mail-Übertragung entfernt, ist die Governance-Kette gebrochen. Dasselbe Problem tritt bei KI-generierter Kundenkommunikation auf: Ein Hinweis, der im Web-Chat erscheint, aber beim Export des Gesprächs ins CRM verschwindet, besteht den regulatorischen Test nicht.

Drittparteienrisiko und die Lieferantenkette

Die meisten Finanzinstitute trainieren ihre eigenen Foundation Models nicht. Sie lizenzieren sie von einer Handvoll Anbieter, oft über Cloud-Marktplätze oder spezialisierte API-Vereinbarungen. Duane Morris betont, dass Transparenz-Compliance auf diese Vertragsbeziehungen ausstrahlt. Eine Bank muss wissen, ob die API ihres Anbieters standardmäßig markierte Ausgaben liefert, ob das Markierungsformat dokumentiert und stabil ist, ob das Erkennungstool des Anbieters (nach kalifornischem Recht für große Anbieter vorgeschrieben) zugänglich und zuverlässig ist, und ob der Vertrag Zusagen zur Wahrung der Markierungsintegrität über Modellupdates hinweg enthält.

Dies fügt sich in den breiteren Aufsichtstrend zur Lieferantenüberwachung ein. Die Leitlinien der Europäischen Bankenaufsichtsbehörde zu Auslagerungen und der Digital Operational Resilience Act (DORA) verlangen beide, dass Institute die Kontrolle über kritische Funktionen bewahren, die von Dritten erbracht werden. KI-Transparenz wird zu einer weiteren Dimension dieser Kontrolle: Ändert ein Anbieter sein Markierungsschema ohne Vorankündigung, fällt der nachgelagerte Betreiber aus der Compliance. Verträge werden Service-Level-Agreements zu Herkuftsdaten, Änderungsmitteilungsklauseln für Modellversionen und Prüfungsrechte für die Markierungsimplementierung des Anbieters benötigen.

Von Ethik zu prüfbaren Kontrollen

Die Konvergenz illustriert, wie KI-Regulierung vom Prinzip in die Praxis übergegangen ist. Frühere Policy-Debatten, im Weißbuch der Europäischen Kommission 2020, in den OECD-KI-Prinzipien, in unzähligen Branchenkodizes, drehten sich um Fairness, Bias, Erklärbarkeit und freiwillige Offenlegung. Die aktuelle Welle verbindlicher Regeln behandelt Transparenz als Ingenieuranforderung, die Inspektion, Test und Vollzug unterliegt. Dieser Wandel spiegelt die Evolution der Cybersicherheitsregulierung wider: von freiwilligen Best Practices zu vorgeschriebenen Kontrollen, Incident-Reporting und Aufsichtsprüfung.

Für Unternehmen ist die Implikation klar. KI-Transparenz wird zu einer Governance-Disziplin auf Augenhöhe mit Datenschutz, Modellrisikomanagement und operativer Resilienz. Sie verlangt dedizierte Verantwortung, dokumentierte Verfahren, automatisiertes Tooling, regelmäßige Tests und Berichterstattung auf Vorstandsebene. Organisationen, die es als einmaliges Labeling-Projekt behandeln, werden sich non-compliant wiederfinden, sobald ein Regulierer Nachweise verlangt, dass die Marker den gesamten Content-Lebenszyklus überdauern.

Ein de-facto-globaler Standard

Multinationale Konzerne bauen selten jurisdictionspezifische Technologiestacks. Eine globale Bank mit Standorten in Frankfurt, Paris, New York und Singapur wird eine einzige generative KI-Plattform mit einer einzigen Markierungspipeline betreiben. Wenn diese Pipeline die EU- und Kalifornien-Anforderungen erfüllt, die beiden vorschriftsmäßigsten Regime, , erfüllt sie vermutlich auch aufkommende Regeln in Kanada, Singapur, Brasilien und dem UK. Die Duane-Morris-Analyse legt nahe, dass diese Dynamik die technischen Spezifikationen der EU- und kalifornischen Gesetze als Baseline für enterprise KI-Governance weltweit zementieren wird.

Diese Baseline ist noch fluide. Die EU-KI-Verordnung delegiert technische Standards an europäische Normungsgremien (CEN/CENELEC), die harmonisierte Standards für Wasserzeichen, Metadaten-Schemata und Erkennungsbenchmarks entwickeln. Kaliforniens Attorney General hat Regelungskompetenz für Erkennungstool-Anforderungen. Bis diese Standards final sind, stehen Firmen vor einem beweglichen Ziel. Aber die Richtung ist fest: maschinenlesbare, persistente, prüfbare Herkunft.

Organisationen

European Union · State of California · Duane Morris · European Banking Authority