Ein Foto zeigt einen Vorstandsvorsitzenden auf einer Pressekonferenz, die nie stattfand. Das Bild wurde von künstlicher Intelligenz generiert und sieht völlig authentisch aus. Genau dieses Szenario hatte die Europäische Union im Sinn, als sie Transparenzvorschriften ausarbeitete, die am 2. August 2026 im Rahmen der KI-Verordnung der EU in Kraft traten. Doch die Pflichten sind enger gefasst, als viele Unternehmen annahmen.
Was gekennzeichnet werden muss
Die Verordnung legt zwei wesentliche Transparenzpflichten fest. Erstens müssen Unternehmen, die KI-generierte oder KI-manipulierte Bilder, Audio- oder Videodateien veröffentlichen, diese Inhalte immer dann kennzeichnen, wenn sie überzeugend echte Personen, Objekte, Orte oder Ereignisse darstellen, sodass ein Betrachter sie für authentisches Material halten könnte. Diesen Inhalt nennt die Verordnung Deepfakes. Die Pflicht gilt unabhängig davon, ob die Inhalte in der Werbung, in Nachrichten oder in der Unternehmenskommunikation verwendet werden.
Zweitens muss jedes Unternehmen, das Kunden die direkte Interaktion mit einer künstlichen Intelligenz ermöglicht, diesen Umstand offenlegen. Chatbots auf Websites, virtuelle Assistenten in Kundenportalen und ähnliche Schnittstellen fallen alle unter diese Anforderung. Der Nutzer muss wissen, dass er Nachrichten mit einer Maschine und nicht mit einer Person austauscht.
Wo die Textausnahme greift
Die wichtigere Frage für die meisten Unternehmen betrifft Texte. Die kurze Antwort lautet: Routinemäßig generierte KI-Texte fallen weitgehend nicht unter die Pflichtkennzeichnung. Produktbeschreibungen, Werbetexte, Übersetzungen und interne Dokumente, die mit KI-Unterstützung erstellt wurden, lösen keine Offenlegungspflicht aus, sofern eine Person den Inhalt vor der Veröffentlichung prüft oder die redaktionelle Verantwortung dafür übernimmt.
Auch ohne menschliche Überprüfung muss ein Text nur in einem eng begrenzten Fall gekennzeichnet werden: wenn er ohne Aufsicht veröffentlicht wird und dazu dient, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Ein E-Commerce-Händler, der Produktlisten automatisch generiert, oder ein Marketingteam, das KI nutzt, um Social-Media-Beiträge zu entwerfen, die ein Texter dann bearbeitet, müssten keinen KI-Hinweis anbringen. Eine Nachrichtenorganisation, die KI-geschriebene Artikel über politische Entwicklungen ohne jegliche redaktionelle Prüfung veröffentlicht, hingegen schon.
Der Schutzmechanismus der menschlichen Überprüfung
Die Verordnung zieht eine klare Grenze um die menschliche Beteiligung. Wenn eine Person die KI-generierten Inhalte prüft und die redaktionelle Verantwortung dafür übernimmt, entfallen die besonderen Transparenzpflichten nach Artikel 50 Absatz 4 der KI-Verordnung. Es ist keine Kennzeichnung erforderlich.
Das ist wichtig, da es Unternehmen einen einfachen Weg zur Compliance bietet. Anstatt jeden Inhalt auf seinen KI-Ursprung zu überprüfen, können Firmen einfach sicherstellen, dass eine namentlich genannte Person das Material prüft und freigibt, bevor es veröffentlicht wird. Frank Fischer, Leiter der Praxisgruppe für Gewerblichen Rechtsschutz und Medien in Deutschland bei der Kanzlei Rödl, hat diese Unterscheidung als zentral für das Verständnis dessen hervorgehoben, was die Verordnung tatsächlich von Unternehmen verlangt.
Kennzeichnung bedeutet nicht Rechtmäßigkeit
Ein Punkt, den die Verordnung nicht klärt, ist die zugrunde liegende rechtliche Compliance. Ein korrekt gekennzeichneter Deepfake, der die Bildrechte einer Person verletzt, oder ein gekennzeichneter KI-generierter Text, der geschütztes Material kopiert, bleibt rechtswidrig. Die Kennzeichnung ist eine Transparenzmaßnahme, kein sicherer Hafen. Unternehmen, die die Offenlegung als vollständige Verteidigung gegen Ansprüche aus Urheberrecht, Markenrecht oder Persönlichkeitsrecht betrachten, werden sich schutzlos wiederfinden.
Diese Unterscheidung ist im Hinterkopf zu behalten, da die Versuchung für Unternehmen darin bestehen wird, Inhalte zu kennzeichnen und die Angelegenheit als erledigt zu betrachten. In der Praxis erfüllt die Kennzeichnung nur die Transparenzanforderung, separate rechtliche Verpflichtungen im Bereich des geistigen Eigentums, des Datenschutzes und des Verbraucherrechts gelten weiterhin in vollem Umfang.
Praktische Konsequenzen für Unternehmen
Für die meisten Einzelhändler und Dienstleister ist die unmittelbare Compliance-Last geringer als befürchtet. E-Commerce-Unternehmen, die KI nutzen, um Produktbeschreibungen zu generieren, Katalogeinträge zu übersetzen oder Werbe-E-Mails zu entwerfen, sehen sich nach den aktuellen Vorschriften keiner Kennzeichnungspflicht gegenüber. Die Verordnung verlangt keine allgemeine Überprüfung der gesamten KI-Nutzung innerhalb eines Unternehmens.
Die Pflichten, die tatsächlich bestehen, sind spezifisch und durchsetzbar. Jedes Unternehmen, das einen kundenseitigen Chatbot einsetzt, muss sicherstellen, dass die Schnittstelle sich eindeutig als KI-gesteuert zu erkennen gibt. Jedes Unternehmen, das synthetische Bilder, Audio- oder Videodateien veröffentlicht, die für echtes Material von realen Personen oder Ereignissen gehalten werden könnten, muss ein sichtbares Label anbringen. Die Durchsetzung obliegt den nationalen Behörden, und die Strafen für Verstöße können erheblich sein.
Erwähnte Personen
-
Frank Fischer
Organisationen
Rödl · European Union
