EU-KI-Gesetz: Transparenzpflichten treten in Kraft, während südafrikanische Redaktionen nach Richtlinien suchen

Die Transparenzpflichten nach dem Gesetz über künstliche Intelligenz der Europäischen Union sind diesen Monat in Kraft getreten, erstmals hat eine große Rechtsprechung Medienorganisationen gesetzlich verpflichtet offenzulegen, wann und wie sie KI in der Content-Produktion einsetzen. Die Verordnung, die die Europäische Union nach jahrelangen Verhandlungen angenommen hat, verbietet algorithmische Assistenz im Journalismus nicht. Sie schreibt jedoch Kennzeichnungspflichten, Haftung für schädliche Ergebnisse und die Pflicht zum Nachweis redaktioneller Aufsicht vor, Bestimmungen, die bereits weit über die EU-Grenzen hinaus in Redaktionen nachhallen.

Was das EU-Gesetz von Medien tatsächlich verlangt

Das KI-Gesetz stuft bestimmte Medienanwendungen als hochriskant ein, insbesondere solche, die Content-Verteilung und Publikumsbindung im großen Maßstab betreffen. Anbieter müssen Risikomanagementsysteme implementieren, technische Dokumentation führen und menschliche Aufsicht während des gesamten Lebenszyklus jedes eingesetzten KI-Systems gewährleisten. Für Nachrichtenorganisationen bedeutet dies in der Praxis: Jeder Artikel, jedes Bild oder jedes Sendesegment, das durch generative Tools geprägt wurde, muss auf einen verantwortlichen Redakteur zurückführbar sein, und das Publikum muss informiert werden, wenn synthetische Inhalte erscheinen. Bei Nichteinhaltung drohen Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes, je nachdem, was höher ist.

Hendrik Sittig, der das Medienprogramm der Konrad-Adenauer-Stiftung für den subsaharischen Afrika leitet, betonte, dass die Gesetzgebung kein Verbot sei. "Der EU AI Act zwingt Redaktionen nicht, auf KI zu verzichten. Stattdessen verlangt er mehr Transparenz, klare Kennzeichnung und verantwortliche redaktionelle Aufsicht," sagte er. Die Unterscheidung ist wichtig, weil viele südafrikanische Chefredakteure den europäischen Schritt zunächst als Restriktion und nicht als Rahmen für verantwortungsvollen Einsatz interpretierten.

Südafrikas regulatorischer Flickenteppich

Südafrika verfügt über kein einzelnes KI-Gesetz. Die Independent Communications Authority of South Africa reguliert Frequenzspektrum und elektronische Kommunikation, während die Broadcasting Complaints Commission und der Press Council of South Africa ethische Streitfälle entscheiden. Der Press Council, der den Press Code of Ethics and Conduct für Print- und Onlinemedien überwacht, beobachtet die Auswirkungen von KI seit dem Einzug generativer Tools in die Redaktionen. Seine Leitlinien von 2023 rieten Redakteuren, "bedacht vorzugehen, wenn sie neue KI-Tools einsetzen", und forderten, dass KI-generiertes Material vor der Veröffentlichung von "menschlichen Augen und Händen" geprüft werde. Diese Notiz entfaltet keine bindende Wirkung.

Phathiswa Magopeni, Geschäftsführerin des Press Council, rahmt die Herausforderung in ethischen statt technologischen Begriffen. "Es geht im Kern um Verifikation, Genauigkeit und redaktionelle Sorgfalt," sagte sie. Für sie stehen zwei Prioritäten im Vordergrund: Offenlegung und Erklärbarkeit. Bilder von Agenturen tragen routinemäßig Credits, aber die Rolle von KI kann unsichtbar bleiben, wenn sie in Recherche, Übersetzung oder Bildgenerierung eingebettet ist. "Wir müssen Offenlegungsstufen festlegen, weil KI in verschiedenen Phasen des Produktionsprozesses eingesetzt werden kann, beispielsweise beim Schreiben, bei der Recherche und bei der Bildgenerierung," fügte Magopeni hinzu.

Einführung ohne Richtlinie: Die CINIA-Ergebnisse

Eine in diesem Monat veröffentlichte Studie des Centre for Information Integrity in Africa (CINIA) befragte südafrikanische Redaktionen und fand, was ihr Direktor, Professor Herman Wasserman, als "fragmentierte und noch junge Richtlinienlandschaft" beschrieb. Wenige Organisationen verfügen über schriftliche KI-Richtlinien. Die Einführung wird von einzelnen Journalisten mit persönlichem Interesse an der Technologie vorangetrieben, die Kollegen dann informell schulen. Einige Befragte sagten den Forschern, sie vermuteten, dass Kollegen KI "heimlich" nutzten. Andere wussten schlicht nicht, was erlaubt war.

Wasserman räumte "große Begeisterung südafrikanischer Journalisten für das Potenzial und die Möglichkeiten von KI im Journalismus" ein, warnte jedoch, dass Leitlinien für ethischen und verantwortungsvollen Einsatz fehlten. Schulungen sind rar. Das Ergebnis ist eine Redaktionskultur, in der Experimente offen stattfinden, aber Verantwortungsstrukturen nicht Schritt gehalten haben.

Die Sprachlücke, die europäische Modelle nicht schließen können

Ein wiederkehrender Kritikpunkt in der CINIA-Studie betraf die sprachliche Kompetenz. Journalisten berichteten, dass generative Tools "politische oder kulturelle Begriffe falsch übersetzen", weil die ihnen zugrundeliegenden großen Sprachmodelle überwiegend mit englischsprachigen Daten aus dem globalen Norden trainiert wurden. Südafrika hat elf offizielle Sprachen; die meisten kommerziellen Modelle schneiden bei isiZulu, isiXhosa, Afrikaans und anderen schlecht ab. Das ist keine geringfügige Unannehmlichkeit. In einem Land, in dem Sprache politisches Gewicht trägt, kann ein falsch übersetztes Zitat oder eine halluzinierte kulturelle Referenz Spannungen anheizen oder das öffentliche Verständnis verzerren.

Afrikanische Entwickler reagieren, indem sie große Sprachmodelle auf lokalen Korpora trainieren. Diese Bemühungen stecken noch in den Kinderschuhen und sind im Vergleich zu den Rechenbudgets von OpenAI, Google oder Meta unterfinanziert. Bis sie ausgereift sind, lagern südafrikanische Redaktionen, die Standardtools nutzen, redaktionelles Urteil effektiv an Systeme aus, die den Kontext, in dem sie operieren, nicht verstehen.

Professionelle Standards versus Plattformtempo

Etablierte Rundfunkanstalten und Verlage in Südafrika stehen unter denselben kommerziellen Druck wie ihre europäischen Pendants: sinkende Werbeeinnahmen, Publikumsabwanderung zu sozialen Plattformen und Personalabbau in den Redaktionen. Automatisierung verspricht Geschwindigkeit und Skalierung. Aber im Gegensatz zu Social-Media-Plattformen, die in den meisten Rechtsräumen mit minimaler Inhaftungshaftung operieren, sind professionelle Broadcaster und Verlage an Rundfunkcodes und Presseethik gebunden. Das EU-KI-Gesetz vergrößert diese Asymmetrie, indem es Transparenzpflichten für professionelle Medien kodifiziert, während die Plattform-Governance fragmentiert bleibt.

Bislang haben die schädlichsten KI-generierten Falschmeldungen in Südafrika auf sozialen Medien zirkuliert, Deepfakes, die politische Kandidaten während Wahlperioden unterstützten, und nicht in regulierten Rundfunknetzen. Eine engagierte, aber unterfinanzierte Fact-Checking-Community hat den Schaden eingedämmt. Redakteure wissen, dass das Glück nicht hält, wenn KI-Integration ohne Schutzvorkehrungen voranschreitet.

Wenn Institutionen halluzinieren

Zwei jüngste Episoden verdeutlichen das Risiko. Das Department of Communications and Digital Technologies veröffentlichte einen Entwurf für eine nationale KI-Politik, der gefälschte Zitate enthielt, die von einem KI-Tool generiert worden waren. Das Dokument wurde zurückgezogen, nachdem Experten die gefälschten Referenzen identifiziert hatten. Kürzlich erließ ein amtierender Richter in Johannesburg ein Urteil, das offenbar auf nicht existierende Rechtsprechung verwies, was die Prüfung auslöste, ob generative KI bei der Urteilsformulierung verwendet worden war. Beide Fälle zeigen, was passiert, wenn Institutionen die Technologie ohne Verifikationsprotokolle übernehmen.

Hin zu einem verbindlichen KI-Pressekodex

Der Press Council berät nun über einen dedizierten KI-Pressekodex, der die Leitlinien von 2023 durch durchsetzbare Regeln ersetzen soll. Magopeni sagte, die Branche müsse entscheiden, welche Offenlegung das Publikum in jeder Produktionsphase erwartet, Recherche, Entwurf, Redaktion, Illustration, Distribution, und was angemessene menschliche Aufsicht ausmacht. Der Rat plant zudem, das Publikum direkt zu seinen Toleranzgrenzen zu befragen, ein Ansatz, den CINIAs Rejoice Malisa-van der Walt befürwortet, die argumentiert, Regulierung müsse "dynamisch und inklusiv" sein, während die Technologie fortschreitet.