Die Europäische Gruppe für Ethik in den Wissenschaften und neuen Technologien (EGE) hat eine Stellungnahme veröffentlicht, in der sie argumentiert, dass Europas regulatorischer Werkzeugkasten für die Konvergenz von Neurowissenschaften und künstlicher Intelligenz nicht gerüstet ist. Das Beratungsgremium, das der Europäischen Kommission berichtet, will, dass politische Entscheidungsträger aufhören, einzelne Neurotechnologien isoliert zu betrachten, und stattdessen die Infrastrukturen regeln, die es ermöglichen, hirnbasierte Daten im großen Maßstab zu erheben, zu teilen, zu verarbeiten und wiederzuverwenden.

Was Neuro-KI ist und warum sie jetzt relevant ist

Neuro-KI beschreibt die Schnittstelle von Neurotechnologie, Geräten, die das Nervensystem aufzeichnen oder stimulieren, mit KI-Modellen, die neuronale Signale interpretieren, vorhersagen oder generieren können. Das Feld hat sich in den vergangenen fünf Jahren rasant beschleunigt. Brain-Computer-Interfaces, die für die klinische Rehabilitation entwickelt wurden, produzieren Datensätze, die groß genug sind, um Basismodelle zu trainieren. Kommerzielle Headsets, die für Wellness oder Gaming vermarktet werden, laden Neurordaten in Cloud-Plattformen hoch. Forschungskonsortien bündeln Neurordaten grenzüberschreitend, um das aufzubauen, was die EGE Brain Foundation Models nennt, analog zu den großen Sprachmodellen, die heute generative KI zugrunde liegen.

Die potenziellen Nutzen sind konkret. Gelähmte Patienten haben durch dekodierte Sprechabsichten wieder Kommunikation erlangt. Adaptive Tiefenhirnstimulation verbessert Ergebnisse bei Parkinson. Doch dieselben Pipelines, die diese Fortschritte ermöglichen, schaffen auch das, was die EGE als beispiellose inferenzielle Macht beschreibt: KI-Systeme können mentale Zustände, kognitive Merkmale oder Krankheitsanfälligkeiten ableiten, die nie explizit gemessen, geschweige denn eingewilligt wurden.

Warum die EGE sagt, die geltende Regulierung greife zu kurz

Die EU hat bereits die Datenschutz-Grundverordnung (DSGVO), die Medizinprodukteverordnung und die KI-Verordnung, die im August 2024 in Kraft trat. Das Argument der EGE ist nicht, dass diese Instrumente fehlten, sondern dass sie auf der falschen Abstraktionsebene operieren. Die DSGVO schützt personenbezogene Daten; sie adressiert nicht klar Schlüsse, die KI aus diesen Daten zieht. Die KI-Verordnung klassifiziert bestimmte KI-Systeme als hochriskant; sie berücksichtigt nicht die spezifischen Dynamiken von Neurordatenströmen, die in kontinuierlich lernende Modelle eingespeist werden. Die Medizinprodukteverordnung deckt Sicherheit und Leistung einzelner Hardware ab; sie regelt nicht die Dateninfrastrukturen, die jedes einzelne Gerät überdauern.

Der Infrastruktur-Ansatz der Gruppe behandelt Erhebung, Verarbeitung, Modellentwicklung und Bereitstellung als einen einzigen Governance-Gegenstand. Das ist wichtig, weil Neurordaten selten nur einmal genutzt werden. Ein Datensatz, der für eine klinische Studie erhoben wurde, kann wiederverwendet werden, um einen kommerziellen Decoder zu trainieren, dann an ein Neuromarketing-Unternehmen lizenziert, dann in ein öffentliches Forschungsrepository eingespeist werden. Jede Weitergabe verändert das Risikoprofil. Nur die Erstnutzung zu regulieren, verfehlt die kumulative Exposition.

Fünf Bereiche, die die EGE adressiert sehen will

Die Stellungnahme benennt fünf Prioritätsmaßnahmen. Erstens: expliziter rechtlicher Schutz für Neurordaten und für Informationen, die aus Neurordaten abgeleitet werden, im EU-Datenschutzrecht. Die Unterscheidung ist kritisch: Ein KI-Modell, das auf EEG-Aufzeichnungen trainiert wurde, kann Aufmerksamkeitsdefizite oder depressive Episoden vorhersagen, ohne dass je eine klinische Diagnose dokumentiert wurde. Zählt diese Vorhersage als personenbezogenes Datum, gilt die DSGVO; andernfalls hat die betroffene Person keine Auskunfts-, Berichtigungs- oder Löschrechte.

Zweitens: verantwortungsvolle Entwicklung von Neuro-KI-Technologien, einschließlich der möglichen Schaffung von Brain Foundation Models und der Rechen- und Dateninfrastrukturen, die sie erfordern. Die EGE fordert kein Moratorium. Sie argumentiert, dass öffentliche Investitionen diese Fundamente so formen sollten, dass sie europäische Werte widerspiegeln, Transparenz, Nichtdiskriminierung, demokratische Kontrolle, anstatt die Architektur einer Handvoll US-amerikanischer und chinesischer Firmen zu überlassen.

Drittens: stärkerer Schutz individueller Rechte, wenn Neurordaten oder KI-Schlüsse in folgenschwere Entscheidungen einfließen: Einstellung, Versicherung, Bildung, Strafjustiz. Die Gruppe warnt vor unverhältnismäßiger Kontrolle, bei der neurologische Informationen zum Gatekeeping-Kriterium werden, ohne Wissen oder Widerspruchsmöglichkeit der betroffenen Person.

Viertens: gestärkte europäische gemeinwohlorientierte Governance-Kapazität. Das bedeutet dedizierte Überwachungsstellen, Audit-Fähigkeiten und die technische Expertise, Neuro-KI-Systeme über ihren gesamten Lebenszyklus zu bewerten, nicht nur beim Markteintritt. Die EGE merkt an, dass derzeitige Marktüberwachungsbehörden die spezialisierte Neurowissenschafts- und Machine-Learning-Kompetenz fehlt, um diese Systeme zu beurteilen.

Fünftens: eine gezielte Prüfung des bestehenden EU-Regulierungsrahmens, um festzustellen, ob er für Neuro-KI-Herausforderungen hinreichend vorbereitet ist. Die EGE verzichtet darauf, sofort neue Gesetzgebung vorzuschlag, und argumentiert, dass zuerst eine Lückenanalyse erfolgen müsse.

Die Souveränitäts-Dimension

Die Stellungnahme rahmt Neuro-KI-Governance als Frage europäischer technologischer Souveränität. Die Infrastrukturschicht, High-Performance-Computing, Datenräume, standardisierte APIs, Modell-Repositories, bestimmt, wer die Voreinstellungen für Privatsphäre, Zugang und Nutzenverteilung setzt. Wenn europäische Forschende und Kliniker von nicht-europäischen Cloud-Plattformen und Basismodellen abhängen, importieren sie die in diesen Systemen eingebetteten Governance-Entscheidungen. Die Empfehlung der EGE, gemeinwohlorientierte Neuro-KI-Infrastrukturen zu entwickeln, steht im Einklang mit dem Europäischen Gesundheitsdatenraum der Kommission und dem EuroHPC Joint Undertaking, fügt aber eine spezifische ethische Leitplanke hinzu: Souveränität muss dem Gemeinwohl dienen, nicht bloß industrieller Wettbewerbsfähigkeit.

Lücken, die die Stellungnahme offenlässt

Der Infrastruktur-Blick der EGE ist eine nützliche Korrektur, wirft aber praktische Fragen auf, die die Stellungnahme nicht löst. Wie soll Haftung verteilt werden, wenn ein Schluss, der von einem Basismodell generiert wurde, das auf Multi-Source-Neurordaten trainiert wurde, Schaden verursacht? Die Unterscheidung der KI-Verordnung zwischen Anbieter und Betreiber wird unscharf, wenn Modelle von nachgelagerten Nutzern kontinuierlich feinjustiert werden. Was stellt eine informierte Einwilligung zur Neurordatennutzung dar, wenn zukünftige Zwecke zum Erhebungszeitpunkt unbekannt sind? Dynamische Einwilligungsplattformen existieren technisch, sind aber im Neuro-KI-Maßstab nicht validiert. Und wie soll die vorgeschlagene Governance-Kapazität finanziert und personell besetzt werden? Die bestehenden Expertenpools der EU für Medizinprodukte und KI sind bereits überlastet.

Internationaler Kontext

Europa ringt nicht allein mit Neuro-KI. Die OECD nahm 2024 eine Empfehlung zu verantwortungsvoller Innovation in Neurotechnologie an. Die UNESCO entwickelt einen globalen ethischen Rahmen. Die USA haben kein Bundesgesetz zu Neurordaten, doch Colorado und Kalifornien haben Datenschutzgesetze um neurale Daten ergänzt. Chinas Leitlinien zur Ethik von Brain-Computer-Interfaces 2024 betonen staatliche Aufsicht über Datenflüsse. Der Infrastruktur-Ansatz der EGE könnte die EU als regulatorischen First Mover positionieren, ähnlich wie die DSGVO globale Datenpraktiken prägte. Doch der First-Mover-Vorteil materialisiert sich nur, wenn die Regeln durchsetzbar und mit Handelspartnern interoperabel sind.

Organisationen

European Commission · European Group on Ethics in Science and New Technologies