Rund vier von fünf Unternehmen in Europas vier größten Volkswirtschaften setzen mittlerweile algorithmische Tools ein, um Schichten zuzuweisen, Leistungen zu überwachen, Ziele festzulegen oder Einstellungs- und Disziplinarentscheidungen vorzubereiten. Die Zahl stammt aus einer OECD-Umfrage und zeigt: Automatisiertes Management ist kein Experiment mehr, das auf Gig-Economy-Plattformen beschränkt bleibt. Es ist Routine. Doch die Regeln, die Europa für diesen Wandel erlässt, lösen nur einen Teil des Problems: Sie informieren Arbeitnehmer darüber, wann eine Maschine beteiligt ist. Sie geben ihnen aber keine verlässliche Möglichkeit, das zu bestreiten, was die Maschine entschieden hat.

Was der AI Act tatsächlich verlangt

Der EU AI Act, der im August 2024 in Kraft trat und dessen gestaffelte Umsetzung bis 2027 läuft, klassifiziert bestimmte KI-Systeme nach Risikostufen. Beschäftigungsbezogene Anwendungen, darunter solche für Rekrutierung, Aufgabenverteilung, Beförderung und Kündigung, fallen in die Hochrisiko-Kategorie. Diese Einstufung bringt Pflichten mit sich: Anwender müssen menschliche Aufsicht sicherstellen, Dokumentationen führen und Arbeitnehmer informieren, wenn ein KI-System zu einer sie betreffenden Entscheidung beiträgt.

Transparenz ist also die regulatorische Basis. Arbeitgeber müssen offenlegen, dass KI eingesetzt wird. Was sie nicht bereitstellen müssen, ist ein strukturierter Mechanismus, über den ein betroffener Beschäftigter die spezifischen Eingaben identifizieren kann, die eine Entscheidung prägten, einen Fehler anfechten oder eine wirklich unabhängige Prüfung erwirken kann. Die Offenlegungspflicht ist real. Die Rechenschaftslücke ist es ebenso.

Warum Wissen nicht dasselbe ist wie Handlungsfähigkeit

Betrachten wir den praktischen Unterschied. Eine Lagerarbeiterin in der Lombardei, die erfährt, dass ein Algorithmus ihren Schichtplan mitbestimmt hat, gewinnt etwas, aber nicht viel. Sie weiß nun, dass eine Maschine beteiligt war. Sie weiß nicht unbedingt, welche Datenpunkte das System gewichtet hat, ob es eine Empfehlung aussprach oder das Ergebnis faktisch bestimmte, ob ein Mensch das Ergebnis prüfte oder wer dieser Mensch war. Sie hat ganz sicher keinen standardisierten Weg, einen Fehler anzufechten, ohne juristische Expertise, und sie kann vernünftigerweise befürchten, Repressalien zu erleiden, wenn sie das Problem bei genau dem Vorgesetzten anprangert, der sich auf das Tool verlassen hat.

Gleb Tsipursky, Verhaltenswissenschaftler und Autor eines kommenden Buches zur KI-Einführung am Arbeitsplatz, bringt den Punkt auf den Nenner: Einem Mitarbeiter mitzuteilen, dass KI beteiligt war, hilft wenig, wenn dieser noch raten muss, wie er einen Fehler meldet, Repressalien bei Widerspruch fürchtet oder Wochen wartet, während die angefochtene Entscheidung in Kraft bleibt. Offenlegung ohne praktisches Anfechtungsrecht, so argumentiert er, ist kaum mehr als ein Zettel an einer verschlossenen Tür.

Das Deliveroo-Urteil und seine größere Bedeutung

Europa hat bereits eine konkrete Illustration dafür, was passiert, wenn algorithmisches Management ohne hinreichende Schutzvorkehrungen operiert. 2020 untersuchte das Arbeitsgericht Bologna das Rider-Ranking-System von Deliveroo, das den Zugang zu den begehrtesten Liefer-Slots über ein Scoring-Modell vergab. Fahrer, die gebuchte Sessions zu spät stornierten, sahen ihr Ranking sinken, was ihre künftige Verdienstmöglichkeit reduzierte. Das Gericht befand das System für diskriminierend, weil es Stornierungen unabhängig vom Grund bestrafte, auch bei Abwesenheiten wegen Krankheit oder Streik, die nach italienischem Arbeitsrecht rechtlich geschützt sind.

Das Urteil wirkte über eine Plattform hinaus. Es zeigte, dass automatisierte Entscheidungssysteme diskriminierende Logik einbetten können, die für einzelne Arbeitnehmer schwer zu entdecken oder zu beweisen ist, besonders wenn die Bewertungskriterien undurchsichtig sind. Es zeigte auch, dass bestehende Arbeitsschutzrechte nicht durch Arbeitgeberabsicht, sondern durch Systemdesign untergraben werden können, und dass die Behebung des Problems einen Gerichtsbeschluss erforderte, nicht einen internen Beschwerdemechanismus, den Deliveroo bereithielt.

Drei Garantien, die Transparenz allein nicht liefern kann

Das Argument für Schritte über die Offenlegung hinaus ruht auf drei miteinander verbundenen Garantien. Die erste ist sinnvolle Transparenz: kein generischer Satz in einer Datenschutzerklärung, sondern verständliche Informationen darüber, welche Rolle das System spielte, ob es das Ergebnis empfahl oder bestimmte, und welche Datenkategorien es verarbeitete. Arbeitnehmer müssen den Mechanismus verstehen, nicht bloß seine Existenz zur Kenntnis nehmen.

Die zweite ist benannte menschliche Verantwortung. Jeder KI-gestützte Personalprozess sollte eine identifizierbare Person haben, die befugt ist, die Beweise zu prüfen, das Ergebnis zu ändern und, falls sich ein Fehlerhäufung zeigt, das System auszusetzen. Der Satz „der Algorithmus hat entschieden“ darf nicht als Schlusspunkt funktionieren. Jemand muss rechenschaftspflichtig sein, und dieser Jemand muss die Macht haben, einzugreifen.

Die dritte ist wirksame Abhilfe. Ein Berufungsrecht, das einen Arbeitnehmer während einer langwierigen Prüfung Einkommensverluste aussetzt, oder das Beschwerden wieder über denselben Vorgesetzten leitet, der sich auf das System verlassen hat, bietet nur dem Namen nach Schutz. Ein sinnvoller Prozess würde den Beschäftigten vor schwerem Schaden bewahren, solange die Prüfung läuft, Korrekturen dokumentieren, damit wiederkehrende Mängel sichtbar werden, und Betriebsräte oder Gewerkschaften in die Systemgestaltung einbeziehen, bevor sich Probleme verfestigen.

Das grenzüberschreitende Inkonsistenzproblem

Die Europäische Kommission hat betont, dass KI-Transparenzregeln im Binnenmarkt einheitlich funktionieren sollen. Berufungsrechte am Arbeitsplatz genießen derzeit keinen solchen gemeinsamen Standard. Der Schutz hängt von der nationalen Durchsetzungskapazität, der Stärke bestehender Arbeitsinstitutionen und der Bereitschaft einzelner Arbeitgeber ab, über Mindestanforderungen hinauszugehen. Ein Lieferfahrer in Amsterdam, ein Bankangestellter in Frankfurt und ein Lagerarbeiter in Madrid können ähnlichen algorithmischen Entscheidungen gegenüberstehen, aber völlig unterschiedliche Möglichkeiten haben, diese anzufechten.

Diese Variation ist nicht nur eine Gerechtigkeitsfrage. Sie schafft Verzerrungen im Binnenmarkt. Grenzüberschreitend tätige Arbeitgeber sehen sich je nach Standort ihrer Arbeitnehmer unterschiedlichen Pflichten gegenüber, während Beschäftigte in ähnlichen Tätigkeiten aufgrund der Geografie, nicht der Art des Risikos, unterschiedliche Schutzniveaus erhalten.

Auch Arbeitgeber könnten von Beschwerdemechanismen profitieren

Das Plädoyer für stärkere Rechenschaftspflicht zielt nicht allein auf Arbeitnehmerschutz. Führungskräfte erhalten oft KI-generierte Empfehlungen ohne ausreichenden Kontext, um deren Qualität zu beurteilen. Ein formaler Prüfprozess würde bessere Erkenntnisse darüber liefern, wie Systeme in der Praxis funktionieren, schwache oder verzerrte Eingaben aufdecken und Managern eine legitime Grundlage geben, Ausgaben abzulehnen, statt sich einem Tool zu beugen, das objektiv erscheint. Die Konsultation von Beschäftigten und ihren Vertretern kann auch die Akzeptanz verbessern: Arbeitnehmer engagieren sich eher konstruktiv bei Systemen, die sie verstehen und hinterfragen können.

Die aktuelle Debatte wird häufig als Spannung zwischen Innovation und Regulierung gerahmt. Diese Rahmung ist zu eng. Die relevante Frage ist, wie Gewinne und Kosten der Automatisierung verteilt werden. Ein Planungssystem, das Managern Stunden spart, kann gleichzeitig unvorhersehbare Arbeitsmuster für das Personal erzwingen. Ein Leistungsmodell, das Bewertungen standardisiert, kann einen schlechten Proxy für tatsächliche Qualität verschleiern. Ein Rekrutierungstool, das das Screening beschleunigt, kann die Beweislast für einen Fehler auf Bewerber abwälzen, die nie erfahren, warum sie abgelehnt wurden. Das sind keine technischen Probleme. Es sind Fragen institutioneller Macht.

Eine gemeinsame Untergrenze, kein einziges Verfahren

Niemand argumentiert für ein einziges starres Verfahren, das identisch auf ein Krankenhaus, ein Lager, eine Bank und eine Lieferplattform angewendet wird. Die Risiken unterscheiden sich zu stark. Vorgeschlagen wird ein gemeinsames Minimum: eine verständliche Erklärung der Systemrolle, eine namentlich benannte, für jede Entscheidung verantwortliche Person, ein zugänglicher Anfechtungsmechanismus, Schutz vor Schaden während der Prüfung, eine Dokumentation von Korrekturen und die Beteiligung der Arbeitnehmer an Systemdesign und -prüfung. Diese sechs Elemente würden unabhängig von Branche oder Mitgliedstaat gelten.

Ohne eine solche Untergrenze bleibt Transparenz ein Etikett. Mit ihr wird Offenlegung zur Tür: der Ausgangspunkt für einen Prozess, der Fehler tatsächlich korrigieren, Verantwortung zuweisen und Schaden verhindern kann. Die Europäische Kommission hat sich zu einheitlichen Transparenzstandards bekannt. Ob sie denselben Ehrgeiz auf Rechenschaftsmechanismen ausdehnen wird, bleibt eine offene Frage, und eine, die die gelebte Realität automatisierten Managements für Millionen europäischer Arbeitnehmer prägen wird.

Erwähnte Personen

  • Gleb Tsipursky

    Behavioural scientist and CEO, Disaster Avoidance Experts

Organisationen

Organisation for Economic Co-operation and Development · European Commission · Bologna Labour Court · Deliveroo