EU AI Act Art. 14
Recht für Betriebsräte - Einfach erklärt
Pflicht zur menschlichen Kontrolle und Letztentscheidung bei Hochrisiko KI Systemen im Personalbereich
Art. 14 der KI Verordnung schreibt vor, dass Hochrisiko KI Systeme so gestaltet werden müssen, dass sie von natürlichen Personen wirksam beaufsichtigt werden können. Im Beschäftigungskontext bedeutet dies, dass KI Systeme keine autonomen Personalentscheidungen treffen dürfen, ohne dass ein Mensch die Letztentscheidung hat.
Art. 14 der Verordnung (EU) 2024/1689 verpflichtet Anbieter, Hochrisiko KI Systeme so zu gestalten, dass sie von natürlichen Personen wirksam beaufsichtigt werden können. Die Aufsichtspersonen müssen in der Lage sein, die Fähigkeiten und Grenzen des Systems zu verstehen, die Ergebnisse korrekt zu interpretieren und das System jederzeit außer Kraft setzen oder stoppen zu können.
Besonders relevant für den Beschäftigungskontext: Die Aufsichtsmaßnahmen müssen sicherstellen, dass die aufsichtführende Person nicht übermäßig auf die Ergebnisse des KI Systems vertraut (Automation Bias Prävention). Die vollständigen Pflichten gelten ab dem 2. August 2026.
Was bedeutet das für Sie als Betriebsrat?
Art. 14 EU AI Act stärkt die Forderung des Betriebsrats nach menschlicher Letztentscheidung bei allen personalrelevanten KI Systemen erheblich. Der Betriebsrat kann nun auf eine gesetzliche Pflicht verweisen, die über das bisherige Verbot automatisierter Einzelentscheidungen nach Art. 22 DSGVO hinausgeht.
Besonders wichtig: Die Pflicht zur Prävention von Automation Bias bedeutet, dass es nicht ausreicht, einen Menschen formell in den Entscheidungsprozess einzubeziehen. Dieser Mensch muss tatsächlich in der Lage und willens sein, die KI Empfehlung zu hinterfragen und zu überstimmen.
Handlungsempfehlung
Der Betriebsrat sollte in der Betriebsvereinbarung für jedes KI System ein konkretes Aufsichtskonzept einfordern, das definiert, welche Personen die menschliche Aufsicht ausüben, welche Qualifikation sie dafür benötigen und wie sichergestellt wird, dass die Aufsicht nicht zur Formalität verkommt.
Zusätzlich sollte vereinbart werden, dass bei personalrelevanten KI Entscheidungen (Einstellung, Beförderung, Abmahnung, Kündigung) die KI Empfehlung nur als ein Faktor unter mehreren berücksichtigt werden darf und die menschliche Entscheidung dokumentiert wird.
Wie kann TAPAUS Ihnen helfen?
Der Sachverständige prüft, ob die implementierten Aufsichtsmaßnahmen wirksam sind. Dies umfasst die technische Analyse (Kann das System tatsächlich gestoppt oder überstimmt werden?) und die organisatorische Bewertung (Sind die Aufsichtspersonen ausreichend geschult? Haben sie die Befugnis und die Zeit, Ergebnisse zu überprüfen?).
Das Gutachten bewertet auch das Risiko des Automation Bias: Sind die Aufsichtspersonen in der Praxis tatsächlich in der Lage, KI Empfehlungen zu widersprechen, oder folgen sie diesen routinemäßig?
Praxisbeispiel
Ein Unternehmen setzt ein KI System zur Schichtplanung ein, das automatisch Dienstpläne erstellt und dabei Krankheitswahrscheinlichkeiten und Leistungsdaten der Beschäftigten berücksichtigt. Formell prüft ein Vorgesetzter den Plan, übernimmt die KI Empfehlung aber in 98% der Fälle unverändert.
Der Betriebsrat argumentiert, dass keine wirksame menschliche Aufsicht im Sinne des Art. 14 vorliegt, da der Vorgesetzte die Empfehlungen de facto nicht überprüft. Er fordert Schulungen zur Automation Bias Prävention und eine Dokumentationspflicht für Abweichungen von der KI Empfehlung.
Mögliche Rechtsfolgen
Verstöße gegen Art. 14 EU AI Act werden nach Art. 99 der KI Verordnung mit Geldbußen geahndet. Darüber hinaus können Personalentscheidungen, die ohne wirksame menschliche Aufsicht getroffen wurden, arbeitsrechtlich anfechtbar sein.
Der Betriebsrat kann bei fehlender menschlicher Aufsicht die Zustimmung zur Systemeinführung verweigern oder den Einsatz des Systems bis zur Implementierung wirksamer Aufsichtsmaßnahmen aussetzen lassen.
Gültig seit:
2. August 2026
Referenzen und Querverweise:
EU AI Act Art. 13, EU AI Act Anhang III Nr. 4, DSGVO Art. 22, §87 Abs. 1 Nr. 6 BetrVG, §94 BetrVG
Last Update:
Keywords:
15. Mai 2026 um 06:41:24
EU AI Act, Hochrisiko KI, Personalentscheidung