Der Einsatz Künstlicher Intelligenz (KI) rückt auch im Arbeitsrecht zunehmend in den regulatorischen Fokus. Mit der KI-Verordnung der EU und dem deutschen Durchführungsgesetz werden Arbeitgeberinnen und Arbeitgeber nicht nur als Nutzer moderner KI-Tools adressiert, sondern in vielen Fällen als Betreiber von KI-Systemen unmittelbar in die Pflicht genommen.

Besonders relevant ist dies dort, wo KI im Beschäftigungskontext eingesetzt wird – etwa bei der Bewerberauswahl, bei Leistungsbeurteilungen oder bei Entscheidungen über Beförderung oder Kündigung. Solche Anwendungen können als Hochrisiko-KI-Systeme eingestuft werden und lösen künftig besondere Betreiberpflichten aus.


Welche Bußgelder gelten bereits?

Seit dem 29. Juli 2026 können nach dem Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz („KI-MIG“) bestimmte Verstöße mit Geldbußen bis zu 50.000 Euro geahndet werden. Für Arbeitgeber ist insbesondere relevant, dass Betreiber bestimmter Hochrisiko-KI-Systeme betroffenen Personen auf Verlangen eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess geben müssen. Diese Erläuterungspflicht kann auch bei KI-gestützten Personalentscheidungen Bedeutung erlangen.

Daneben sind die Sanktionsvorschriften der Verordnung EU 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz („KI-VO“) selbst bereits anwendbar. Verstöße gegen verbotene KI-Praktiken können erhebliche Bußgelder auslösen. Im Arbeitsverhältnis ist insbesondere Vorsicht bei KI-Systemen, die zur Mitarbeiterüberwachung eingesetzt werden können, z.B. Emotionserkennung, geboten, da deren Einsatz am Arbeitsplatz grundsätzlich verboten ist, soweit keine eng begrenzte Ausnahme greift.


Erleichterung bei der KI-Kompetenz – aber keine Entwarnung

Eine wesentliche Änderung betrifft Art. 4 KI-VO. Arbeitgeber müssen die KI-Kompetenz ihres Personals künftig nicht mehr „sicherstellen“. Stattdessen müssen sie Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz der Personen zu unterstützen, die in ihrem Auftrag KI-Systeme betreiben oder nutzen. Praktisch bleibt damit ein Schulungs- und Governance-Bedarf bestehen – allerdings mit größerer Flexibilität bei der Umsetzung.


Hochrisiko-KI im Personalbereich: Zentrale Pflichten verschoben

Die weitreichenden Betreiberpflichten für Hochrisiko-KI-Systeme im Personalbereich gelten nach der Digital-Omnibus-Verordnung nicht bereits ab dem 2. August 2026, sondern für Hochrisiko-KI-Systeme nach Anhang III grundsätzlich erst ab dem 2. Dezember 2027. Dazu zählen insbesondere KI-Systeme für Recruiting, Personalmanagement, Leistungsbewertung sowie Entscheidungen über Beförderung oder Kündigung, z.B. wenn sie über eine automatisierte Entscheidungsfindung verfügen (Lebenslauffilter, automatisierte Vorauswahl von Bewerbern etc.).

Ab diesem Zeitpunkt müssen Arbeitgeber als Betreiber unter anderem sicherstellen, dass Hochrisiko-KI-Systeme entsprechend der Gebrauchsanweisung eingesetzt, wirksam menschlich beaufsichtigt, laufend überwacht und mit geeigneten Eingabedaten betrieben werden. Zudem sind Beschäftigte bzw. Arbeitnehmervertretungen zu informieren; bei KI-gestützten Entscheidungen können ergänzende Erläuterungspflichten gegenüber Betroffenen hinzukommen.

Verstöße gegen diese Betreiberpflichten können künftig mit Bußgeldern von bis zu 15 Mio. Euro oder bis zu 3 % des weltweiten Jahresumsatzes geahndet werden. Für typische HR-KI-Systeme wird dieses Bußgeldrisiko wegen der Verschiebung der Hochrisiko-Regelungen jedoch regelmäßig erst ab dem 2. Dezember 2027 praktisch relevant.


Was Arbeitgeber jetzt tun sollten

  • KI-Anwendungen im Unternehmen inventarisieren und nach Einsatzbereichen klassifizieren.
  • HR-nahe Systeme auf mögliche Hochrisiko-Eigenschaft prüfen.
  • Rollen und Verantwortlichkeiten für KI-Governance, Datenschutz, Compliance, HR und Betriebsrat festlegen.
  • Schulungs- und Awareness-Maßnahmen zur KI-Kompetenz dokumentieren.
  • Prozesse für menschliche Aufsicht, Monitoring, Dokumentation und Vorfallmanagement vorbereiten.
  • Informations- und Erläuterungspflichten gegenüber Beschäftigten und Betroffenen rechtzeitig in bestehende HR-Prozesse integrieren.


Fazit

Für Arbeitgeber gilt bereits heute: Die KI-VO nimmt sie als Betreiber von KI-Systemen in die Pflicht. Erste Bußgeldrisiken bestehen bereits, während die besonders weitreichenden Betreiberpflichten für Hochrisiko-KI im Personalbereich ab dem 2. Dezember 2027 greifen. Gerade diese Übergangszeit sollte genutzt werden: Wer heute Transparenz über eingesetzte KI-Systeme schafft, Verantwortlichkeiten definiert und Mitarbeiterinnen und Mitarbeiter befähigt, reduziert spätere Compliance- und Bußgeldrisiken erheblich.

Dieser Artikel wurde verfasst von