KI trifft Arbeitsrecht: Herausforderungen und Handlungsfelder

KI-Recht

KI trifft Arbeitsrecht: Herausforderungen und Handlungsfelder

Foto (Header): © Zerbor – stock.adobe.com

Die KI-Verordnung der EU ist die weltweit erste umfassende gesetzliche Regelung für künstliche Intelligenz. Als Verordnung gilt die KIVO unmittelbar. Die KI-VO ist Produktsicherheitsrecht. Der Umfang der Pflichten divergiert stark, je nach Art und Einsatz der KI (sog. risikobasierter Ansatz).

Der Rechtsrahmen gilt sowohl für öffentliche als auch für private Akteure innerhalb und außerhalb der EU, sofern das KI-System in der Union in Verkehr gebracht wird oder seine Verwendung Auswirkungen auf Menschen in der EU hat (vgl. Art. 2 KI-VO). Die KI-VO unterscheidet u. a. zwischen Anbietern und Betreibern eines KI-Systems (vgl. Art. 3 Nr. 3 und Nr. 4 KI-VO). Der Arbeitgeber ist zumindest Betreiber eines KI-Systems, wenn er KI im Betrieb einsetzt. Je nachdem, welche Art von KI-Systemen verwendet/genutzt wird, treffen den Arbeitgeber unterschiedliche Pflichten.

KI im HR-Bereich

In vielen Betrieben ist mittlerweile der Einsatz von KI alltäglich geworden. Auch in Personalabteilungen haben KI-Anwendungen Einzug gefunden. Der Personalbereich hat sowohl arbeitsrechtliche, datenschutzrechtliche, urheberrechtliche, haftungsrechtliche, gleichbehandlungsrechtliche und weitere gesetzliche Vorgaben zu berücksichtigen, wenn KI eingesetzt wird. Die KI-VO regelt diese ganzen Bereiche nicht, sondern nur die Aspekte zur Produktsicherheit. Sie lässt die anderen Rechtsgebiete unberührt.

Die Anwendungsmöglichkeiten von künstlicher Intelligenz im Personalbereich sind vielfältig: KI hilft bei der Erstellung einer Stellenausschreibung ggf. mit KI generierten Fotos, Bewerbungen können nach bestimmten Kriterien gefiltert werden etc. Auch kann ein Recruiting-Bot eingesetzt werden, um die Auswahl zu reduzieren. Im Arbeitsverhältnis kann der Personalbedarf regelmäßig automatisch analysiert und ermittelt werden. KI kann außerdem beim personalisierten Onboarding und als digitaler Mentor bzw. Coach unterstützen. So können z. B. individuelle Fortbildungen und Schulungen für Mitarbeiter im Arbeitsverhältnis effizient und nutzergerecht angeboten oder eine Vergütung kann auf Neutralität geprüft werden. KI kann Vorgesetzte bei Leistungs- und Verhaltensbeurteilungen unterstützen sowie Beförderungsempfehlungen erstellen oder eine Kündigungswahrscheinlichkeit der einzelnen Mitarbeitenden ermitteln.

Die KI-Verordnung verfolgt einen sog. risikobasierten Ansatz: d. h., sie teilt KI-Systeme in Risikoklassen ein und sieht hierfür verschiedene Pflichten vor für verschiedene Akteure. Folgende Risikoklassen gibt es:

1. Unannehmbares Risiko – Verbotene Praktiken
2. Hochrisiko-KI
3. KI mit allgemeinem Verwendungszweck/systemisches Risiko
4. Geringes Risiko.

Je nachdem gelten mehr oder weniger strengere Anforderungen.

Handlungsfelder

Zu Beginn muss der Ist-Bestand an Software/KI im Betrieb ermittelt werden. Arbeitgeber müssen identifizieren, wo KI-Systeme oder KI-Modelle (interne und externe Systeme) eingesetzt werden. Dann muss geklärt werden, ob der Arbeitgeber hier Anbieter oder Betreiber ist. Abschließend werden die daraus resultierenden Pflichten abgeleitet.

Einsatz von KI regeln

Die unbefugte und unkontrollierte Nutzung von KI-Tools durch Mitarbeiter kann ein großes Risiko für Unternehmensdaten darstellen. Die Information und Schulung von Mitarbeiter sind aus diesem Grund wichtig.

Schatten-KI und Rechtsverletzungen vermeiden

KI-Systeme sind keine rechtsfreien Räume. Verwenden Mitarbeiter nicht lizenzierte KI-Modelle oder Trainingsdaten, die dafür nicht vom Eigentümer freigegeben wurden, verletzt das in großen Teilen Lizenzen sowie Urheberrechte. Eine Zusatzproblematik stellen potenziell voreingenommene, anstößige oder illegale Ergebnissen von KI dar. Diese können nicht nur dem Leumund schaden, sondern rechtliche Konsequenzen mit sich bringen. Schatten-KI-Nutzung kann in regulierten Branchen auch zu Verstößen gegen Compliance-Regeln führen.

Datenschutzverletzungen vorbeugen

Soweit personenbezogene Daten verarbeitet werden, greift die DSGVO. Die Personalabteilung arbeitet i. d. R. mit vielen personenbezogenen Daten, teilweise sogar mit sensiblen Daten (gem. Art. 9 DSGVO). Sollen personenbezogene Daten mit KI verarbeitet werden, ist sicherzustellen, dass die Daten die IT-Umgebung des Unternehmens nicht verlassen und keine unberechtigten Personen innerhalb des Unternehmens auf die Daten zugreifen können (TOM). Welche Datenverarbeitungen stattfinden, muss im Rahmen der Pflichtinformationen gem. Art. 13 DSGVO oder Art. 14 DSGVO bekannt sein. Auch muss der Arbeitgeber dafür Sorge tragen, dass mittels KI keine Daten erhoben werden, die das Unternehmen nicht benötigt (Art. 5 DSGVO – Datensparsamkeit). Artikel 22 DSGVO setzt einer automatisierten Entscheidung durch KI Grenzen. KI gilt als neue Technologie gem. Art. 35 DSGVO, daher kann es erforderlich sein, eine Datenschutz-Folgenabschätzung durchzuführen.

Diskriminierungspotenzial erkennen

Die getroffenen Entscheidungen durch eine KI könnten Personen diskriminieren und gegen das Allgemeine Gleichbehandlungsgesetz (AGG) verstoßen. Das kann z. B. an den eingespeisten Trainingsdaten liegen. Wer KI in HR-Prozessen einsetzt, muss dafür sorgen, dass die eingesetzte KI an die arbeitsrechtlichen Bestimmungen angepasst wird. Verzerrungen (Biases) können sowohl aus den Eingabedaten (Input) als auch aus den Ergebnissen (Output) entstehen. Um Diskriminierung zu vermeiden, werden technische Instrumente wie „discrimination-aware data-mining“ (DADM) und „fairness, accountability and transparency in machine learning“ (FATML) eingesetzt. Ein Verstoß gegen das Benachteiligungsverbot kann neben den Sanktionen aus der KI-VO zu Entschädigungs- und Schadensersatzansprüchen gem. § 15 AGG führen.

Betriebsrat einbinden

Möchten Arbeitgeber KI im Unternehmen nutzen, so ist der Betriebsrat frühzeitig zu beteiligen. Bereits bei der Planung des KI-Einsatzes muss das Unternehmen den Betriebsrat nach § 90 Abs. 1 Nr. 3 BetrVG unterrichten (vgl. Art. 26 Abs. 7 KI-VO). Der Einsatz von KI ist zudem i. d. R. nach § 87 Abs. 1 Nr. 6 BetrVG mitbestimmungspflichtig. Zumindest dann, wenn der Arbeitgeber die Nutzung vorschreibt oder eigene KI-Systeme zur Verfügung stellt. Das gilt auch für Richtlinien über die Nutzung einer KI. Lediglich die freiwillige Nutzung von ChatGPT über private Accounts ist nach Ansicht des Arbeitsgerichts Hamburg nicht mitbestimmungspflichtig (hier ist zu beachten, dass die KI-VO noch nicht gegriffen hat und diese Aspekte nicht geprüft worden sind – zudem wirft eine solche Konstellation haftungsrechtliche Fragen auf).

Im Fall der freiwilligen Nutzung von ChatGPT über einen privaten Account ist es ratsam, eine Rahmen-Betriebsvereinbarung dazu abzuschließen.

Auszug aus: Ausgabe Februar 2025

Auszug aus: Dimartino, Maria: KI trifft Arbeitsrecht: Herausforderungen und Handlungsfelder. In: KI-Recht.IT-Sicherheit.Datenschutz., Februar 2025, S. 4–8.

Zur Person

Maria Dimartino ist Rechtsanwältin mit den Tätigkeitsschwerpunkten Arbeitsrecht, Betriebsverfassungsrecht und Beschäftigtendatenschutz. Sie hat erfolgreich den Fachanwaltslehrgang für Arbeitsrecht absolviert und ist Mitglied der Arbeitsgemeinschaft Arbeitsrecht im Deutschen Anwaltsverein. Zudem ist Frau Dimartino im Individual- und Kollektivarbeitsrecht als Autorin sowie Referentin für Arbeitsrecht und Betriebsverfassungsrecht im deutschsprachigen Raum sowie regelmäßig als Lehrbeauftragte an verschiedenen Hochschulen tätig.