KI-Kompetenz im Unternehmen: Anforderungen nach der KI-VO

KI-Recht

KI-Kompetenz im Unternehmen: Anforderungen nach der KI-VO

Foto (Header): © Zerbor – stock.adobe.com

Mit der KI-Verordnung (KI-VO), die am 01.08.2024 in Kraft getreten ist, gelten in der Europäischen Union neue Anforderungen für den verantwortungsvollen Einsatz künstlicher Intelligenz. Viele Regelungen sind seit dem 02.08.2026 verbindlich. Die Vorgaben zur KI-Kompetenz nach Art. 4 KI-VO sind ebenfalls seit dem 02.02.2025 anwendbar.

Unternehmen sollten deshalb sicherstellen, dass alle Personen, die KI-Systeme nutzen oder mit ihnen arbeiten, über die erforderlichen Kenntnisse verfügen. Dies dient nicht nur der Erfüllung gesetzlicher Anforderungen: Wer Funktionsweise, Möglichkeiten und Grenzen von KI kennt, kann Risiken besser einschätzen, Systeme sicherer einsetzen und Vertrauen in die Technologie schaffen.

KI-Kompetenz: Was Unternehmen beachten sollten

Nach Art. 3 Nr. 56 KI-VO umfasst KI-Kompetenz Fähigkeiten, Kenntnisse und Verständnis, die Anbietern, Betreibern und betroffenen Personen einen sachgerechten Umgang mit KI-Systemen ermöglichen. Dazu gehört auch das Bewusstsein für Chancen und Risiken künstlicher Intelligenz.

Anbieter und Betreiber müssen dafür sorgen, dass ihr Personal sowie weitere Personen, die in ihrem Auftrag tätig werden, über ein ausreichendes Maß an KI-Kompetenz verfügen. Entscheidend sind insbesondere die vorhandenen Vorkenntnisse der Personen und die Art der eingesetzten KI-Systeme.

Die KI-VO legt nicht konkret fest, wann ein ausreichendes Maß an KI-Kompetenz erreicht ist. Unternehmen müssen daher selbst bewerten, welche Kenntnisse Beschäftigte für die jeweilige Anwendung benötigen. Ein modular aufgebautes Schulungskonzept kann dabei helfen, unterschiedliche Zielgruppen bedarfsgerecht zu qualifizieren.

Was Beschäftigte über KI wissen sollten

KI-Kompetenz geht über technische Grundlagen hinaus. Beschäftigte sollten Funktionsweise, Grenzen und mögliche Risiken der eingesetzten Systeme verstehen. Dazu zählen insbesondere Datenschutzfragen, Verzerrungen in Ergebnissen, sogenannte Bias, sowie mögliche Sicherheitslücken.

Wichtige Bestandteile einer KI-Schulung sind:

• Technisches Grundwissen: Mitarbeitende sollten grundlegende Prinzipien von KI-Mechanismen, maschinellem Lernen und Algorithmen nachvollziehen können.
• Bewusstsein für Chancen und Risiken: KI kann Prozesse effizienter gestalten. Risiken sollten jedoch frühzeitig erkannt und möglichst vermieden werden.
• Rechtliches und ethisches Verständnis: Datenschutz, Transparenz und die Vermeidung von Diskriminierung sind zentrale Voraussetzungen für einen verantwortungsvollen KI-Einsatz.

Ziel ist es, Beschäftigte in die Lage zu versetzen, KI verantwortungsvoll zu nutzen, Ergebnisse kritisch zu hinterfragen und fundierte Entscheidungen zu treffen. Gleichzeitig können sie sinnvolle Einsatzmöglichkeiten für KI im Unternehmen erkennen.

Schulungen als Grundlage für KI-Kompetenz

Ein wirksames Schulungskonzept sollte alle Personengruppen berücksichtigen, die mit KI-Systemen arbeiten oder Entscheidungen über deren Einsatz treffen. Dazu gehören operative Mitarbeitende, Führungskräfte sowie externe Dienstleister und Leiharbeitnehmer.

Die Schulungsinhalte sollten sich an den jeweiligen Aufgaben und Verantwortlichkeiten orientieren. Grundlagenschulungen vermitteln allen Mitarbeitenden ein allgemeines Verständnis von KI sowie ihrer rechtlichen und ethischen Rahmenbedingungen. Entscheidungsträger benötigen insbesondere Kenntnisse zu strategischen Fragen, Risikobewertungen und rechtlichen Anforderungen. Für IT und Entwicklung sind technische Schulungen zu Algorithmen, maschinellem Lernen und Datenverarbeitung relevant. Auch externe Partner sollten die geltenden KI-Standards kennen und einhalten.

Ein solches Konzept schafft klare Strukturen für den Umgang mit KI und stärkt die Risikoprävention. Praxisnahe Schulungen helfen Beschäftigten, KI-Systeme sicher, kritisch und sachgerecht einzusetzen.

Handlungsbedarf auch ohne unmittelbare Sanktionen

Art. 4 KI-VO ist nicht als strenge Verpflichtung ausgestaltet und Verstöße sind nicht unmittelbar mit Sanktionen belegt. Unternehmen sollten die Anforderungen dennoch nicht unterschätzen. Fehlen ausdrückliche Strafen, entbindet dies nicht von der Verantwortung, KI-Systeme sicher und verantwortungsvoll einzusetzen.

Entsteht durch fehlerhafte Bedienung oder eine unzureichende Risikobewertung eines KI-Systems ein Schaden, kann dies als Verletzung allgemeiner Sorgfaltspflichten gewertet werden. Hätte eine angemessene Schulung den Schaden möglicherweise verhindert, kann dies für das Unternehmen relevant sein.

Proaktive Schulungsmaßnahmen reduzieren rechtliche Risiken, stärken das Vertrauen von Mitarbeitenden, Kunden und Geschäftspartnern und können Unsicherheiten gegenüber dem Einsatz von KI abbauen.

KI-Kompetenz langfristig sichern

Einmalige Schulungen reichen nicht aus, um KI-Kompetenz dauerhaft aufzubauen und zu erhalten. Da sich technische und rechtliche Entwicklungen im KI-Bereich dynamisch verändern, sind regelmäßige Weiterbildungen wichtig.

Interne Richtlinien und Standards können ergänzend klare Vorgaben für die Nutzung und Überwachung von KI-Systemen schaffen. Auch die Benennung eines KI-Beauftragten kann sinnvoll sein, um Schulungen zu koordinieren, als Ansprechperson zu fungieren und interne KI-Richtlinien weiterzuentwickeln.

Fazit:

KI-Kompetenz ist ein wesentlicher Bestandteil der unternehmensinternen KI-Compliance. Zielgruppengerechte und praxisnahe Schulungen helfen, Risiken zu minimieren, die Akzeptanz neuer Technologien zu stärken und KI verantwortungsvoll einzusetzen.

 

Auszug aus: Ausgabe März 2025

Auszug aus: Dr. Knappertsbusch, Inka: KI-Kompetenz gemäß KI-VO als Schlüssel zur KI-Compliance im Unternehmen. In: KI-Recht.IT-Sicherheit.Datenschutz., März 2025, S. 9–11.

Zur Person

Dr. Inka Knappertsbusch

Dr. Inka Knappertsbusch Der Schwerpunkt von Inka Knappertsbusch liegt auf der arbeitsrechtlichen Beratung im Rahmen von Restrukturierungen und Betriebsvereinbarungen, insbesondere zu IT, KI und New Work. Darüber hinaus berät sie in allen Fragen des Individual- und Kollektivarbeitsrechts sowie des Dienstvertragsrechts. Besondere Kenntnisse besitzt sie außerdem in Datenschutzfragen im Beschäftigungskontext. Sie ist Mitherausgeberin der Bücher Arbeitswelt und KI 2030 und Die Zukunft der Arbeit. Zu ihren Mandanten zählen internationale Konzerne ebenso wie mittelständische Unternehmen. Inka Knappertsbusch schloss sich 2019 CMS an. Zuvor war sie drei Jahre als Anwältin in einer internationalen Kanzlei tätig. Während dieser Zeit absolvierte sie ein einjähriges Secondment in der Rechtsabteilung eines japanischen Handelshauses in London. 2023 wurde sie Counsel der Sozietät.