Was bringt die europäische KI-Verordnung für Beschäftigte?

12. August 2024

EU Datenschutz — Quelle: © bluedesign / Foto Dollar Club

Die KI-Verordnung der EU ist weltweit die erste verbindliche Regelung zum Einsatz von KI. Ihr Schwerpunkt liegt im Produktsicherheits- und Wirtschaftsrecht, doch hat sie auch erhebliche Auswirkungen für Beschäftigte.

Die KI erobert in der gesamten Europäischen Union (EU) – auch in Deutschland – immer neue Einsatzfelder. Ob es um medizinische Diagnostik, um autonomes Fahren oder um die Steuerung von Prozessabläufen in der Produktion geht – überall lässt sich mit Hilfe von KI eine Beschleunigung, oft auch eine Verbesserung erreichen.

Was ändert KI?

Auch die Arbeit von Personalabteilungen in Unternehmen und Behörden wird mit Hilfe von KI verändert: Bewerbungsunterlagen, die bestimmte formale Voraussetzungen nicht erfüllen, werden vorab von der KI aussortiert. Aber die Möglichkeiten gehen sehr viel weiter: Auch die Eignung einer Person für eine bestimmte Position lässt sich durch KI bestimmen. Ebenso ist KI einsetzbar, wenn es um Auswahlprozesse bei Kündigungen oder anderen Formen des Personalabbaus geht. (...)

Der Inhalt der KI-Verordnung

Die Verordnung umfasst 460 DIN A4-Seiten, davon 260 Seiten Gesetzestext, 40 Seiten Anhänge und 160 Seiten Erwägungsgründe. Wer dazu einen Kommentar schreiben will, muss über ein ausgeprägtes Selbstbewusstsein und viele willige Zuarbeiter:innen verfügen. Hier sollen in erster Linie die Punkte behandelt werden, welche für die abhängige Arbeit wesentlich sind – und nur einen vergleichsweise kleinen Teil des Gesetzeswerks ausmachen. Die Verordnung gehört ihrem inhaltlichen Schwerpunkt nach zum Produktsicherheitsrecht: Sie will dafür sorgen, dass durch KI niemand zu Schaden kommt. Sie verfolgt dabei einen risikobasierten Ansatz, wobei sie in folgender Weise unterscheidet:

Art. 5 KI-VO zählt KI-Systeme mit inakzeptablem, unannehmbarem Risiko auf; ihr Einsatz ist verboten.

Art. 6 und 7 KI-VO betreffen sog. „Hochrisiko-Systeme“, die dort und in Anhang III der Verordnung konkret benannt sind. Sie müssen bestimmten Anforderungen genügen, die in Art. 8 bis 15 KI-VO näher umschrieben sind. In Art. 16 bis 22 KI-VO sind Pflichten der Anbieter von KI-Systemen niedergelegt, die Art. 25 KI-VO unter bestimmten Voraussetzungen auf alle Unternehmen in der Wertschöpfungskette erstreckt. Art. 26 enthält die Pflichten des Betreibers, die sehr viel weniger weit gehen. Vor der Inbetriebnahme eines Hochrisikosystems muss nach Maßgabe von Art. 27 KI-VO eine Grundrechte-Folgenabschätzung stattfinden. Die Art. 28 bis 39 KI-VO betreffen Bildung und Aufgaben der sog. notifizierenden Behörden, Art. 40 bis 49 die Konformitätsprüfung.

Für KI-Systeme mit geringem oder minimalem Risiko gelten nur wenige Pflichten. Am wichtigsten ist die Transparenzpflicht des Art. 50 KI-VO.

Daneben gibt es in den Art. 51 bis 56 Sonderbestimmungen über KI-Modelle mit allgemeinem Verwendungszweck, die für sehr unterschiedliche Aufgaben eingesetzt werden können. Die Schaffung von sog. (staatlichen) KI-Reallaboren dient der Förderung von Innovationen (Art. 57 bis 59). Weitere Bestimmungen betreffen die Kontrollbehörden. Art. 99 sieht bei Verstößen gegen wesentliche Bestimmungen der Verordnung beträchtliche Sanktionen vor, die bis zu 7 % des weltweiten Jahresumsatzes oder bis zu 35 Mio. Euro gehen können.

Die Verordnung ist am 1.8.2024 in Kraft getreten. Verbindlichkeit entfaltet sie aber grundsätzlich erst zwei Jahre nach diesem Zeitpunkt, um auf diese Weise den betroffenen Unternehmen eine Anpassung an den neuen rechtlichen Rahmen zu erleichtern. Kapitel I und II (insbesondere das in Art. 5 KI-VO enthaltene Verbot bestimmter KI-Systeme) werden jedoch bereits im Februar 2025 verbindlich.

Verhältnis der KI-VO zum Arbeitsrecht

In Art. 2 Abs. 11 KI-VO heißt es: „Diese Verordnung hindert die Union oder die Mitgliedstaaten nicht daran, Rechts- oder Verwaltungsvorschriften beizubehalten oder einzuführen, die für die Arbeitnehmer im Hinblick auf den Schutz ihrer Rechte bei der Verwendung von KI-Systemen durch die Arbeitgeber vorteilhafter sind, oder die Anwendung von Kollektivvereinbarungen zu fördern oder zuzulassen, die für die Arbeitnehmer vorteilhafter sind.“

Dies bedeutet beispielsweise, dass Tarifverträge oder Betriebsvereinbarungen zulässig bleiben, die ein KI-System verbieten, weil es mit einem Übermaß an Überwachung gegenüber den Beschäftigten verbunden ist – und zwar auch dann, wenn dieses System nach der KI-VO keinen Bedenken unterliegen würde. Insoweit gilt das Günstigkeitsprinzip.

Die KI-VO enthält aber auch selbst Vorgaben, die im Arbeitsrecht von unmittelbarer Bedeutung sind. Dazu gehören eine Reihe von Systemen mit „unannehmbarem Risiko“, aber auch Hochrisikosysteme, bei denen zahlreiche Vorgaben beachtet werden müssen. Daneben gibt es Vorschriften wie Art. 4 zur KI-Kompetenz der bei Anbietern und Betreibern Beschäftigten und Art. 50 zu Transparenzpflichten für Anbieter und Betreiber, die für jeden KI-Einsatz gelten. (...)