Der Einsatz von Künstlicher Intelligenz (KI) am Arbeitsplatz sorgt aktuell in vielen Unternehmen für intensive Diskussionen. Mit der neuen KI-Verordnung, welche im Mai 2024 vom Rat der Europäischen Union verabschiedet wurde, ergeben sich bedeutende Veränderungen für den Einsatz solcher Technologien in Betrieben. Nun gilt es zu klären, was Arbeitgeber zu beachten haben, welche Systeme verboten sind und wie diese in Unternehmen genutzt werden können.

Das Wichtigste in Kürze

  • Die KI-Verordnung unterteilt KI-Systeme in verschiedene Risikokategorien, von minimalem bis hin zu hohem Risiko und legt entsprechend strenge Anforderungen an deren Nutzung fest.
  • Die Verordnung gilt für alle Unternehmen mit Sitz in der EU, die KI-Systeme nutzen. Auch Betreiber außerhalb der EU, deren KI-Systeme in der EU eingesetzt werden, unterliegen diesen Regelungen.
  • Arbeitgeber müssen sicherstellen, dass ihre Mitarbeiter im Umgang mit KI geschult sind und alle relevanten Informations-, Dokumentations- und Überwachungspflichten einhalten.
  • Neben den spezifischen Regelungen der KI-Verordnung sind auch allgemeine arbeitsrechtliche Rahmenbedingungen zu beachten.

Hintergrund

In vielen Unternehmen der Privatwirtschaft und der öffentlichen Verwaltung hat sich in der Covid-Krise eine neue Arbeitswelt eröffnet. Das flexible Arbeiten im Home-Office oder „Remote“ hat sich etabliert und die Nutzung digitaler Potenziale massiv beschleunigt. Eine verantwortungsvolle, effiziente und wirtschaftliche Nutzung von Künstlicher Intelligenz in den Unternehmen bei der Erfüllung von Arbeitsaufgaben und in der Organisation ist nicht aufzuhalten und schon jetzt im Wettbewerb relevant.

Mit diesen Entwicklungen im Hintergrund hat das Europäische Parlament in Zusammenarbeit mit der OECD (Organisation für wirtschaftliche Zusammenarbeit) die KI-Verordnung entwickelt.
Nach der Definition des Europäischen Parlaments und Rats ist ein KI-System ein maschinengestütztes System, das in unterschiedlichem Maße autonom arbeiten kann und aus erhaltenen Eingaben Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen ableitet, die physische oder virtuelle Umgebungen beeinflussen können.

Die Verordnung gilt in erster Linie für Anbieter und Betreiber von KI-Systemen. Arbeitgeber, die fremdentwickelte KI-Systeme in eigener Verantwortung verwenden, gelten als Betreiber. Arbeitgeber, die KI-Systeme selbst entwickeln oder entwickeln lassen, sind als Anbieter qualifiziert.

Ziele der KI-Verordnung

Die KI-Verordnung verfolgt das Ziel, menschenzentrierte und vertrauenswürdige KI zu fördern sowie ein hohes Schutzniveau für Gesundheit, Sicherheit, Demokratie, Rechtsstaatlichkeit und Umwelt zu gewährleisten. Gleichzeitig soll sie die Entwicklung von Innovationen unterstützen.

Zur Erreichung dieser Ziele sieht die Verordnung einen risikobasierten Ansatz vor, der Verpflichtungen je nach Einsatzbereich der KI vorsieht: Für Hochrisiko-KI-Systeme und allgemeine KI-Modelle (GPAI) gelten spezifische Anforderungen, während grundlegende Transparenzvorschriften auf ein breiteres Spektrum von KI-Systemen angewendet werden. Dagegen sind bestimmte Praktiken mit unannehmbarem Risiko, die das Verhalten von Personen manipulieren oder täuschen, Schwachstellen ausnutzen oder auf Grundlage von Sozialverhalten nachteilig bewerten (sog. Social Scoring), vollständig verboten.

Hochriskante KI-Systeme

Besonders relevante Bestimmungen betreffen hochristkante KI-Systeme, die in Bereichen wie Personalmanagement und Arbeitsrecht eingesetzt werden. Dazu gehören Systeme, die für die Einstellung oder Auswahl von Mitarbeitern, für Entscheidungen über Arbeitsbedingungen, Beförderungen und Kündigungen oder zur Überwachung und Bewertung der Leistung und des Verhaltens von Beschäftigten genutzt werden. Diese Systeme können die Berufsaussichten und Rechte der Arbeitnehmer erheblich beeinflussen.

Verbotene KI-Systeme

Die KI-Verordnung verbietet bestimmte Anwendungen, die als unannehmbares Risiko eingestuft werden. Dazu gehören Vorgehensweisen wie das Social Scoring, bei dem Menschen basierend auf Verhalten, sozioökonomischem Status und persönlichen Merkmalen klassifiziert werden. Ebenfalls verboten sind biometrische Identifizierungs- und Kategorisierungssysteme sowie Echtzeit-Fernidentifizierungssysteme wie Gesichtserkennung, außer in speziellen Ausnahmen, beispielsweise für Strafverfolgungsbehörden.

Anforderungen an Arbeitgeber

Unabhängig vom Risikograd sind Arbeitgeber verpflichtet sicherzustellen, dass ihre Mitarbeiter über ausreichende Kompetenzen im Umgang mit Künstlicher Intelligenz verfügen.

Dies umfasst technische Kenntnisse, Erfahrungen sowie relevante Aus- und Weiterbildungen. Zudem bestehen Transparenzpflichten, insbesondere bei der Interaktion von KI-Systemen mit Menschen und der Veröffentlichung von KI-generierten Inhalten.

Darüber hinaus bestehen spezifische Informations-, Speicher- und Aufsichtspflichten, die besonders für Hochrisiko-KI-Systeme relevant sind. Arbeitgeber müssen sicherstellen, dass Arbeitnehmern, die von einem Hochrisiko-KI-System betroffen sind, im Voraus informiert werden.

Existiert ein Betriebsrat, so muss auch dieser informiert werden. Dabei sind die bestehenden unionsrechtlichen und nationalen Regelungen zu beachten, einschließlich der im Betriebsverfassungsgesetz (BVerfG) festgelegten Verpflichtungen zur Unterrichtung und Anhörung des Betriebsrats.

Betreiber von Hochrisiko-KI sind zudem zur umfassenden Dokumentation verpflichtet. Dies beinhaltet die automatische Protokollierung von Systemaktivitäten, welche detaillierte Informationen über die Funktionsweise des KI-Systems, einschließlich der Eingaben, Verarbeitungsschritte und Ausgaben enthalten. Die erzeugten Protokolle müssen mindestens sechs Monate lang aufbewahrt werden. Diese Speicherung ist notwendig, um eine nachträgliche Überprüfung und Analyse der Systemaktivitäten zu ermöglichen.

Eine weitere Herausforderung stellt die Pflicht zur menschlichen Aufsicht dar. Diese Aufsicht kann nicht durch jede Person durchgeführt werden; vielmehr muss die Aufsichtsperson über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen. Die Betreiber müssen diesen Personen die notwendige Unterstützung bieten.
Besondere Informationspflichten gelten, wenn Hochrisiko-KI-Systeme Entscheidungen über natürliche Personen treffen oder bei diesen Entscheidungen unterstützen. Betroffene haben in solchen Fällen das Recht auf eine Erklärung der Einzelfallentscheidung, wie es in Artikel 86 der KI-Verordnung festgelegt ist.

Zudem sind Arbeitgeber verpflichtet, die fortlaufende Überwachung des KI-Systems sicherzustellen und das System bei der begründeten Annahme eines unverhältnismäßigen Risikos für Gesundheit, Sicherheit oder Grundrechte außer Betrieb zu nehmen. Es besteht auch eine Meldepflicht bei schwerwiegenden Vorfällen.

Arbeitsrechtliche Rahmenbedingungen

Neben den spezifischen Regelungen der KI-Verordnung sind die allgemeinen arbeitsrechtlichen Rahmenbedingungen zu beachten:

1. Rechte und Pflichten der Arbeitnehmer

Im Dienstverhältnis schuldet der Arbeitnehmer gemäß § 613 BGB im Zweifel die höchstpersönliche Erfüllung seiner Arbeitspflichten, was bei der Nutzung von KI fraglich sein kann. So werden Beschäftigte aufgrund ihrer persönlichen Qualifikation und Eignung ausgewählt. Der Einsatz von Hilfspersonen und Hilfsmitteln steht dem Erfordernis der Höchstpersönlichkeit grundsätzlich entgegen. Ein lediglich unterstützender Einsatz von KI dürfte dem Höchstpersönlichkeitsgrundsatz jedoch nicht widersprechen.

2. Weisungsrecht des Arbeitgebers

Der Arbeitgeber muss auch bei der KI-Nutzung beachten, dass Arbeitnehmer zwar weisungsgebunden sind, ihnen jedoch grundsätzlich nur solche Tätigkeiten und Aufgaben zugewiesen werden können, die von ihrer Arbeitspflicht umfasst sind. Umfang und Grenzen des Weisungsrechts des Arbeitgebers ergeben sich aus § 611a BGB und § 106 GewO sowie aus Tarifverträgen und Dienst- und Betriebsvereinbarungen. Diese Grundsätze müssen auch gelten, wenn der Arbeitgeber das Weisungsrecht selbst gegenüber den Arbeitnehmern KI-basiert ausübt.

Fazit

Der Einsatz von Künstlicher Intelligenz am Arbeitsplatz wird voraussichtlich in allen digital fortschrittlichen Unternehmen trotz der bestehenden Risiken Einzug halten oderweiter zunehmen. Ähnlich wie das Home-Office während der Covid-Krise, wird sich auch der KI-Einsatz in der öffentlichen Verwaltung etablieren. Die Nutzung von KI bietet Arbeitgebern zahlreiche Möglichkeiten zur Steigerung der Effizienz und wird die Arbeitswelt nachhaltig verändern. Die KI-Verordnung legt den grundlegenden rechtlichen Rahmen fest, der zusammen mit den bestehenden nationalen Gesetzen einen sicheren und rechtskonformen Umgang mit KI-Technologien ermöglicht.

„>

Kontakt aufnehmen