KI-Dienste und Anwendungen nehmen immer mehr Einfluss auf das alltägliche Leben und den unternehmerischen Alltag und haben weltweit für viele Unternehmen eine zunehmend wichtige Bedeutung für ihre Zukunftsfähigkeit. Bereits im Jahr 2021 hat die EU-Kommission den ersten Entwurf eines KI-Gesetz veröffentlicht, indem das Vertrauen in KI-Technologien gestärkt werden sollte. Nachdem jedoch neue Dienste auf den Markt gekommen sind, die neue Chat- und Bild-KI-Technologien enthielten, sah sich das Parlament aufgrund von Diskussionen gezwungen, auch solche generativen KI in die Regulierung miteinzubeziehen, sodass es zu Verzögerungen im Gesetzgebungsverfahren kam. Nun kündigte das Europäische Parlament am 17. April 2023 an, dass der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) und der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) am 26. April 2023 über den Entwurf eines Berichts zum Vorschlag eines KI-Gesetzes (Gesetz über künstliche Intelligenz, engl.: Artificial Intelligence Act) abstimmen werden.

Das Wichtigste in Kürze

• Die EU-Kommission möchte das Inverkehrbringen, die Entwicklung und die Nutzung von KI in einem einheitlichen Gesetz regulieren und das Vertrauen in KI-Systeme stärken.
• Das KI-Gesetz der EU wäre das weltweit erste Gesetz, das Einfluss auf die Entwicklung und den Einsatz von KI nehmen könnte.
• Die geplante Verordnung verfolgt einen risikobasierten Ansatz, sodass dem Risiko entsprechend höhere bzw. niedrigere Anforderungen bspw. im Hinblick auf die Sicherheit oder Transparenzpflichten gelten.
• Sobald das EU-Parlament seinen Standpunkt zum Verordnungsentwurf festgelegt hat, geht es in die Verhandlungen mit dem Rat der EU.

Gesetzesvorhaben der EU-Kommission zur Regulierung von KI

Bei künstlicher Intelligenz handelt es sich um eine technologische Funktion, durch die Computer menschenähnliche Intelligenzleistungen erbringen können. Da die Kommission das Potenzial von KI-Systemen bereits vor vielen Jahren erkannt hat, begann sie frühzeitig mit der Förderung der Forschung auf diesem Gebiet. In diesem Zusammenhang veröffentlichte sie am 21. April 2021 einen Entwurf des Artifical Intelligence Act. Dabei handelt es sich um einen Gesetzesvorschlag zur einheitlichen Regulierung von KI innerhalb der EU. Mit diesem Vorschlag verfolgt die Kommission das Ziel, ein hohes Maß an Schutz und Sicherheit für Privatpersonen und Unternehmen in der EU zu gewährleisten, indem der Einsatz von KI-Systemen auf bestimmte Arten und Anwendungen beschränkt und reguliert wird.

Dazu hat der Gesetzgeber im Verordnungsentwurf eine Einteilung von KI-Systemen in vier Risikokategorien vorgenommen: verbotene Systeme, Hochrisikosysteme, risikobasierte Systeme und Nicht-Risikosysteme. So unterliegen Hochrisikosysteme, wie beispielsweise solche, die bei autonomen Fahrzeugen zum Einsatz kommen, bei medizinischen Diagnosesystemen vorliegen oder zur Überwachung öffentlicher Parkplätze eingesetzt werden, einer strengeren Regulierung und müssen bestimmte Anforderungen erfüllen, bevor sie in der EU eingesetzt werden dürfen. Demgegenüber sieht die Verordnung für Nicht-Risikosysteme wie bspw. Chatbots oder Sprachassistenten weniger strenge Anforderungen vor.

Für sämtliche KI-Systeme gilt, dass diese vor allem transparent sein müssen, um das Vertrauen der Verbraucher in die neue Technologie zu stärken. Ferner stellt das Gesetz spezielle Anforderungen an die Datensicherheit, die menschliche Aufsicht, die Überprüfung und Zertifizierung von KI-Systemen sowie die Meldung von Unfällen und Vorfällen im Zusammenhang mit KI-Systemen. Darüber hinaus sieht das Gesetz vor, dass die Haftung für etwaige Schäden, die im Zusammenhang mit der Verwendung von KI-Systemen stehen, grundsätzlich beim jeweiligen KI-Entwickler liegen und nicht beim Anwender.

Finale Abstimmung durch die Ausschüsse des EU-Parlaments

Bevor das Gesetz in Kraft treten kann, muss es zuvor von den Mitgliedstaaten und dem EU-Parlament verabschiedet werden. Derzeit befindet sich der Entwurf im EU-Parlament. Die parlamentarischen Ausschüsse haben an einem Berichtsentwurf gearbeitet, der einen überarbeiteten Vorschlag für eine KI-Verordnung enthält. Nach einer gemeinsamen Abstimmung der beteiligten Ausschüsse soll die Abstimmung im Parlament folgen.

Infolge des Aufkommens neuer Chat- und Bild-KI-Dienste kam es zu einer Verzögerung im Gesetzgebungsfahren, da eine Reihe an Änderungsanträgen der EU-Kommission eingingen.

Das Parlament teilte zuletzt mit, dass der aktuelle Berichtsentwurf der Berichterstatter des IMCO und des LIBE nach gründlichen Verhandlungen wesentliche Änderungen des KI-Gesetzes enthält, wie z.B. ein Verbot der vorhersagenden Polizeiarbeit, Ergänzungen der Liste der eigenständigen KI, die als hochriskant eingestuft wird, sowie eine starke und umfassende Rolle für das geplante KI-Amt.

Darüber hinaus wird eine stärkere Angleichung an die Datenschutz-Grundverordnung (DS-GVO), ebenso wie eine stärkere Einbindung von Interessengruppen in verschiedenen Bereichen und die Einführung spezifischer Bestimmungen in Bezug auf allgemeine künstliche Intelligenz vorgeschlagen.

Zur Diskussion stand ferner die Zulässigkeit einer biometrischen Echtzeit-Identifizierung im öffentlichen Raum. Sowohl das Parlament als auch die Mitgliedstaaten haben sich jedoch frühzeitig darauf geeinigt, dass diese grundsätzlich verboten sein soll. Allerdings wurden zuletzt nicht nur im Rat der Europäischen Union Forderungen nach Ausnahmeregelungen laut.

Vergleichbar der DSGVO, sieht die KI-Verordnung Sanktionen, insbesondere Bußgelder, im Falle von Verstößen vor. So sind Bußgelder in Höhe von bis zu 30 Millionen Euro bzw. bis zu 6 % des weltweit erzielten Jahresumsatzes eines Unternehmens vorgesehen.