KI-Dienste und Anwendungen nehmen immer mehr Einfluss auf das alltägliche Leben und den unternehmerischen Alltag und haben weltweit für viele Unternehmen eine zunehmend wichtige Bedeutung für ihre Zukunftsfähigkeit. Bereits im Jahr 2021 hat die EU-Kommission den ersten Entwurf eines KI-Gesetz veröffentlicht, indem das Vertrauen in KI-Technologien gestärkt werden sollte. Nachdem jedoch neue Dienste auf den Markt gekommen sind, die neue Chat- und Bild-KI-Technologien enthielten, sah sich das Parlament aufgrund von Diskussionen gezwungen, auch solche generativen KI in die Regulierung miteinzubeziehen, sodass es zu Verzögerungen im Gesetzgebungsverfahren kam. Nun kündigte das Europäische Parlament am 17. April 2023 an, dass der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) und der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) am 26. April 2023 über den Entwurf eines Berichts zum Vorschlag eines KI-Gesetzes (Gesetz über künstliche Intelligenz, engl.: Artificial Intelligence Act) abstimmen werden.

 

Das Wichtigste in Kürze

  • Die EU-Kommission möchte das Inverkehrbringen, die Entwicklung und die Nutzung von KI in einem einheitlichen Gesetz regulieren und das Vertrauen in KI-Systeme stärken.
  • Das KI-Gesetz der EU wäre das weltweit erste Gesetz, das Einfluss auf die Entwicklung und den Einsatz von KI nehmen könnte.
  • Die geplante Verordnung verfolgt einen risikobasierten Ansatz, sodass dem Risiko entsprechend höhere bzw. niedrigere Anforderungen bspw. im Hinblick auf die Sicherheit oder Transparenzpflichten gelten.
  • Sobald das EU-Parlament seinen Standpunkt zum Verordnungsentwurf festgelegt hat, geht es in die Verhandlungen mit dem Rat der EU.

 

Gesetzesvorhaben der EU-Kommission zur Regulierung von KI

Bei künstlicher Intelligenz handelt es sich um eine technologische Funktion, durch die Computer menschenähnliche Intelligenzleistungen erbringen können. Da die Kommission das Potenzial von KI-Systemen bereits vor vielen Jahren erkannt hat, begann sie frühzeitig mit der Förderung der Forschung auf diesem Gebiet. In diesem Zusammenhang veröffentlichte sie am 21. April 2021 einen Entwurf des Artifical Intelligence Act. Dabei handelt es sich um einen Gesetzesvorschlag zur einheitlichen Regulierung von KI innerhalb der EU. Mit diesem Vorschlag verfolgt die Kommission das Ziel, ein hohes Maß an Schutz und Sicherheit für Privatpersonen und Unternehmen in der EU zu gewährleisten, indem der Einsatz von KI-Systemen auf bestimmte Arten und Anwendungen beschränkt und reguliert wird.

Dazu hat der Gesetzgeber im Verordnungsentwurf eine Einteilung von KI-Systemen in vier Risikokategorien vorgenommen: verbotene Systeme, Hochrisikosysteme, risikobasierte Systeme und Nicht-Risikosysteme. So unterliegen Hochrisikosysteme, wie beispielsweise solche, die bei autonomen Fahrzeugen zum Einsatz kommen, bei medizinischen Diagnosesystemen vorliegen oder zur Überwachung öffentlicher Parkplätze eingesetzt werden, einer strengeren Regulierung und müssen bestimmte Anforderungen erfüllen, bevor sie in der EU eingesetzt werden dürfen. Demgegenüber sieht die Verordnung für Nicht-Risikosysteme wie bspw. Chatbots oder Sprachassistenten weniger strenge Anforderungen vor.

Für sämtliche KI-Systeme gilt, dass diese vor allem transparent sein müssen, um das Vertrauen der Verbraucher in die neue Technologie zu stärken. Ferner stellt das Gesetz spezielle Anforderungen an die Datensicherheit, die menschliche Aufsicht, die Überprüfung und Zertifizierung von KI-Systemen sowie die Meldung von Unfällen und Vorfällen im Zusammenhang mit KI-Systemen. Darüber hinaus sieht das Gesetz vor, dass die Haftung für etwaige Schäden, die im Zusammenhang mit der Verwendung von KI-Systemen stehen, grundsätzlich beim jeweiligen KI-Entwickler liegen und nicht beim Anwender.

 

Finale Abstimmung durch die Ausschüsse des EU-Parlaments

Bevor das Gesetz in Kraft treten kann, muss es zuvor von den Mitgliedstaaten und dem EU-Parlament verabschiedet werden. Derzeit befindet sich der Entwurf im EU-Parlament. Die parlamentarischen Ausschüsse haben an einem Berichtsentwurf gearbeitet, der einen überarbeiteten Vorschlag für eine KI-Verordnung enthält. Nach einer gemeinsamen Abstimmung der beteiligten Ausschüsse soll die Abstimmung im Parlament folgen.

Infolge des Aufkommens neuer Chat- und Bild-KI-Dienste kam es zu einer Verzögerung im Gesetzgebungsfahren, da eine Reihe an Änderungsanträgen der EU-Kommission eingingen.

Das Parlament teilte zuletzt mit, dass der aktuelle Berichtsentwurf der Berichterstatter des IMCO und des LIBE nach gründlichen Verhandlungen wesentliche Änderungen des KI-Gesetzes enthält, wie z.B. ein Verbot der vorhersagenden Polizeiarbeit, Ergänzungen der Liste der eigenständigen KI, die als hochriskant eingestuft wird, sowie eine starke und umfassende Rolle für das geplante KI-Amt.

Darüber hinaus wird eine stärkere Angleichung an die Datenschutz-Grundverordnung (DS-GVO), ebenso wie eine stärkere Einbindung von Interessengruppen in verschiedenen Bereichen und die Einführung spezifischer Bestimmungen in Bezug auf allgemeine künstliche Intelligenz vorgeschlagen.

Zur Diskussion stand ferner die Zulässigkeit einer biometrischen Echtzeit-Identifizierung im öffentlichen Raum. Sowohl das Parlament als auch die Mitgliedstaaten haben sich jedoch frühzeitig darauf geeinigt, dass diese grundsätzlich verboten sein soll. Allerdings wurden zuletzt nicht nur im Rat der Europäischen Union Forderungen nach Ausnahmeregelungen laut.

Vergleichbar der DSGVO, sieht die KI-Verordnung Sanktionen, insbesondere Bußgelder, im Falle von Verstößen vor. So sind Bußgelder in Höhe von bis zu 30 Millionen Euro bzw. bis zu 6 % des weltweit erzielten Jahresumsatzes eines Unternehmens vorgesehen.

 

Verabschiedung des KI-Gesetz noch in diesem Jahr?

Es ist davon auszugehen, dass sich die Ausschüsse auf eine gemeinsame Position einigen konnten und es nach einer Abstimmung im Parlament als nächstes in die Verhandlungen mit dem Rat der EU geht. Es bleibt abzuwarten, wie sich die Diskussionen über die Regulierung generativer künstlicher Intelligenz auswirken werden und ob dies zu weiteren Verzögerung im Gesetzgebungsprozess führt. Aktuell sieht es nicht danach aus, dass das Gesetz noch in diesem Jahr in Kraft treten könnte. Nach einer Übergangsfrist von 24 Monaten würde die Verordnung dann schließlich verbindlich werden. Damit wäre es das bisher weltweit erste Gesetz, das Einfluss auf die Entwicklung und den Einsatz von KI nehmen könnte.

 

 

Ausblick

In Zukunft wird KI zunehmend eine wichtigere Rolle im alltäglichen Leben sowie unternehmerischen Alltag spielen, sodass einheitliche Regeln innerhalb der EU nicht nur wünschenswert, sondern sogar notwendig sind. Denn neben den vielen Vorteilen, die KI-Systeme haben, bergen sie vor allem auch Risiken, die auch für die Wissenschaft noch nicht im vollen Umfang absehbar sind. Auch wenn sich die gesetzgebenden Akteure nicht in jedem Bereich einig sind, stellt der bisherige Entwurf bereits ein ausreichendes Rahmenwerk dar, das zukünftig jedoch weiter angepasst werden muss. Dies gilt umso mehr vor dem Hintergrund, dass in dem bisherigen Gesetzesentwurf weder für Einzelpersonen noch für Personengruppen Rechtsbehelfe normiert sind. Ob das Gesetz tatsächlich noch in diesem Jahr in Kraft treten kann, ist daher ungewiss. Die rechtlichen Diskussionen zu vielen ungeklärten Fragen, werden jedenfalls wohl auch nach Inkrafttreten des Gesetzes nicht verstummen.

 

„>

Kontakt aufnehmen