ChatGPT erfreut sich in den sozialen Medien aktuell größter Beliebtheit. Bereits zwei Monate nachdem der KI-Chatbot ChatGPT auf den Markt kam, verzeichneten die Entwickler bereits 100 Millionen aktive Nutzer. Medienberichten zufolge soll es sich bei dem Webservice um die am schnellsten gewachsene Verbraucheranwendung der letzten 20 Jahre handeln. Das Besondere an dem Chatbot ist, dass er auf einem KI-System basiert, das einen natürlichsprachlichen Dialog ermöglicht. Trotz des enormen Potenzials und der vielfältigen Einsatzmöglichkeiten darf nicht außer Acht gelassen werden, dass es sich um ein KI-System handelt, das eine große Mengen an Daten benötigt, um automatisiert Inhalte generieren zu können. Daraus können sich Gefahren für die Rechte und Freiheiten der Nutzer sowie anderer Betroffener ergeben.

 

Das Wichtigste in Kürze

  • Im Gegensatz zu herkömmlichen Chatbots und virtuellen Assistenten generiert ChatGPT innerhalb nur weniger Sekunden eigenständig eine natürlich klingende Antwort.
  • Bei komplexeren Aufgaben oder Themen zeigt das sprachbasierte KI-System Schwächen.
  • Wie bei jeder Technologie, die mit personenbezogenen Daten arbeitet, besteht auch bei ChatGPT das Risiko von Datenschutzverletzungen.
  • Zudem besteht die Gefahr von Urheberrechtsverletzungen, da die Herkunft der generierten Inhalte ungewiss ist.

 

Chat Generative Pre-trained Transformer

Bei ChatGPT (Chat Generative Pre-trained Transformer) handelt es sich um einen Webservice in Gestalt eines Chatbots, der vom US-amerikanischen Unternehmen OpenAI entwickelt wurde. Ein Chatbot ist ein textbasiertes Dialogsystem, das in erster Linie dafür eingesetzt wird, Website-Nutzern eine Hilfestellung zu verschiedenen Fragen oder zu der jeweiligen Funktion der Website zur Verfügung zu stellen. So können unter anderem Fragen in Echtzeit ohne menschliches Zutun beantwortet werden. Die Anwendung kann je nach Bedürfnis und Zielen des einsetzenden Unternehmens vielfältig sein. Chatbots finden sich in vielen Bereichen, wie z.B. im Online-Kundenservice und Marketing wieder. Zu den bekanntesten Chatbots zählen unter anderem Siri (Apple) und Alexa (Amazon). Seit November vergangenen Jahres steht Internetnutzern auch der Prototyp des OpenAI-Chatbots ChatGPT kostenlos zur Verfügung. Für die Nutzung ist eine Registrierung unter Angabe einer E-Mail-Adresse sowie einer Handynummer erforderlich. Nach Abschluss der Registrierung kann vergleichbar zu jedem anderen bekannten Chat-System über ein Eingabefeld mit dem Chatten begonnen werden. Da das System eine integrierte Spracherkennung hat, erscheint die Antwort in der jeweiligen Eingabesprache.

 

Besonderheiten des OpenAI Chatbots

ChatGPT kann zur Recherche von Fragen, zum Verfassen kurzer bis mittellanger Texte auf Basis konkreter Vorgaben oder Anweisungen sowie auch zum Zusammenfassen oder Übersetzen eingegebener oder benannter Inhalte aus Texten, Büchern, Filmen etc. verwendet werden. Ebenso kann der Chatbot eingegebene Texte umschreiben und Codes erzeugen. Ferner kann das System eine Hilfestellung durch Produktbeschreibungen oder Fehleranalysen eingegebener Inhalte bieten. Im Gegensatz zu herkömmlichen Chatbots und virtuellen Assistenten, die vorprogrammierte Antworten auf vordefinierte Fragen anzeigen, generiert ChatGPT innerhalb nur weniger Sekunden eigenständig eine natürlich klingende Antwort. Da das System eine Unmenge an Informationen verfügt, ist der Chatbot in der Lage, menschenähnlich zu interagieren, wobei die Antworten ein leichtes bis mittleres Niveau aufweisen. Insgesamt handelt es sich um ein leistungsfähiges Instrument, das eine schnellere Informationsbeschaffung ermöglicht und zukünftig in einigen Branchen und Tätigkeitsfeldern als Unterstützung im Arbeitsalltag eingesetzt werden könnte.

 

ChatGPT bestätigt Schwächen

Doch als KI-Sprachmodell weist ChatGPT einige Schwächen auf, wie der Chatbot auf Nachfrage selbst durch eine ausführliche Antwort bestätigt. Aufgrund der Tatsache, dass den Antworten große Mengen von Textdaten, die implizite Voreingenommenheit oder Vorurteile der jeweiligen Verfasser enthalten können, zugrunde liegen, dürfte es den Antworten des Chatbots häufig an Objektivität fehlen. Ferner kann das System zwar kohärente und sprachlich korrekte Antworten generieren, allerdings handelt es sich dennoch um ein Programm, dem es an Menschenverstand und Realitätsbezug fehlt. Dadurch kann es auch zu unsinnigen, ungenauen, irrelevanten oder unangemessenen Antworten kommen. Insofern ist der Chatbot auch nicht in der Lage, komplexe Probleme zu lösen oder Entscheidungen auf Grundlage moralischer oder ethischer Erwägungen zu treffen. Letztlich ist das System nur so gut wie die Daten, mit denen es gefüttert wird. Antworten auf aktuelle Fragen sind vielfach nicht möglich oder nicht erfolgversprechend, weil die Datenbasis des Programms Ende 2021 endet. Werden falsche Informationen eingegeben, gibt das Programm sie unter Umständen wieder. Um dem entgegenzuwirken, setzten die Entwickler im Hinblick auf Informationen zu kontroversen Themen (wie z. B. Politik oder Religion) bereits Moderationsfilter ein.

 

Rechtliche Risiken, die mit der Nutzung von ChatGPT einhergehen

Aus der Verwendung von ChatGPT können sich in vielerlei Hinsicht rechtliche Probleme ergeben. Wie bei jeder Technologie, die mit personenbezogenen Daten arbeitet, besteht auch bei ChatGPT das Risiko von Datenschutzverletzungen. Zudem besteht die Gefahr von Urheberrechtsverletzungen, da die Herkunft der Informationen ungewiss ist und nicht benannt wird. Der Chatbot weist auf die Frage nach den rechtlichen Problemen selbst darauf hin, dass bei spezifischen Fragen oder Bedenken bezüglich der Verwendung von ChatGPT stets ein Rechtsexperte zurate gezogen werden sollte.

 

Urheberrechtsverstöße sind nicht auszuschließen

Auch wenn die Antworten des Sprachmodells je nach Kontext der Konversation variieren und eine reine Wiedergabe der Inhalte aus dem Internet in der Regel nicht stattfindet, sind Urheberrechtsverstöße dennoch nicht nur nicht auszuschließen, sondern dürften vielmehr häufig der Fall sein. Bei Systemen wie ChatGPT, die mithilfe von Inhalten aus dem Internet trainiert wurden, besteht das Risiko, dass die erzeugten Inhalte Urheberrechte und/oder auch Datenbankrechte eines Dritten verletzten.

Da der Chatbot seine Quellen nicht angibt, ist es für Verwender nur schwer bis gar nicht nachvollziehbar, ob die Texte auch Inhalte Dritter enthalten und ob der Chatbot die Originalwerke ausreichend verändert, um den urheberrechtlichen Schutz zu umgehen. So hilfreich und eloquent die Antworten des Systems auch sind, stellt sich für den Anwender im Anschluss die Frage, ob er die generierten Inhalte auch außerhalb privater Zwecke nutzen kann (z.B. zur Veröffentlichung auf der eigenen Internetseite).

Auf Nachfrage beim System heißt es, dass es im Allgemeinen zwar legal sei, die von ChatGPT produzierten Inhalte für kommerzielle Zwecke zu verwenden, allerdings nur dann, wenn der Verwender die entsprechenden Genehmigungen und Lizenzen von OpenAI sowie ggf. den jeweiligen Rechteinhabern der Inhalte besitzt, die dem Urheberrecht unterliegen. Die Verantwortung, dass bei der kommerziellen Verwendung der Texte z.B. durch Veröffentlichung eines von ChatGPT verfassten Informationstextes auf der eigenen Website keine Urheberrechtsverstöße begangen werden, wird demnach auf den Nutzer verlagert. Sofern der Nutzer die von ChatGPT generierten Inhalte dann zu nicht privaten Zwecken verwenden möchte, müsste er sich zunächst eine entsprechende Lizenz sichern, da er ansonsten Gefahr läuft, eine Urheberrechtsverletzung zu begehen. Aufgrund fehlender Quellenangaben ist das allerdings nur schwer umzusetzen. Um Urheberrechtsverstöße zu vermeiden, sollten daher bestimmte Kontrollmechanismen eingerichtet werden. Dafür gibt es entsprechende Programme und Tools, die eine Übernahme fremder Inhalte gezielt aufdecken. Im Zweifel ist jedoch von einer Verwendung dieser automatisch generierten Texte abzuraten.

 

Bedenken aus datenschutzrechtlicher Sicht

ChatGPT ist aus datenschutzrechtlicher Perspektive in mehrerlei Hinsicht bedenklich.

Um künstliche Intelligenz trainieren zu können, sind große Datenmengen erforderlich. Die Wissensbasis von ChatGPT bilden eine Vielzahl unterschiedlicher Quellen wie Websites, Online-Foren, Nachrichtenseiten, Bücherdatenbanken und soziale Netzwerke, anhand derer das Tool erlernt hat, wie natürliche Sprache funktioniert und wie diese anzuwenden ist. So befinden sich in den generierten Inhalten nicht selten Unmengen an Daten mit Personenbezug, die vermutlich in der Mehrzahl der Fälle ohne Einwilligung der betroffenen Person verarbeitet wurden.

Da das Programm sich aktuell noch in der Testphase befindet, werden von dem System auch die Daten in Form von Wörtern, Aufforderungen oder Fragen, die von Nutzern eingegeben werden, um eine Antwort zu generieren, gespeichert, um die KI zu trainieren und zu verbessern.

Sowohl auf der Registrierung-Seite als auch auf der Webseite der eigentlichen Anwendung sucht man vergeblich nach Datenschutzhinweisen und Einwilligungsfenstern. Zwar findet sich eine Datenschutzerklärung auf der Webseite von OpenAI, diese bleibt allerdings recht vage.

So werden ausweislich der Datenschutzhinweise von OpenAI Protokoll- und Nutzungsdaten sowie Geräteinformationen der ChatGPT-Nutzer gesammelt, die unter bestimmten Umständen ohne Benachrichtigung an Dritte weitergeleitet werden können. Allerdings bleibt unklar, zu welchem Zweck das Unternehmen die Nutzerdaten verarbeitet und wie lange diese gespeichert werden. In diesem Zusammenhang ergeben sich Schwierigkeiten für Betroffene im Hinblick auf die Durchsetzung ihrer Betroffenenrechte.

Die stattfindende Datenverarbeitung durch den Chatbot ist darüber hinaus auch deshalb problematisch, da die verarbeiteten Daten auf US- Servern gespeichert werden (Mehr zu der Problematik lesen Sie hier.).

Letztlich wird in den Datenschutzrichtlinien zwar beschrieben, wie die personenbezogenen Daten für den Fall, dass sie erfasst werden, geschützt und verwendet werden, allerdings geben die Betreiber keine Garantie für die Sicherheit der Daten.

 

 

Fazit

Insgesamt ist ChatGPT ein bemerkenswertes Beispiel für die Fortschritte, die in Sachen intelligenter Programme und der menschlichen Sprachverarbeitung gemacht wurden. Es hat das Potenzial, in vielen Branchen und Anwendungsbereichen eingesetzt zu werden, von Kundenservice-Chatbots bis hin zu intelligenten persönlichen Assistenten und vielem mehr. Doch bevor ChatGPT produktiv eingesetzt werden kann, müssen die noch offenen Haftungsfragen geklärt werden. Ferner bleibt abzuwarten, wie sich die von der EU geplante Verordnung zur Regulierung künstlicher Intelligenz auf den Einsatz solcher Technologien auswirken wird. Jedenfalls sollte die Eingabe personenbezogener Daten vermieden und die mittels ChatGPT generierten Inhalte vor einer weiteren Verwendung sowohl in datenschutzrechtlicher – als auch urheberrechtlicher Hinsicht geprüft werden. Von einer Veröffentlichung mittels ChatGPT erstellter Texte sollte daher in den allermeisten Fällen abgesehen werden.

 

„>

Kontakt aufnehmen