ChatGPT bestätigt Schwächen

Doch als KI-Sprachmodell weist ChatGPT einige Schwächen auf, wie der Chatbot auf Nachfrage selbst durch eine ausführliche Antwort bestätigt. Aufgrund der Tatsache, dass den Antworten große Mengen von Textdaten, die implizite Voreingenommenheit oder Vorurteile der jeweiligen Verfasser enthalten können, zugrunde liegen, dürfte es den Antworten des Chatbots häufig an Objektivität fehlen. Ferner kann das System zwar kohärente und sprachlich korrekte Antworten generieren, allerdings handelt es sich dennoch um ein Programm, dem es an Menschenverstand und Realitätsbezug fehlt. Dadurch kann es auch zu unsinnigen, ungenauen, irrelevanten oder unangemessenen Antworten kommen. Insofern ist der Chatbot auch nicht in der Lage, komplexe Probleme zu lösen oder Entscheidungen auf Grundlage moralischer oder ethischer Erwägungen zu treffen. Letztlich ist das System nur so gut wie die Daten, mit denen es gefüttert wird. Antworten auf aktuelle Fragen sind vielfach nicht möglich oder nicht erfolgversprechend, weil die Datenbasis des Programms Ende 2021 endet. Werden falsche Informationen eingegeben, gibt das Programm sie unter Umständen wieder. Um dem entgegenzuwirken, setzten die Entwickler im Hinblick auf Informationen zu kontroversen Themen (wie z. B. Politik oder Religion) bereits Moderationsfilter ein.

Rechtliche Risiken, die mit der Nutzung von ChatGPT einhergehen

Aus der Verwendung von ChatGPT können sich in vielerlei Hinsicht rechtliche Probleme ergeben. Wie bei jeder Technologie, die mit personenbezogenen Daten arbeitet, besteht auch bei ChatGPT das Risiko von Datenschutzverletzungen. Zudem besteht die Gefahr von Urheberrechtsverletzungen, da die Herkunft der Informationen ungewiss ist und nicht benannt wird. Der Chatbot weist auf die Frage nach den rechtlichen Problemen selbst darauf hin, dass bei spezifischen Fragen oder Bedenken bezüglich der Verwendung von ChatGPT stets ein Rechtsexperte zurate gezogen werden sollte.

Urheberrechtsverstöße sind nicht auszuschließen

Auch wenn die Antworten des Sprachmodells je nach Kontext der Konversation variieren und eine reine Wiedergabe der Inhalte aus dem Internet in der Regel nicht stattfindet, sind Urheberrechtsverstöße dennoch nicht nur nicht auszuschließen, sondern dürften vielmehr häufig der Fall sein. Bei Systemen wie ChatGPT, die mithilfe von Inhalten aus dem Internet trainiert wurden, besteht das Risiko, dass die erzeugten Inhalte Urheberrechte und/oder auch Datenbankrechte eines Dritten verletzten.

Da der Chatbot seine Quellen nicht angibt, ist es für Verwender nur schwer bis gar nicht nachvollziehbar, ob die Texte auch Inhalte Dritter enthalten und ob der Chatbot die Originalwerke ausreichend verändert, um den urheberrechtlichen Schutz zu umgehen. So hilfreich und eloquent die Antworten des Systems auch sind, stellt sich für den Anwender im Anschluss die Frage, ob er die generierten Inhalte auch außerhalb privater Zwecke nutzen kann (z.B. zur Veröffentlichung auf der eigenen Internetseite).

Auf Nachfrage beim System heißt es, dass es im Allgemeinen zwar legal sei, die von ChatGPT produzierten Inhalte für kommerzielle Zwecke zu verwenden, allerdings nur dann, wenn der Verwender die entsprechenden Genehmigungen und Lizenzen von OpenAI sowie ggf. den jeweiligen Rechteinhabern der Inhalte besitzt, die dem Urheberrecht unterliegen. Die Verantwortung, dass bei der kommerziellen Verwendung der Texte z.B. durch Veröffentlichung eines von ChatGPT verfassten Informationstextes auf der eigenen Website keine Urheberrechtsverstöße begangen werden, wird demnach auf den Nutzer verlagert. Sofern der Nutzer die von ChatGPT generierten Inhalte dann zu nicht privaten Zwecken verwenden möchte, müsste er sich zunächst eine entsprechende Lizenz sichern, da er ansonsten Gefahr läuft, eine Urheberrechtsverletzung zu begehen. Aufgrund fehlender Quellenangaben ist das allerdings nur schwer umzusetzen. Um Urheberrechtsverstöße zu vermeiden, sollten daher bestimmte Kontrollmechanismen eingerichtet werden. Dafür gibt es entsprechende Programme und Tools, die eine Übernahme fremder Inhalte gezielt aufdecken. Im Zweifel ist jedoch von einer Verwendung dieser automatisch generierten Texte abzuraten.

Bedenken aus datenschutzrechtlicher Sicht

ChatGPT ist aus datenschutzrechtlicher Perspektive in mehrerlei Hinsicht bedenklich.

Um künstliche Intelligenz trainieren zu können, sind große Datenmengen erforderlich. Die Wissensbasis von ChatGPT bilden eine Vielzahl unterschiedlicher Quellen wie Websites, Online-Foren, Nachrichtenseiten, Bücherdatenbanken und soziale Netzwerke, anhand derer das Tool erlernt hat, wie natürliche Sprache funktioniert und wie diese anzuwenden ist. So befinden sich in den generierten Inhalten nicht selten Unmengen an Daten mit Personenbezug, die vermutlich in der Mehrzahl der Fälle ohne Einwilligung der betroffenen Person verarbeitet wurden.

Da das Programm sich aktuell noch in der Testphase befindet, werden von dem System auch die Daten in Form von Wörtern, Aufforderungen oder Fragen, die von Nutzern eingegeben werden, um eine Antwort zu generieren, gespeichert, um die KI zu trainieren und zu verbessern.

Sowohl auf der Registrierung-Seite als auch auf der Webseite der eigentlichen Anwendung sucht man vergeblich nach Datenschutzhinweisen und Einwilligungsfenstern. Zwar findet sich eine Datenschutzerklärung auf der Webseite von OpenAI, diese bleibt allerdings recht vage.

So werden ausweislich der Datenschutzhinweise von OpenAI Protokoll- und Nutzungsdaten sowie Geräteinformationen der ChatGPT-Nutzer gesammelt, die unter bestimmten Umständen ohne Benachrichtigung an Dritte weitergeleitet werden können. Allerdings bleibt unklar, zu welchem Zweck das Unternehmen die Nutzerdaten verarbeitet und wie lange diese gespeichert werden. In diesem Zusammenhang ergeben sich Schwierigkeiten für Betroffene im Hinblick auf die Durchsetzung ihrer Betroffenenrechte.

Die stattfindende Datenverarbeitung durch den Chatbot ist darüber hinaus auch deshalb problematisch, da die verarbeiteten Daten auf US- Servern gespeichert werden (Mehr zu der Problematik lesen Sie hier.).

Letztlich wird in den Datenschutzrichtlinien zwar beschrieben, wie die personenbezogenen Daten für den Fall, dass sie erfasst werden, geschützt und verwendet werden, allerdings geben die Betreiber keine Garantie für die Sicherheit der Daten.

Fazit

Insgesamt ist ChatGPT ein bemerkenswertes Beispiel für die Fortschritte, die in Sachen intelligenter Programme und der menschlichen Sprachverarbeitung gemacht wurden. Es hat das Potenzial, in vielen Branchen und Anwendungsbereichen eingesetzt zu werden, von Kundenservice-Chatbots bis hin zu intelligenten persönlichen Assistenten und vielem mehr. Doch bevor ChatGPT produktiv eingesetzt werden kann, müssen die noch offenen Haftungsfragen geklärt werden. Ferner bleibt abzuwarten, wie sich die von der EU geplante Verordnung zur Regulierung künstlicher Intelligenz auf den Einsatz solcher Technologien auswirken wird. Jedenfalls sollte die Eingabe personenbezogener Daten vermieden und die mittels ChatGPT generierten Inhalte vor einer weiteren Verwendung sowohl in datenschutzrechtlicher – als auch urheberrechtlicher Hinsicht geprüft werden. Von einer Veröffentlichung mittels ChatGPT erstellter Texte sollte daher in den allermeisten Fällen abgesehen werden.