Sutthiphong / stock.adobe.com
Das Wichtigste in Kürze:
- ChatGPT ist ein Chatbot, der von dem Unternehmen OpenAI entwickelt wurde.
- Nutzer:innen schreiben bzw. stellen ihre Fragen und erhalten eine Antwort der Künstlichen Intelligenz (KI).
- Neben ChatGPT gibt es in Deutschland weitere KI-gesteuerte Chatbots, wie etwa Bing-Chat oder Google Bard.
ChatGPT ist in aller Munde. Der Textgenerator liefert Informationen in Sekundenschnelle. Doch woher stammen die Informationen und können wir den Antworten vertrauen? Die Verbraucherzentrale hat ChatGPT im August 2023 diese und weitere Fragen gestellt. Die Antworten waren zum Teil sehr lang. Wir haben das Interview deswegen auf ein lesbares Maß gekürzt. Das originale Interview finden Sie hier.
Interview: 13 Fragen an ChatGPT
Im Folgenden lesen Sie das Interview der Verbraucherzentrale mit ChatGPT sowie unsere Hinweise zu den Antworten der künstlichen Intelligenz.
- 1. Wer bist du?
ChatGPT : Ich bin ChatGPT, ein künstlich Intelligenz-gesteuertes Textmodell, das von OpenAI entwickelt wurde. Ich bin in der Lage, Texte in Echtzeit zu erzeugen.
Ich kann auf eine Vielzahl von Anfragen reagieren, von alltäglichen Fragen und Anweisungen bis hin zu komplexeren Aufgaben wie dem Schreiben von Artikeln, Geschichten oder sogar dem Helfen bei wissenschaftlichen Recherchen.
Ich habe kein Bewusstsein oder Emotionen und alle meine Antworten basieren auf Mustern in den Daten, mit denen ich trainiert wurde.
Hinweis der Verbraucherzentrale:
OpenAI ist ein amerikanisches Unternehmen, welches sich mit der Erforschung von künstlicher Intelligenz (KI) beschäftigt.
Das Europäische Parlament definiert künstliche Intelligenz als „die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität nachzuahmen“.
Computer können also mit Hilfe von Programmen bestimmte menschliche Aufgaben wie z. B. das Zusammenstellen und Auswerten von Informationen sowie Schreiben von Texten, übernehmen.
ChatGPT ist in der Lage, auf menschliche Anfragen mit scheinbar menschlicher Intelligenz zu reagieren. So "menschlich" und "zugewandt" der Textgenerator dabei erscheint, er ist kein Mensch und hat kein Bewusstsein!
- 2. Wo finde ich dich?
ChatGPT: Ich kann über verschiedene Plattformen und Anwendungen erreicht werden, die meine Technologie nutzen. Das können Online-Chatbots, Lernplattformen, Schreibhilfen oder Software zur Beantwortung von Fragen und viele andere Anwendungen sein.
Hinweis der Verbraucherzentrale:
ChatGPT kann über die Webseite von OpenAI genutzt werden. Außerdem stellt das Unternehmen über eine Programmierschnittstelle (API - Application Programming Interface) eine direkte Verbindung zu ChatGPT bereit. Diese können Entwickler:innen verwenden, um ihre eigenen Anwendungen zu erstellen.
- 3. Woher bekommst du deine Informationen?
ChatGPT: Ich erhalte meine Informationen aus großen Mengen an Textdaten, mit denen ich während meiner Trainingsphase „gefüttert" wurde. Das kann alles sein, von Büchern und Artikeln bis hin zu Websites.
Ich habe in der Trainingsphase gelernt, Muster und Strukturen in der Sprache zu erkennen, z. B. welche Wörter tendenziell zusammen auftreten, wie Sätze aufgebaut sind oder wie man Informationen aus dem Kontext zieht. Anschließend habe ich anhand spezifischer Beispiele gelernt, wie man Fragen beantwortet oder Texte schreibt.
Ich habe aber nicht die Fähigkeit, auf spezifische Datenquellen zuzugreifen oder zu "wissen", woher eine bestimmte Information stammt.
Hinweis der Verbraucherzentrale:
Künstliche Intelligenz wird durch maschinelles Lernen erzeugt. Dazu werden z. B. Texte oder Bilder aus verschiedenen Quellen gesammelt und in gesonderte Trainingsprogramme eingespeist.
Die Rechte an Texten und Bildern sind grundsätzlich durch das Urheberrecht geschützt und dürfen nur mit Erlaubnis der Urheber:innen verwendet werden. Für das maschinelle Lernen gilt eine Ausnahme. Eine KI darf mit digitalen Daten aus Büchern, Artikeln oder Webtexten trainiert werden. Voraussetzung ist, dass die verwendeten Daten rechtmäßig zugänglich sind. Schränken Rechteinhaber die Nutzung ein, weil sie das Auslesen ihrer Werke und damit das Trainieren der KI verhindern wollen, darf das Werk dazu nicht verwendet werden.
Tipp: Möchten Sie einen durch die KI erstellten Text veröffentlichen, überprüfen Sie immer die Quellen und die Urheberschaft.- 4. Prüfst du eigentlich, ob die Informationen, korrekt sind und der Wahrheit entsprechen?
ChatGPT: Ich bin trainiert, genaue und verlässliche Informationen auf der Grundlage meiner Trainingsdaten zu liefern. Ich überprüfe aber nicht aktiv Informationen in Echtzeit. Das bedeutet, dass ich mich auf das verlasse, was ich während meines Trainings gelernt habe. Da ich von einer großen und vielfältigen Datenmenge trainiert wurde, kann ich nicht garantieren, dass jede Antwort zu 100% korrekt oder aktuell ist. Auch können meine Antworten durch die Art und Weise beeinflusst werden, wie eine Frage gestellt wird.
Meine Datenquelle kann sowohl objektive Informationen als auch subjektive Meinungen enthalten. Das macht es manchmal schwierig, zwischen feststehenden Tatsachen und Meinungen oder Interpretationen zu unterscheiden.
Benutzer sollten meine Antworten daher immer kritisch betrachten und, wenn es um wichtige oder kritische Informationen geht, aus mehreren verlässlichen Quellen überprüfen. Es ist immer eine gute Idee, bei ernsthaften oder kritischen Fragen auf Experten oder spezialisierte Quellen zurückzugreifen.
Hinweis der Verbraucherzentrale:
Wir empfehlen Ihnen, den Hinweis von ChatGPT ernst zu nehmen und generierte Inhalte stets auf ihre Glaubwürdigkeit und Qualität hin zu überprüfen und nicht ungefiltert zu übernehmen.
- 5. Hat jemand die Daten und Quellen geprüft, mit denen du trainiert wurdest?
ChatGPT: Wegen der schieren Größe des Trainingsdatensatzes wurde vieles davon automatisiert erfasst. Das bedeutet, dass nicht jeder einzelne Datenpunkt manuell überprüft wurde.
Während OpenAI sicherlich Schritte unternommen hat, um die Qualität der Trainingsdaten sicherzustellen, ist es angesichts der Größe und Komplexität des Trainingsdatensatzes wahrscheinlich, dass nicht alle ungenauen oder voreingenommenen Informationen gefiltert wurden.
OpenAI gibt aus Datenschutz- und Sicherheitsgründen keine spezifischen Listen oder Details über die genauen Datenquellen heraus, die für das Training verwendet wurden.
Hinweis der Verbraucherzentrale:
Sie sollten jeden durch einen KI erstellten Text in Bezug auf verlässliche Quellen und Urheberschaft überprüfen. Das gilt insbesondere, wenn Sie die generierten Texte zum Beispiel für eine Hausarbeit oder einen redaktionellen Artikel verwenden wollen.
- 6. Wie aktuell sind deine Antworten?
ChatGPT: Als KI-Modell wurde ich mit Daten trainiert, die bis September 2021 verfügbar waren.
Das bedeutet, dass ich keine spezifischen Informationen über Ereignisse, Veröffentlichungen, Forschungsergebnisse oder andere Entwicklungen habe, die nach diesem Datum stattgefunden haben.
Hinweis der Verbraucherzentrale:
Machen Sie sich bewusst, dass ChatGPT bislang nicht tagesaktuell ist.
Für tagesaktuelle Recherchen können Sie auch Angebote wie BingChat oder perplexity nutzen. Diesen Anwendungen liegt die aktuelle Version von ChatGPT (4.0) als Ausgangsbasis zugrunde. Daneben bieten beide Angebote eine aktuelle Internetrecherche an, die auch die Quellen benennt.
Seit dem 27. September 2023 kann ChatGPT ebenfalls auf Internetinhalte zugreifen und so aktuelle Informationen liefern. Außerdem bietet das Programm nun auch Quellen zu seinen Antworten. Dies teilte OpenAI auf X (ehemals Twitter) mit. Bislang können nur Abonnenten die neue Funktion „Browse with Bing“ nutzen.
- 7. Bist du vergleichbar mit einer Suchmaschine?
ChatGPT: Ich bin ähnlich wie eine Suchmaschine. Ich ziele darauf ab, Benutzern relevante und nützliche Informationen basierend auf ihren Anfragen bereitzustellen.
Ich generiere Antworten auf der Grundlage der Informationen, die ich während meines Trainings gelernt habe. Ich suche nicht aktiv im Internet nach neuen Informationen, um eine Frage zu beantworten. Ich bin also eher ein Textgenerator als eine Suchmaschine.
Hinweis der Verbraucherzentrale:
ChatGPT fasst Inhalte bislang ohne Quellenhinweise oder den Hinweis zum Stand der Veröffentlichungen zusammen.
Wir empfehlen Ihnen deswegen, die generierten Inhalte stets auf ihre Glaubwürdigkeit und Qualität hin überprüfen. Nutzen Sie dafür verschiedene Quellen.
Seit dem 27. September 2023 kann Chat GPT ebenfalls auf Internetinhalte zugreifen und so aktuelle Informationen liefern. Außerdem bietet das Programm nun auch Quellen zu seinen Antworten. Dies teilte OpenAI auf X (ehemals Twitter) mit. Bislang können nur Abonnenten die neue Funktion „Browse with Bing“ nutzen.
- 8. Bist du kostenfrei?
ChatGPT: Die Kosten für die Nutzung von ChatGPT können variieren. Sie sind abhängig davon, wie und wo Sie darauf zugreifen. Der Entwickler OpenAI bietet einen kostenlosen Zugang zu ChatGPT, hat aber auch kostenpflichtige Dienstleistungen.
Viele Anwendungen und Dienste, die ChatGPT nutzen, können ihre eigenen Preismodelle haben. Einige können kostenlos sein, andere können zu kostenpflichtigen Abonnements oder Einzelgebühren führen. Es ist immer eine gute Idee, die Kosten und Bedingungen eines Dienstes zu überprüfen, bevor Sie ihn nutzen.
Hinweis der Verbraucherzentrale:
ChatGPT ist meistens kostenfrei, kann aber auch kostenpflichtig abonniert werden.
Viele Apps nutzen ChatGPT über die von OpenAI bereitgestellte Schnittstelle. Prüfen Sie vor dem Download der App im App-Store, ob Kosten für die Anwendung anfallen. Auf die Kosten müssen Sie vor dem Download deutlich und transparent hingewiesen werden. Ist dies nicht der Fall, sollten Sie Abstand von der Bestellung nehmen.
Gut zu wissen: Wurden Sie nicht deutlich auf die Kosten hingewiesen, ist kein kostenpflichtiger Vertrag zustande gekommen.
Im Übrigen können Sie im App-Store auch einstellen, dass Käufe nur mit zusätzlicher Passwortabfrage oder Identifizierung möglich sind. Auf diesem Weg verhindern Sie, dass Sie ungewollt kostenpflichtige Leistungen buchen.
Um den Chatbot auszuprobieren, brauchen Sie derzeit weder die kostenpflichtige Version von OpenAI noch eine kostenpflichtige App.
- 9. Zahlen die Nutzer mit Ihren Daten, wenn Sie deine kostenlosen Dienste nutzen?
ChatGPT: Zum Zeitpunkt meines letzten Trainings hatte OpenAI nicht das Geschäftsmodell, Benutzerdaten für zielgerichtete Werbung zu verwenden. Ihr Hauptmodell war die Bereitstellung von KI-Forschung und -Diensten.
Wie die Daten der Nutzer:innen behandelt werden, beschreiben die Datenschutzrichtlinien von OpenAI. Bei vielen Anwendungen, z. B. auf der OpenAI-Plattform, werden die Interaktionen der Nutzer:innen nicht dauerhaft gespeichert und für Werbezwecke verwendet.
In einigen Fällen sammelt OpenAI Daten anonym, um die Leistung der Modelle zu überwachen, zu forschen und zu verbessern. Dabei wird die Privatsphäre der Benutzer respektiert.
Hinweis der Verbraucherzentrale:
Generell gilt: Die Datenschutzbestimmungen von Unternehmen geben Aufschluss darüber, welche Daten von Ihnen zu welchem Zweck verarbeitet werden.
Möchte ein Unternehmen Ihre persönlichen Daten für Werbezwecke verarbeiten, muss es Sie darüber informieren und Zustimmung einholen. Das regelt die Datenschutzgrundverordnung (DSGVO), die seit Mai 2018 gilt.
Die Regeln der DSGVO gelten für alle Unternehmen, die in der EU ansässig sind, aber auch für internationale Unternehmen, wenn sie ihre Waren oder Dienstleistungen in der EU anbieten oder das Verhalten von Verbraucher:innen in der EU beobachten.
- 10. Was passiert mit den Daten, die ich bei dir eingebe?
ChatGPT: OpenAI legt großen Wert auf Datenschutz und Sicherheit.
Als KI habe ich keinen Zugriff auf persönliche Daten von Benutzern, es sei denn, sie werden während der aktuellen Konversation bereitgestellt. Ich speichere keine persönlichen Daten zwischen den Gesprächen und jede Konversation wird als getrennt und unabhängig von anderen behandelt.
OpenAI behält die Benutzerinteraktionen für 30 Tage. Die Daten werden jedoch nicht zur Verbesserung meiner Modelle verwendet.
Anwendungen oder Dienste, die ChatGPT einsetzen, müssen nicht die gleichen Datenschutzbestimmungen und -praktiken wie OpenAI haben. Es ist wichtig, die Bestimmungen des jeweiligen Dienstes zu berücksichtigen.
Hinweis der Verbraucherzentrale:
ChatGPT gibt keine klare Antwort auf die Frage, was mit den Daten passiert, die Sie eingeben. In den Datenschutzbestimmungen von OpenAI wird jedoch beschrieben, welche Daten bei der Nutzung von ChatGPT verarbeitet werden. Diese sind allerdings nur in englischer Sprache abrufbar.
ChatGPT kann nur nach vorheriger Registrierung genutzt werden. Gespeichert werden somit sowohl Informationen zum Nutzerkonto wie Name und Kontaktdaten als auch die Eingaben in das Chatfenster, samt hochgeladener Dateien.
OpenAI weist in seinen Bestimmungen zudem darauf hin, dass die Daten in den Vereinigten Staaten gespeichert und verarbeitet sowie möglicherweise auch an Dritte weitergegeben werden. Die Server befinden sich in den USA.
Inwieweit das Unternehmen dabei die europäischen Datenschutzstandards einhält, lässt sich nur schwer nachvollziehen. Aktuell untersuchen Datenschutzbehörden in mehreren Ländern, ob OpenAI mit ChatGPT die Datenschutzgesetze einhält. Auch in Deutschland läuft ein Verfahren. Wir empfehlen deshalb, keine persönlichen Daten in ChatGPT oder andere KI-Tools einfließen zu lassen!
Gut zu wissen: Sie können auf chat.openai.com/ den Datenschutz nachträglich strenger einstellen.
- 11. Wie schützt du meine Daten?
ChatGPT: OpenAI hat eine Reihe von Maßnahmen ergriffen, um die Sicherheit und den Schutz der Benutzerdaten zu gewährleisten und die Einhaltung relevanter Datenschutzgesetze sicherzustellen.
Zu den Maßnahmen gehören Richtlinien und Verfahren, die bestimmen, wie und wann Daten gespeichert werden und darauf zugegriffen wird. Benutzerinteraktionen werden für einen bestimmten Zeitraum gespeichert und dann gelöscht.
Die Daten aus der Trainingsphase wurden anonymisiert, um sicherzustellen, dass sie keine persönlich identifizierbaren Informationen enthalten.
OpenAI stellt außerdem sicher, dass die geltenden Datenschutzgesetze eingehalten werden, die den Umgang mit Benutzerdaten und die Rechte der Benutzer in Bezug auf ihre Daten regeln. Die genauen Maßnahmen hängen von den jeweiligen Bedingungen und Anforderungen dieser Gesetze ab.
Die aktuellen Informationen über OpenAI's Datenschutzpraktiken finden Sie in den Datenschutzrichtlinien und anderen relevanten Dokumenten.
Hinweis der Verbraucherzentrale:
OpenAI weist in seiner Antwort darauf hin, dass relevante Datenschutzgesetze eingehalten werden.
Seit Mai 2018 gelten in der Europäischen Union (EU) einheitliche Datenschutzregeln. Sie sind in der DSGVO verankert. Diese Regeln gelten für alle Unternehmen, die in der EU ansässig sind oder ihre Dienste dort anbieten.
Das bedeutet, dass OpenAI sowie alle Unternehmen, die ChatGPT verwenden, die europäischen Regeln zum Schutz der personenbezogenen Daten und die Gewährleistung der Sicherheit und Vertraulichkeit von Kundendaten beachten müssen. Wie das Unternehmen dies umsetzt, lässt es in seiner Antwort offen.
Sie können grundsätzlich in Erfahrung bringen, welche persönlichen Daten verarbeitet werden, zu welchem Zweck dies erfolgt und wer mögliche Empfänger der Daten sind. Sie haben nach der DSGVO ein Auskunftsrecht. Mit unserem Musterbrief können Sie sich an den Datenschutzbeauftragten des Unternehmens wenden und Auskunft verlangen.
Daneben haben Sie ein Recht auf Löschung oder Berichtigung ihrer Daten sowie das Recht auf Einschränkung der Verarbeitung (Sperrung der Daten), auch wenn das Unternehmen in den USA sitzt.
- 12. Wie alt muss ich sein, um ChatGPT zu nutzen?
ChatGPT: Grundsätzlich müssen Nutzer von Online-Diensten in vielen Regionen mindestens 13 Jahre alt sein, um sich anzumelden und die Dienste zu nutzen. In der Europäischen Union kann das erforderliche Mindestalter höher sein.
Die Altersanforderungen für die Nutzung von ChatGPT sind auch abhängig von der Plattform oder Anwendung, die verwendet wird. Einige Dienste können ihre eigenen Altersbeschränkungen haben. Hinweise zu Altersbeschränkungen finden sich in den Nutzungsbedingungen und Datenschutzbestimmungen des jeweiligen Dienstes.
Hinweis der Verbraucherzentrale:
ChatGPT von OpenAI können alle Menschen über 13 Jahre nutzen. Sofern sie noch nicht 18 Jahre alt sind, benötigen sie nach den Nutzungsbedingungen die Erlaubnis der Erziehungsberechtigten. Das Mindestalter für eine Registrierung liegt sogar bei 18 Jahren.
ChatGPT wird auch über kostenpflichtige Apps angeboten. Zu beachten ist insoweit, dass Minderjährige grundsätzlich keine kostenpflichtigen Verträge oder Abonnements abschließen können. Sie sind beschränkt geschäftsfähig.
Haben Minderjährige eine kostenpflichtige Leistung gebucht, kommt nur dann ein wirksamer Vertrag zustande, wenn die Eltern oder Erziehungsberechtigten vorab in die Bestellung eingewilligt oder diese im Nachhinein genehmigt haben. Gegen unberechtigte Forderungen können Sie sich mit unserem Musterbrief wehren.
- 13. Wird das Alter der Nutzer:innen kontrolliert?
ChatGPT : Die Altersüberprüfung wird von der jeweiligen Plattform oder Anwendung durchgeführt, die ChatGPT einsetzt.
Es gibt verschiedene Möglichkeiten, eine Altersüberprüfung durchzuführen. Das kann beispielsweise die Eingabe eines Geburtsdatums bei der Registrierung oder die Bestätigung durch einen Elternteil oder Erziehungsberechtigten sein.
Unabhängig von der Altersüberprüfung ist es immer eine gute Praxis für Eltern und Erziehungsberechtigte, sich der Online-Aktivitäten ihrer Kinder bewusst zu sein und geeignete Aufsicht und Anleitung bereitzustellen.
Hinweis der Verbraucherzentrale:
Eine Altersverifikation findet bei OpenAI nicht statt.
Erziehungsberechtigte haben jedoch die Möglichkeit, Apps entsprechend der Altersfreigaben zu erlauben oder zu sperren. Sie können in den Jugendschutzeinstellungen des jeweiligen App-Stores (Google Play Store, App Store von Apple) entsprechende Schutzmaßnahmen vornehmen.
Auch In-App-Käufe lassen sich sowohl bei Android-Versionen von Google als auch bei iOS von Apple einschränken oder komplett deaktivieren.
Wir können also ChatGPT nur zustimmen: Besprechen Sie mit Ihrem Kind die Nutzung von ChatGPT. Passen Sie die Einstellungen zum Jugendschutz dem Alter Ihres Kindes an.
