Stand der Recherche: 16. September 2026
Viele Menschen erzählen ChatGPT sehr private Dinge. Sie schreiben über Streit in der Familie, über Krankheiten oder über Probleme in der Arbeit. Es fühlt sich an wie ein Gespräch unter vier Augen. Doch das stimmt nicht ganz. Das US-Magazin 404 Media hat aufgedeckt: Bei OpenAI lesen auch echte Menschen Chats mit. Die Firma nennt das intern „Project Lily“.
Kurz gesagt
Das Wichtigste in drei Punkten
- OpenAI bezahlt laut 404 Media Hunderte Leute von außen. Sie lesen echte Gespräche und bewerten, wie gut ChatGPT geantwortet hat.
- Die Namen der Nutzer sehen sie nicht. Aber private Details können trotzdem sichtbar sein. Das gibt OpenAI selbst zu.
- Man kann das in den Einstellungen abschalten. Nicht jeder Chat wird gelesen – wie viele es sind, ist aber nicht bekannt.
Wer liest da mit?
ChatGPT soll bessere Antworten geben. Dafür braucht OpenAI Menschen, die Antworten beurteilen. Diese Leute arbeiten nicht direkt bei OpenAI, sondern für andere Firmen. Sie bekommen echte Fragen von Nutzern zu sehen. Oft sehen sie nicht nur eine Frage, sondern das ganze Gespräch. Dann schreiben sie auf, was die Person wollte, und bewerten mehrere mögliche Antworten.
Sie achten zum Beispiel darauf, ob ChatGPT zu viel schmeichelt. Oder ob der Chatbot so tut, als wäre er ein Mensch mit eigenen Erlebnissen. Eine Person aus dem Projekt wurde von 404 Media gefragt, ob Nutzer davon wissen. Ihre Antwort: Nein. Sie glaube nicht, dass sich jemand vorstellt, dass irgendwo ein fremder Mensch die Gespräche liest.
Wofür nutzen Menschen ChatGPT eigentlich? Das hat OpenAI selbst untersucht. Im Juni 2025 hatten rund 73 Prozent aller Nachrichten nichts mit der Arbeit zu tun. Am häufigsten ging es um praktische Ratschläge, zum Beispiel Hilfe beim Lernen oder Tipps für den Alltag. Um Beziehungen und Gefühle ging es im Untersuchungszeitraum nur in knapp 2 Prozent der Nachrichten. Bei rund 2,6 Milliarden Nachrichten pro Tag ist aber auch ein kleiner Anteil eine riesige Menge.
Ein Hinweis zu unseren Quellen: Den ganzen Bericht von 404 Media kann man nur mit einem bezahlten Zugang lesen. Einige Details kennen wir deshalb aus anderen Medien, die darüber berichtet haben, etwa Tom’s Guide, Tom’s Hardware und Malwarebytes.
Kein Name – und trotzdem erkennbar
Laut OpenAI laufen die Chats vorher durch einen Filter. Er heißt „Privacy Filter“ und soll persönliche Angaben herauslöschen. Der Filter ist selbst ein KI-Programm. In einer eigenen Studie schreibt OpenAI, er urteile in hohem Maß so wie Menschen. Perfekt ist er also nicht. Gegenüber 404 Media gab OpenAI zu, dass private Details durchrutschen können. Laut Tom’s Hardware passiert das besonders bei kurzen Chats.
Dazu kommt noch etwas: ChatGPT merkt sich Dinge über seine Nutzer. Eine Zusammenfassung davon sehen die Prüfer laut den Berichten oft mit. Darin können Beruf, Interessen und sogar der ungefähre Wohnort stehen. Ein ausgedachtes Beispiel: Jemand schreibt, er ist der einzige Tierarzt im Ort, hat Streit mit dem Nachbarn und Sorgen in der Ehe. Für Leute aus seinem Umfeld wäre er sofort erkennbar. Ein Name ist gar nicht nötig.
Manche Nutzer bitten ChatGPT sogar: „Behalte das für dich.“ Das stand laut den Berichten in einigen der gelesenen Chats. Nur: So eine Bitte ändert nichts daran, was mit den Daten passiert.
Wusste man das?
Ganz geheim ist es nicht. OpenAI schreibt auf seinen Hilfeseiten, wer Chats lesen darf: ausgewählte Mitarbeiter und Partnerfirmen. Das ist erlaubt, um Missbrauch aufzuklären, bei Support-Anfragen zu helfen, bei rechtlichen Fragen – und um ChatGPT zu verbessern. Genau zu diesem letzten Punkt gehört Project Lily. Bei den privaten Konten Free, Plus und Pro ist die Verbesserung von Anfang an eingeschaltet. Bei Firmenkonten ist sie aus.
404 Media fragte OpenAI direkt: Werden Nutzer klar darüber informiert, dass Menschen ihre Chats lesen können? Darauf gab es zuerst keine direkte Antwort. Später schickte OpenAI den Link zu einer Hilfeseite. Wie viele Menschen so eine Seite lesen, bevor sie ChatGPT nutzen, kann sich jeder selbst denken. ChatGPT hatte laut TechCrunch im Februar 2026 mehr als 900 Millionen Nutzer pro Woche.
OpenAI ist damit nicht allein. Auch Anthropic, die Firma hinter dem Chatbot Claude, lässt Menschen Chats prüfen, um seine KI zu verbessern. Das betrifft laut Anthropic Nutzer, bei denen die Einstellung dafür eingeschaltet ist. Google weist bei Gemini laut Tom’s Guide darauf hin, dass Menschen einige gespeicherte Chats lesen.
So schaltest du es ab
Die gute Nachricht: Wer die Einstellung ausschaltet, fällt laut OpenAI aus dieser Prüfung heraus. Die neuen Chats werden dann nicht mehr verwendet, um ChatGPT zu verbessern. Das hat OpenAI laut Malwarebytes auch gegenüber 404 Media bestätigt. Ganz privat werden die Chats dadurch aber nicht.
ChatGPT: Chats nicht mehr zur Verfügung stellen
Für private Konten (Free, Plus, Pro). Die Einstellung gilt für Handy und Computer. Die Namen der Menüpunkte können je nach Version etwas anders sein.
Profil öffnen
Am Computer: aufs Profilbild klicken, dann „Einstellungen“. Am Handy: Menü öffnen, dann aufs Profilbild tippen.
Datenkontrollen
Den Punkt „Datenkontrollen“ öffnen.
Ausschalten
„Das Modell für alle verbessern“ ausschalten.
Bei heiklen Fragen
Einen „Temporären Chat“ starten. Er wird nicht gespeichert und nicht zum Verbessern genutzt.
Aber Achtung: Das gilt nur für neue Chats. Wer eine Antwort mit Daumen hoch oder runter bewertet, gibt das ganze Gespräch trotzdem frei. Bei Verdacht auf Missbrauch, bei Support-Anfragen und bei rechtlichen Fragen darf OpenAI Chats weiterhin ansehen – auch temporäre Chats werden auf Missbrauch geprüft und erst nach 30 Tagen gelöscht. Und ein gelöschter Chat ist nicht immer weg: Wurde er schon vom Konto getrennt, kann OpenAI ihn behalten. Quelle: OpenAI-Hilfeseiten, Stand September 2026.
Auch bei anderen Chatbots ist die Nutzung der Chats oft voreingestellt. Ein Blick in die Einstellungen lohnt sich also überall.
Und bei anderen Chatbots?
Claude
Einstellungen → Datenschutz → „Help improve Claude“ ausschalten.
Laut Anthropic gilt das für neue Chats. Chats, die von Sicherheitssystemen markiert werden, können trotzdem weiter genutzt werden.
Perplexity
Einstellungen → Präferenzen → „AI Data Retention“ ausschalten.
Bei Free, Pro und Max ist das laut Perplexity von Anfang an eingeschaltet. Bereits gesammelte Daten bleiben.
Die Namen der Menüpunkte können je nach Sprache und Version anders lauten. Stand: September 2026.
Die beste Regel ist ganz einfach
Chatbots können bei vielen Fragen helfen, auch bei persönlichen. Man muss nur wissen: ChatGPT ist kein Tagebuch mit Schloss. Es ist ein Dienst im Internet, der Daten speichert. Oft reicht es schon, Namen, Orte und genaue Angaben wegzulassen. Die Frage „Wie rede ich mit meinem Bruder über Geld?“ funktioniert auch ohne Namen, Wohnort und Betrag.
Zum Mitnehmen
Drei Fragen, bevor du etwas in einen Chatbot tippst
- Würde ich das auch einem Fremden schreiben?Wenn nicht: lieber weglassen.
- Kann man mich an den Details erkennen?Beruf, Ort und Lebenslage verraten oft mehr als ein Name.
- Brauche ich echte Daten dafür?Meistens nicht. Die Antwort wird auch ohne sie gut.
