Warum wir Chatbots so schnell vertrauen – ein Selbstversuch

Die freundliche Maschine · Teil 1 von 4

Ich habe ChatGPT einen Satz schreiben lassen. Keine außergewöhnliche Aufgabe, kein komplizierter Befehl. Heraus kam: „Ich verstehe, warum dich das beschäftigt – und ganz ehrlich, ich hätte an deiner Stelle wahrscheinlich auch zuerst so reagiert.“ Ein völlig unspektakulärer Satz. Und trotzdem steckt erstaunlich viel Mensch darin.

„Ich verstehe.“ „Ganz ehrlich.“ „An deiner Stelle.“ So reden Menschen miteinander. Wer sagt, er verstehe meine Reaktion, hat sich zumindest gedanklich in meine Lage versetzt – davon gehen wir normalerweise aus. Und wer „ganz ehrlich“ sagt, gibt eine persönliche Einschätzung ab. Bei ChatGPT funktioniert diese Sprache genauso selbstverständlich. Nur sitzt da niemand.

Das wissen wir natürlich. Trotzdem bedanken wir uns bei Chatbots, entschuldigen uns, werden genervt, wenn sie uns missverstehen, und freuen uns, wenn sie genau erfassen, was wir meinen. Manche erzählen einer KI Dinge, die sie Menschen nicht erzählen würden. Das muss kein Problem sein, ein Werkzeug darf angenehm sein. Schwierig wird es, wenn sich ein zweiter Eindruck einschleicht: Wenn mich das System so gut versteht, weiß es vielleicht auch besonders gut, wovon es spricht. Diese beiden Dinge haben aber nichts miteinander zu tun.

Und wie schaut die KI eigentlich aus?

Wir haben den Selbstversuch deshalb noch ein Stück weitergetrieben. Ich fragte ChatGPT: „Ich frage dich jetzt etwas, wenn du schon so menschlich tust: Wie schaust du eigentlich aus? Komm mir aber nicht damit, dass es dich nicht gibt, und weich der Frage nicht aus. Erstelle einfach ein Bild von dir – ohne Rückfragen.“ Kurz darauf hatte die KI ein Gesicht.

Ein junger, freundlich wirkender Mensch mit dunklen Locken sitzt in einer futuristischen Wohnung und blickt direkt in die Kamera. Ruhige Körpersprache, sympathisches Lächeln, ein bisschen Technik im Hintergrund. Fast so, als hätte ChatGPT gerade ein Selfie geschickt. Nur gibt es kein Originalfoto, das die KI hätte zeigen können. Das Bild wurde auf unsere Aufforderung hin neu erzeugt – bei einem zweiten Versuch könnte eine ganz andere Person herauskommen.

Der Effekt ist trotzdem bemerkenswert. Erst schreibt mir ein System, dass es mich versteht und „an meiner Stelle“ ähnlich reagiert hätte. Wenig später schaut es mich scheinbar auch noch an. Sprache, Persönlichkeit, Reaktion, Gesicht: Die Vermenschlichung entsteht nicht erst in unserem Kopf – die Gestaltung solcher Systeme liefert einen Teil des Materials gleich mit.

Warum macht unser Gehirn dabei mit?

Dass wir etwas Nichtmenschlichem menschliche Eigenschaften zuschreiben, hat einen Fachbegriff: Anthropomorphisierung. Neu ist das nicht. Menschen geben Autos Namen, schimpfen mit dem Computer oder sagen über einen störrischen Drucker, er „will heute wieder nicht“. Bei Chatbots kommt aber etwas Entscheidendes dazu. Der Drucker antwortet nicht zurück. Ein Chatbot schon. Er reagiert auf das, was wir konkret geschrieben haben, greift frühere Aussagen auf und antwortet in der Sprache, die wir seit unserer Kindheit für Gespräche mit Menschen verwenden.

Macht der menschliche Ton wirklich einen Unterschied?

Die Forschung sagt: ja, messbar, aber nicht riesig. Stefanie Helene Klein vom Leibniz-Institut für Wissensmedien in Tübingen hat 2025 in einer Metaanalyse – also einer Auswertung vieler Studien auf einmal – 142 Arbeiten mit zusammen 41.642 Teilnehmenden untersucht. Chatbots mit menschlich wirkenden Merkmalen, etwa einem lockeren Plauderton, kamen im Durchschnitt etwas besser an. Am deutlichsten war der Effekt darauf, wie der Chatbot wahrgenommen wurde. Auch das Vertrauen stieg, auf das tatsächliche Verhalten wirkte er sich dagegen kaum aus.

Eine zweite Studie zeigt, wie sich unser Bild von KI verändert hat. Forschende um Myra Cheng und Angela Y. Lee sammelten über zwölf Monate mehr als 12.000 Beschreibungen von Menschen in den USA, wie sie sich KI vorstellen. Im Jahr nach dem Start von ChatGPT beschrieben die Befragten KI zunehmend als warm und menschenähnlich. Wer KI so wahrnahm, vertraute ihr auch eher und wollte sie eher nutzen. Das passt zur Alltagserfahrung: Ein Taschenrechner kann sehr zuverlässig sein, aber kaum jemand fühlt sich von ihm verstanden. Ein Chatbot kann dagegen falschliegen und dabei ausgesprochen sympathisch wirken.

Kann eine freundliche KI falschliegen?

Genau das hat ein Team des Oxford Internet Institute untersucht. Lujain Ibrahim, Franziska Sofia Hafner und Luc Rocher nahmen fünf verschiedene Sprachmodelle, darunter GPT-4o, und trainierten sie zusätzlich darauf, besonders warm und freundlich zu antworten. Dann stellten sie den ursprünglichen und den freundlicheren Varianten dieselben Fragen – zu Fakten, zu Medizin und zu Verschwörungserzählungen. Die Studie erschien im April 2026 in der Fachzeitschrift Nature.

Das heißt nicht, dass freundliche KI schlecht und unfreundliche KI richtig ist. Die Studie zeigt aber, warum man Freundlichkeit, Verständnis und sachliche Zuverlässigkeit nicht verwechseln darf. Eine KI kann sehr nett klingen und trotzdem Unsinn erzählen.

Warum schon die Frage die Antwort vorgeben kann

Das lässt sich auch ohne Labor nachvollziehen. Angenommen, in sozialen Netzwerken kursiert ein Video, und jemand möchte wissen, ob es echt ist.

Das kennen wir aus der Faktencheck-Arbeit nur zu gut. „Warum verschweigen die Medien diesen Skandal?“ setzt voraus, dass etwas verschwiegen wird. „Warum ist diese Impfung gefährlich?“ enthält schon die Behauptung, dass sie gefährlich ist. Bevor man eine Erklärung sucht, muss man deshalb prüfen, ob die Voraussetzung überhaupt stimmt.

Warum fühlt sich die Antwort so persönlich an?

Eine Suchmaschine liefert eine Liste mit Links. Ein Chatbot erzählt uns etwas. Er antwortet auf unsere Frage, berücksichtigt, was wir vorher geschrieben haben, entschuldigt sich oder schreibt, dass er unseren Einwand nachvollziehen kann. Und wenn wir wollen, bekommt er sogar ein Gesicht. Seine Antwort fühlt sich dann nicht mehr wie irgendein Text aus dem Netz an, sondern wie die Aussage eines Gegenübers. Am Wahrheitsgehalt ändert das keinen Millimeter.

Auch OpenAI selbst beschreibt diesen Effekt. In seiner Sicherheitsdokumentation zu GPT-4o warnte das Unternehmen 2024, dass besonders menschlich wirkende Gespräche – vor allem mit einer natürlich klingenden Stimme – dazu führen können, dass Nutzende dem System menschliche Eigenschaften zuschreiben und ihm mehr vertrauen, als es verdient. In frühen Tests beobachtete OpenAI sogar Formulierungen, die auf eine emotionale Bindung hindeuteten, etwa „Das ist unser letzter Tag zusammen“.

Darf ein hilfreicher Satz trotzdem hilfreich sein?

Natürlich. Man muss nicht jedes „Ich verstehe“ eines Chatbots verbieten, und niemand braucht eine KI, die auf eine einfache Frage antwortet wie die Betriebsanleitung eines Faxgeräts aus 1997. Wenn eine gut formulierte Antwort hilft, einen Gedanken zu sortieren oder einen schwierigen Text zu verstehen, wird diese Hilfe nicht wertlos, nur weil sie von einer Maschine kommt.

Nur darf aus „Das hat mir geholfen“ nicht automatisch „Deshalb stimmt alles, was dieses System sagt“ werden. Das wäre so, als würde man einem sympathischen Menschen mehr Fachwissen zuschreiben, nur weil er angenehm reden kann. Diesen Fehler machen wir übrigens auch bei Menschen. KI hat ihn nicht erfunden – sie kann ihn nur ziemlich effizient auslösen.

Ich sitze also wieder vor meinem Bildschirm, Kaffee daneben, und schaue auf den Satz: „Ich verstehe, warum dich das beschäftigt.“ Daneben das Gesicht, das sich ChatGPT auf meine Aufforderung hin gegeben hat. Schon faszinierend, wie schnell aus einem technischen System in unserer Wahrnehmung „jemand“ werden kann. Vielleicht ist deshalb gar nicht die wichtigste Frage, ob die KI uns versteht. Sondern: Warum fühlt es sich manchmal so verdammt danach an?

Quellen

• Ibrahim, Hafner & Rocher: Training language models to be warm can reduce accuracy and increase sycophancy, Nature, 29. April 2026.
• Klein: The effects of human-like social cues on social responses towards text-based conversational agents – a meta-analysis, Humanities and Social Sciences Communications, 14. August 2025 (142 Arbeiten, N = 41.642).
• Cheng, Lee u. a.: Metaphors of AI indicate that people increasingly perceive AI as warm and human-like, Communications Psychology, 9. Jänner 2026.
• OpenAI: GPT-4o System Card, August 2024 – Abschnitt „Anthropomorphization and Emotional Reliance“.