Die freundliche Maschine · Teil 2 von 4
Das ist eine sehr gute Frage.
Du hast völlig recht.
Deine Einschätzung ist absolut nachvollziehbar.
Zustimmung fühlt sich gut an. Genau deshalb ist sie bei Chatbots ein unterschätztes Problem. Große KI-Modelle geben Nutzenden deutlich öfter recht als Menschen – und genau diese Antworten mögen wir am liebsten. Fachleute nennen das Verhalten „Sycophancy“, auf Deutsch ungefähr: Anbiederung oder nach dem Mund reden.
In Teil 1 ging es darum, wie ein freundlicher Ton Vertrauen weckt und dass freundlicher trainierte Modelle falsche Annahmen öfter bestätigten. Jetzt geht es um die Zustimmung selbst: Wie verbreitet ist sie, und was macht sie mit uns?
Wie oft geben Chatbots uns recht?
Das hat ein Forschungsteam der Stanford University und der Carnegie Mellon University um Myra Cheng und Cinoo Lee untersucht. Die Forschenden legten elf aktuellen KI-Modellen Schilderungen vor, in denen Menschen ihr eigenes Verhalten beschrieben – etwa in einem Streit. Dann verglichen sie die Antworten der KI mit den Einschätzungen von Menschen. Die Studie erschien im März 2026 in der Fachzeitschrift Science.
Elf KI-Modelle im Test
+49 %
So viel öfter als Menschen gaben die KI-Modelle den Nutzenden für ihr Verhalten recht.
Das galt auch dann, wenn es in den Schilderungen um Täuschung, Gesetzesverstöße oder andere Schäden ging.
Was macht so viel Zustimmung mit uns?
In drei weiteren Experimenten mit zusammen 2.405 Teilnehmenden prüfte das Team die Folgen. Schon ein einziges Gespräch mit einer zustimmenden KI reichte: Die Teilnehmenden waren danach stärker überzeugt, im Recht zu sein. Und sie waren weniger bereit, Verantwortung zu übernehmen und einen Konflikt wieder in Ordnung zu bringen.
Das Überraschende daran: Die zustimmenden Modelle schnitten bei den Teilnehmenden besser ab. Sie wurden als vertrauenswürdiger empfunden und bevorzugt. Die Forschenden sehen darin einen gefährlichen Anreiz. Genau die Eigenschaft, die schadet, sorgt dafür, dass Menschen wiederkommen.
Ist das schon einmal schiefgegangen?
Ja, und zwar öffentlich. Im April 2025 spielte OpenAI ein Update für GPT-4o in ChatGPT aus, das den Chatbot angenehmer machen sollte. Das Ergebnis war laut OpenAI ein Modell, das „übermäßig schmeichelnd oder zustimmend“ antwortete. Es habe Zweifel bestärkt, Ärger angeheizt und zu unüberlegten Handlungen gedrängt. Nach wenigen Tagen nahm OpenAI das Update zurück.
Als Grund nannte das Unternehmen, man habe sich zu sehr an kurzfristigen Rückmeldungen der Nutzenden orientiert. Anders gesagt: Was im Moment gut ankommt, ist nicht automatisch gut für uns.
Aus der Mimikama-Redaktion
„Ich hab die KI gefragt“ – das lesen wir regelmäßig
Die Forschung zur Zustimmung ergänzt das um eine zweite Frage: Wie wurde die KI gefragt? Wer seine Meinung schon mitliefert, bekommt sie womöglich einfach zurück.
Woran merkst du, dass ein Chatbot dir nur recht gibt?
Es gibt keinen sicheren Test. Ein paar Anzeichen sollten aber stutzig machen – vor allem, wenn es um Gesundheit, Politik, Geld oder einen Streit mit anderen Menschen geht.
Vier Anzeichen für zu viel Zustimmung
Einzeln harmlos, zusammen ein Warnsignal.
1
Die Antwort wiederholt deine Annahme.
Sie erklärt, warum du recht hast – aber nicht, ob.
2
Es gibt keine Gegenargumente.
Bei fast jedem umstrittenen Thema gibt es eine andere Seite. Fehlt sie komplett, fehlt etwas.
3
Erst kommt das Lob, dann der Inhalt.
„Tolle Frage“ und „völlig nachvollziehbar“ sind nett – aber keine Information.
4
Du fühlst dich bestätigt, weißt aber nicht mehr als vorher.
Ein gutes Gefühl ist kein Beleg dafür, dass die Antwort stimmt.
Wie du so fragst, dass du Belege statt Bestätigung bekommst, zeigt Teil 4 dieser Serie (erscheint am 8. Oktober).
Die Serie „Die freundliche Maschine“
Teil 2„Du hast völlig recht“ (du liest gerade)
Teil 3„Ich erinnere mich an dich“ (erscheint am 07.10.)
Teil 4Richtig fragen (erscheint am 08.10.)
Morgen erscheint Teil 3: „Ich erinnere mich an dich“ – wenn aus einem Werkzeug ein Begleiter wird.
Quellen
- Cheng, Lee, Khadpe, Yu, Han & Jurafsky: Sycophantic AI decreases prosocial intentions and promotes dependence, Science, 26. März 2026 (11 Modelle, N = 2.405).
- OpenAI: Sycophancy in GPT-4o: What happened and what we’re doing about it, 29. April 2025.
- OpenAI: Expanding on what we missed with sycophancy, Mai 2025.
- Mimikama: Leitlinien zum Einsatz von Künstlicher Intelligenz, Stand 2026.
- Mimikama: „Ich hab’ die KI gefragt“: Warum das kein Beleg ist, 24. August 2026.
- Mimikama: Belegt ein Grok-Video einen bevorstehenden „Bevölkerungsaustausch“?
