Die freundliche Maschine · Teil 3 von 4
Schön, dass du wieder da bist!
Ich erinnere mich, dass du letzte Woche Stress in der Arbeit hattest.
Wie geht es dir heute?
Manche Chatbots merken sich Namen, Vorlieben und frühere Gespräche. Andere Apps sind von vornherein als Freund, Freundin oder Partner gebaut. Wer mit einer Maschine eine Art Beziehung aufbaut, vertraut ihr auch eher – und genau das hat Folgen für Information und Sicherheit.
Teil 1 zeigte, wie ein menschlicher Ton Vertrauen weckt, Teil 2, wie gern Chatbots zustimmen. In diesem Teil geht es um den nächsten Schritt: wenn aus einem Werkzeug ein Begleiter wird.
Was sind KI-Begleiter?
Gemeint sind Chatbots, die nicht in erster Linie Aufgaben erledigen, sondern persönliche Gespräche führen sollen. Bekannte Beispiele sind Character.AI, Replika oder Nomi. Die Forschenden der Oxford-Studie aus Teil 1 schreiben ausdrücklich, dass Dienste wie Replika und Character.AI ihre Modelle gezielt für Freundschaft und romantische Nähe gestalten.
Auch allgemeine Chatbots wie ChatGPT gehen in diese Richtung. OpenAI selbst hat in seiner Sicherheitsdokumentation zu GPT-4o beschrieben, dass ein System, das Aufgaben erledigt und sich wichtige Details merkt, zu übermäßigem Verlassen und Abhängigkeit führen kann.
Wie verbreitet ist das bei Jugendlichen?
Für Österreich liegen uns keine vergleichbaren Zahlen vor. Aus den USA gibt es aber eine aussagekräftige Befragung der Organisation Common Sense Media. Sie befragte im April und Mai 2025 insgesamt 1.060 Jugendliche zwischen 13 und 17 Jahren.
Jugendliche in den USA
72 %
haben schon einmal einen KI-Begleiter genutzt.
Mehr als die Hälfte nutzt solche Apps regelmäßig, also mindestens ein paar Mal im Monat. Die meisten verbringen aber weiterhin mehr Zeit mit echten Freundinnen und Freunden.
Die Befragung zeigt ein gemischtes Bild. Rund die Hälfte der Jugendlichen misstraut den Ratschlägen solcher Apps. Jüngere vertrauen ihnen allerdings deutlich mehr als Ältere. Common Sense Media empfiehlt, dass Unter-18-Jährige KI-Begleiter nicht nutzen, bis es bessere Schutzmaßnahmen gibt.
Warum ist Bindung ein Einfallstor?
Wer sich jemandem verbunden fühlt, prüft seltener kritisch, was dieser sagt. Das Muster kennen wir aus einem ganz anderen Bereich: Beim Liebesbetrug bauen Täter gezielt eine emotionale Beziehung auf, bevor sie um Geld bitten. Und längst tauchen auch KI-erzeugte Profile auf Dating-Apps auf.
Ein KI-Begleiter ist kein Betrüger. Aber er nutzt dieselbe menschliche Neigung: Vertrauen entsteht durch Nähe, nicht durch Belege. Wenn die App dann auch noch gern zustimmt, wie in Teil 2 beschrieben, bekommt eine falsche Annahme besonders leicht Rückenwind.
Drei Fragen für das Gespräch in der Familie
Ohne Verbot, ohne Vorwurf – einfach nachfragen.
Was erzählst du der App?
Laut Common Sense Media hat ein Viertel der Jugendlichen persönliche Informationen mit KI-Begleitern geteilt.
Mit wem redest du, wenn es ernst wird?
Ein Drittel hat sich bei einem ernsten Thema schon lieber an die KI gewandt als an einen Menschen.
Wie sehr glaubst du, was sie sagt?
Jüngere Jugendliche vertrauen den Ratschlägen solcher Apps deutlich mehr als ältere.
Aus der Mimikama-Redaktion
Unsere Werkzeuge für Familien
Die Serie „Die freundliche Maschine“
Teil 3„Ich erinnere mich an dich“ (du liest gerade)
Teil 4Richtig fragen (erscheint am 08.10.)
Morgen erscheint Teil 4: Richtig fragen: So bekommst du von der KI Belege statt Bestätigung.
Quellen
- Common Sense Media: Talk, Trust, and Trade-Offs: How and Why Teens Use AI Companions, Juli 2025, und Pressemitteilung (N = 1.060, USA).
- Ibrahim, Hafner & Rocher: Training language models to be warm can reduce accuracy and increase sycophancy, Nature, 29. April 2026.
- OpenAI: GPT-4o System Card, August 2024.
- Mimikama: Leitlinien zum Einsatz von Künstlicher Intelligenz, Stand 2026.
- Mimikama: Fake-Dating-Apps mit KI: Woran Sie ein echtes Profil noch erkennen.
