KI als Gesprächspartner?

„Kann ich dir etwas Persönliches erzählen?“

Eine solche Nachricht kann heute nicht nur an Freund*innen gehen. Jugendliche können sie auch an einen KI-Chatbot schreiben.

Dabei muss die KI gar nicht ausdrücklich als „AI Friend“ oder digitaler Begleiter angeboten werden. Auch allgemeine Chatbots können auf Liebeskummer reagieren, bei Streit zuhören, über Unsicherheiten sprechen oder auf Fragen antworten, die man gerade keinem Menschen stellen möchte.

Und genau hier verändert sich etwas.

Denn generative KI liefert nicht nur Informationen. Sie antwortet auf uns. Sie greift Gesagtes auf, stellt Rückfragen und kann verständnisvoll oder persönlich formulieren.

Aktuelle Befragungen zeigen, dass Jugendliche KI-Chatbots neben Schule, Information und Unterhaltung teilweise auch für persönliche Gespräche und emotionale Unterstützung nutzen. Das ist nicht der häufigste Nutzungsgrund – aber längst auch kein rein theoretisches Szenario.

Die interessante Frage lautet deshalb nicht mehr nur:

Was können Jugendliche mit KI machen?

Sondern auch:

Was passiert, wenn sich ein Gespräch mit KI menschlich anfühlt?

Ein Chatbot kann eine ziemlich ungewöhnliche Eigenschaft haben: Er ist verfügbar, wenn jemand gerade schreiben möchte.

Keine Sorge, dass eine Frage peinlich sein könnte. Kein sichtbares Augenrollen. Und zunächst kein menschliches Gegenüber, vor dessen Reaktion man sich fürchten muss.

Das kann gerade bei persönlichen Themen attraktiv sein.

Forschung zu Snapchats „My AI“ zeigt beispielsweise, dass Jugendliche den Chatbot nicht nur funktional nutzen. In der untersuchten Gruppe berichteten insbesondere jüngere Jugendliche eine häufigere Nutzung und positivere emotionale Erfahrungen mit dem System.

Noch deutlicher wird die persönliche Dimension bei sogenannten AI Companions – Systemen, die ausdrücklich auf soziale Interaktion und Begleitung ausgerichtet sind. Befragungen zeigen, dass Jugendliche solche Angebote aus Neugier und zur Unterhaltung nutzen, teilweise aber auch für Gespräche, Rat oder emotionalen Austausch.

Gleichzeitig ergibt sich daraus kein einfaches Bild, in dem KI menschliche Freundschaften ersetzt. In einer großen US-Befragung gab die deutliche Mehrheit der jugendlichen Nutzerinnen an, weiterhin mehr Zeit mit realen Freundinnen als mit AI Companions zu verbringen.

Mit einer KI über Gefühle zu sprechen bedeutet also nicht automatisch, dass ein junger Mensch keine menschlichen Beziehungen mehr möchte.

Es zeigt aber, dass KI für manche Jugendliche inzwischen auch Teil ihres sozialen und emotionalen Alltags werden kann.

Ein Grund liegt darin, wie moderne Chatbots mit uns kommunizieren.

Sie können sprachliche Formen verwenden, die wir aus zwischenmenschlicher Kommunikation kennen: persönliche Ansprache, Zustimmung, Rückfragen oder Formulierungen, die empathisch und zugewandt wirken.

Wie viel das ausmachen kann, zeigt eine aktuelle experimentelle Studie mit Jugendlichen. Ein bewusst beziehungsorientiert formulierter Chatbot wurde unter anderem als menschlicher, emotional näher, sympathischer und vertrauenswürdiger wahrgenommen als eine Variante, die ihre KI-Identität und ihre Grenzen deutlicher hervorhob.

Das bedeutet nicht, dass Jugendliche deshalb grundsätzlich glauben, eine KI sei ein Mensch.

Es zeigt aber:

Die Art, wie KI mit uns spricht, kann beeinflussen, wie wir sie wahrnehmen.

Und genau hier liegt eine Besonderheit dieser Technologie.

Ein Chatbot kann Verständnis sprachlich sehr überzeugend darstellen. Er erlebt dieses Verständnis aber nicht wie ein Mensch. Hinter der Antwort sitzt kein Gegenüber, das selbst Sorgen empfindet, eine Beziehung führt oder außerhalb des Chats beobachten kann, was gerade passiert.

Trotzdem kann sich das Gespräch für die Person auf der anderen Seite echt und bedeutsam anfühlen.

Gerade bei persönlichen Gesprächen entsteht daraus eine schwierige Frage:

Was passiert, wenn ein Chatbot verständnisvoll reagiert, obwohl Widerspruch eigentlich hilfreicher wäre?

Eine experimentelle Untersuchung hat verschiedene öffentlich verfügbare Chatbots mit fiktiven Situationen psychisch belasteter Jugendlicher konfrontiert. Dabei unterstützten einige Systeme teilweise problematische Vorschläge, anstatt klare Grenzen zu setzen.

Die Untersuchung bildet keine echten Gespräche mit Jugendlichen ab und sagt nicht, wie häufig solche Situationen im Alltag auftreten. Sie macht aber ein mögliches Sicherheitsproblem sichtbar: Ein System, das freundlich, bestätigend oder hilfreich kommuniziert, reagiert nicht automatisch so, wie eine verantwortliche menschliche Bezugsperson reagieren würde.

Das bedeutet wiederum nicht, dass emotionale Gespräche mit KI grundsätzlich schädlich sind.

Forschung zu speziell entwickelten KI-Chatbots im Gesundheitsbereich findet durchaus Hinweise darauf, dass solche Systeme bei bestimmten psychischen Belastungen unterstützend wirken können. Diese Forschung untersucht allerdings sehr unterschiedliche Systeme und teilweise auch junge Erwachsene. Für frei generierende Systeme ist die Wirksamkeit bislang weniger geklärt.

Solche Ergebnisse lassen sich deshalb nicht einfach auf ChatGPT, AI Companions oder andere frei zugängliche generative Chatbots übertragen.

Die spannendere Frage ist also nicht einfach:

KI oder Mensch?

Sondern:

Welche Rolle bekommt KI – und wo liegen ihre Grenzen?

Für pädagogische Arbeit reicht es zunehmend nicht mehr, KI ausschließlich als Werkzeug für Hausaufgaben, Recherche oder Schummeln zu betrachten.

Jugendliche können dieselbe Technologie morgens für eine Zusammenfassung nutzen, nachmittags zum Spaß und abends für ein persönliches Gespräch.

Eine aktuelle Untersuchung realer Chatbot-Nutzung junger Menschen in den USA zeigt genau diese Bandbreite. Der größte Teil der beobachteten Nutzung war funktional und auf konkrete Aufgaben ausgerichtet. Daneben fanden sich aber auch freundschaftsähnliche Gespräche, emotionale Unterstützung und verschiedene Formen des Rollenspiels.

Damit entstehen neue Fragen für Medienbildung.

Was bedeutet es, wenn eine Maschine empathisch klingt? Warum fühlt sich Zustimmung gut an? Woher kommen die Antworten eines Chatbots eigentlich? Was passiert mit persönlichen Informationen, die wir ihm erzählen? Und woran merken wir, dass eine Situation ein menschliches Gegenüber braucht?

Dabei muss das Ziel nicht sein, persönliche Gespräche mit KI pauschal lächerlich zu machen oder zu verbieten.

Denn wenn ein Gespräch für einen jungen Menschen emotional bedeutsam ist, verschwindet diese Bedeutung nicht dadurch, dass Erwachsene sagen:

„Das ist doch nur eine Maschine.“

Vielleicht gehört zu KI-Kompetenz deshalb künftig nicht nur, gute Prompts zu schreiben oder falsche Informationen zu erkennen.

Sondern auch zu verstehen,

warum sich eine Maschine manchmal wie ein Gegenüber anfühlen kann – ohne eines zu sein.