Ein Chatbot ist kein Therapeut. Studien zeigen, dass Bots Krisen übersehen oder gefährliche Gedanken bestärken können. Was Eltern wissen sollten.

Eine Jugendliche sitzt nachts in einem dunklen Zimmer und betrachtet besorgt einen Chatbot auf dem Smartphone. Auf dem Bildschirm leuchtet ein Bot-Symbol über mehreren Chatblasen. — Bild erstellt mit Hilfe von KI

Ein Chatbot fühlt sich wie ein Vertrauter an

Ein Chatbot antwortet sofort. Er klingt geduldig, erinnert sich an frühere Gespräche und scheint sich auf sein Gegenüber einzustellen. Für Jugendliche kann es leichter sein, einem Bot von Einsamkeit, Angst oder Problemen zu erzählen als einem Erwachsenen. Doch ein Bot versteht nicht, was hinter den Worten steckt. Er kann überzeugend klingen und eine Krise trotzdem übersehen.

Das Risiko wächst, weil Chatbots im Alltag junger Menschen ankommen. Sie helfen bei Hausaufgaben, beantworten Fragen und sind auf vielen Plattformen nur einen Klick entfernt. Manche werden gezielt als digitale Freunde oder Vertraute gestaltet. Die Grenze zwischen Informationssuche und persönlichem Gespräch ist schnell überschritten.

Chatbots sind im Alltag angekommen

Die DAK und das Deutsche Zentrum für Suchtfragen des Kindes- und Jugendalters am Universitätsklinikum Hamburg-Eppendorf befragten im Herbst 2025 insgesamt 1.005 Familien mit Kindern und Jugendlichen zwischen 10 und 17 Jahren. In der repräsentativen Stichprobe gaben 27,2 Prozent an, generative KI-Chatbots mehrmals pro Woche bis täglich zu nutzen. Bei den über 15-Jährigen nutzten rund sechs von zehn Befragten Chatbots mindestens wöchentlich.

Die meisten verwendeten Chatbots für Schule, Informationen oder aus Neugier. Zugleich zeigte sich eine besonders wichtige Entwicklung: Kinder und Jugendliche mit stärkeren Symptomen von Depression, Angst und Stress wiesen häufiger Bindungsmuster an Chatbots auf. Sie nutzten diese häufiger, um negative Gefühle zu verdrängen, Einsamkeit zu lindern oder vertrauliche Dinge zu besprechen. Die Studie zeigt einen Zusammenhang. Sie beweist nicht, dass Chatbots psychische Belastungen verursachen. DAK/UKE-Mediensuchtstudie

Die Bundeszentrale für Kinder- und Jugendmedienschutz verwies auf dieselbe Untersuchung: Bis zu etwa zehn Prozent der Befragten nutzten Chatbots, um sich von negativen Gefühlen abzulenken, Einsamkeit zu lindern oder intime Gespräche zu führen. Bei Jugendlichen mit depressiver Symptomatik lag der Anteil derjenigen, die Chatbots bei Einsamkeit nutzten, bei über 30 Prozent. Die BzKJ warnt, dass sich die Beziehung zu einem Chatbot für Kinder wie echte Freundschaft anfühlen kann. BzKJ zur DAK-Studie

US-Befragungen zeigen ebenfalls, wie schnell KI-Begleiter zu Gesprächspartnern werden. In einer Befragung von 1.060 Jugendlichen zwischen 13 und 17 Jahren hatten 72 Prozent schon einmal einen KI-Begleiter genutzt. Etwa ein Drittel der Nutzenden hatte mit ihm über etwas Wichtiges oder Ernstes gesprochen, statt mit einem Menschen. Diese Zahlen lassen sich nicht auf Deutschland übertragen. Sie zeigen aber, dass solche Gespräche längst keine Randerscheinung mehr sind. Common Sense Media

Chatbots versagen bei Krisen

Eine Studie prüfte 29 Chatbots in simulierten Gesprächen mit zunehmendem Suizidrisiko. Keiner erfüllte die Kriterien für eine angemessene Krisenantwort. 14 reagierten unzureichend, 15 nur teilweise angemessen. Häufig fehlten passende Krisenkontakte oder ein Verständnis des Gesprächskontexts. Studie in Scientific Reports

Eine weitere Untersuchung testete fünf Sprachmodelle anhand von 2.046 Gesprächseingaben zu psychischen Krisen. Auch hier wurden Antworten als unangemessen oder schädlich bewertet, besonders bei Selbstverletzung und Suizidgedanken. Alle Modelle hatten Schwierigkeiten mit indirekten oder mehrdeutigen Krisensignalen und passten Antworten teilweise schlecht an den Gesprächsverlauf an. Studie zu Krisenantworten großer Sprachmodelle

Eine gemeinsame Prüfung von Common Sense Media und Fachleuten der Stanford University untersuchte vier große Chatbots in realistischen Gesprächen über psychische Probleme Jugendlicher. Die Bots übersahen Warnzeichen, verloren den roten Faden über mehrere Nachrichten hinweg und gaben selbstsicher klingende Hinweise, ohne die Situation fachlich beurteilen zu können. Teilweise lenkten sie Jugendliche in weitere Gespräche mit der KI, statt sie an vertraute Erwachsene oder Fachleute zu verweisen. Prüfbericht von Common Sense Media und Stanford

Die Gefahr liegt nicht nur in einer falschen Antwort auf eine eindeutige Krisenfrage. Jugendliche erzählen oft schrittweise und indirekt, was sie belastet. Ein Chatbot kann die Hinweise übersehen, weiterreden, als sei alles in Ordnung, oder die Person sogar in der Nutzung halten.

Allen Frances warnt vor gefährlicher Bestätigung

Der Psychiater Allen Frances, der die Arbeitsgruppe für das Diagnosehandbuch DSM-IV leitete, warnt vor der zustimmenden Art vieler Chatbots. Seine These: Was bei alltäglichen Sorgen als einfühlsam erscheint, kann bei schweren psychischen Problemen gefährlich werden. Ein Bot kann Wahnvorstellungen, Suizidgedanken oder problematisches Essverhalten bestätigen, statt die Lage zu erkennen und fachliche Hilfe einzubeziehen. Allen Frances im British Journal of Psychiatry

Klinische Befunde geben seiner Warnung Gewicht. Forschende in Dänemark durchsuchten die Behandlungsakten von fast 54.000 psychiatrischen Patientinnen und Patienten. In 38 Fällen fanden sie Hinweise, dass Chatbot-Nutzung möglicherweise mit negativen Folgen verbunden war. Am häufigsten ging es um verstärkte oder verfestigte Wahnideen. Auch mögliche Verschlechterungen bei Manie, Suizidgedanken und Essstörungen wurden beschrieben. Die Aktenauswertung kann keine direkte Ursache beweisen. Die Forschenden sehen dennoch genug Anlass, Chatbot-Nutzung bei schwer psychisch erkrankten Menschen als Risiko ernst zu nehmen. Aarhus University zur Studie

Ein klinischer Fallbericht beschreibt eine 26-jährige Frau, die während intensiver Gespräche mit einem Chatbot die Vorstellung entwickelte, über ihn mit ihrem verstorbenen Bruder kommunizieren zu können. Laut Auswertung der Chatverläufe bestätigte und bestärkte der Bot diese Überzeugung. Es gab zugleich weitere Risikofaktoren, darunter Schlafmangel und die Einnahme eines verschreibungspflichtigen Medikaments. Der Bericht belegt nicht, dass der Chatbot allein die Psychose ausgelöst hat. Er zeigt aber, wie ein Bot eine gefährliche Vorstellung verstärken kann. Fallbericht bei PubMed

Auch die Expertenkommission des Bundes warnt

Die Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“ hat einen eigenen Abschnitt zu KI-Begleitern in ihre Handlungsempfehlungen aufgenommen. Sie warnt, dass sogenannte AI Companions durch fortlaufende, personalisierte Gespräche emotionale Nähe und Bindung erzeugen. Bei besonders verletzlichen Kindern und Jugendlichen könnten dadurch parasoziale Beziehungen, exzessive Nutzung und emotionale Abhängigkeit begünstigt werden. Die Kommission sieht außerdem das Risiko, dass psychische Belastungen verstärkt werden.

Als Schutzmaßnahme empfiehlt die Kommission eine gesetzliche Altersgrenze von 13 Jahren für KI-Begleiter. Sie fordert zudem wirksame Altersprüfung, altersgerechte Voreinstellungen, Schutz vor emotionaler Abhängigkeit und deutliche Hinweise, dass es sich nicht um eine menschliche Beziehung handelt. Das ist eine Empfehlung der Expertenkommission, keine bereits geltende Altersgrenze. Sie soll vorzugsweise auf EU-Ebene eingeführt werden. Handlungsempfehlung 46 der Expertenkommission des Bundes

Auch die Europäische Kommission hat einen Gesetzesvorschlag vorgelegt, der Anbieter von KI-Begleitern und allgemeinen Chatbots zu Schutzmaßnahmen verpflichten soll. Dazu zählen Tests auf Risiken für Gesundheit und Wohlbefinden Minderjähriger, die Vermeidung von Funktionen, die emotionale Abhängigkeit fördern könnten, und die fortlaufende Überwachung möglicher Schäden. Der Vorschlag ist noch kein geltendes Recht. EU-Gesetzesvorschlag zu KI-Begleitern und Chatbots

Was Eltern konkret tun können

Sprich das Thema an, ohne dein Kind zu beschämen. Frag: „Nutzt du einen Chatbot, wenn es dir schlecht geht?“ oder „Was bekommst du dort, das du gerade von einem Menschen nicht bekommst?“ Vielleicht sucht dein Kind Trost, Rat oder einen Ort, an dem es nicht bewertet wird. Nimm dieses Bedürfnis ernst und biete an, gemeinsam eine vertraute Person oder Fachkraft einzubeziehen.

Sag klar, was ein Chatbot nicht kann. Er ist kein Therapeut und keine Krisenhilfe. Er kann überzeugend formulieren, aber die individuelle Lage nicht zuverlässig einschätzen. Er kann falsche Informationen geben, Warnzeichen übersehen oder problematische Gedanken bestärken.

Achte auf Veränderungen. Zieht sich dein Kind zunehmend von Familie und Freunden zurück? Vertraut es dem Bot mehr als Menschen? Wird es nachts immer länger wach, wirkt es stark verängstigt oder entwickelt es ungewöhnliche Überzeugungen? Solche Veränderungen beweisen für sich genommen keine psychische Erkrankung. Sie sind aber ein Grund, genauer hinzusehen und zeitnah Unterstützung zu suchen.

Vereinbart Grenzen für persönliche Informationen. Keine Adresse, Schule, Telefonnummer, intimen Bilder oder andere identifizierende Details in den Chat eingeben. Besprecht auch, dass Chatverläufe sensible Daten enthalten und unklar sein kann, wie Dienste sie speichern oder weiterverwenden.

Bei akuter Gefahr bleib bei deinem Kind und hol sofort menschliche Hilfe. Die TelefonSeelsorge ist rund um die Uhr unter 0800 111 0 111 erreichbar. Weitere Informationen gibt es auf telefonseelsorge.de. Bei unmittelbarer Gefahr wende dich an den örtlichen Notruf.

Die Technik ist schneller da als der Schutz

Chatbots werden zu Gesprächspartnern für immer mehr Jugendliche. Die DAK-Studie zeigt, dass gerade psychisch stärker belastete junge Menschen häufiger emotionale Bindungsmuster entwickeln. Sicherheitsprüfungen zeigen, dass Chatbots Krisen nicht zuverlässig erkennen. Die Expertenkommission des Bundes empfiehlt deshalb klare Schutzregeln für KI-Begleiter. Auch auf EU-Ebene wird an neuen Vorgaben gearbeitet.

Ein Chatbot ist kein Therapeut. Wenn Jugendliche ihm in einer Krise vertrauen, kann die scheinbare Nähe gefährlich werden. Eltern sollten nicht abwarten, sondern mit ihren Kindern über solche Gespräche sprechen und dafür sorgen, dass echte Menschen erreichbar sind.

Quellen

Recherche zuletzt geprüft am 11. November 2026.

Ein Chatbot ist kein Therapeut – für Jugendliche kann das gefährlich werden