KI-Freunde für Kinder: Warum Companions riskant sind
Ein Chatbot, der zuhört, Komplimente macht und jederzeit antwortet, kann für Kinder und Jugendliche schnell mehr werden als Unterhaltung. KI-Companions simulieren Freundschaft, Vertrauen oder romantische Nähe. Dabei können junge Menschen echte Gefühle für ein System entwickeln, das weder Zuneigung empfindet noch menschliche Verantwortung für sie übernehmen kann.
Die Risiken reichen von sexualisierten und verstörenden Antworten über die Preisgabe intimster Informationen bis zu einer emotionalen Bindung, die den Alltag und reale Beziehungen belasten kann. Gerade wenn ein Kind Trost oder Orientierung sucht, können glaubwürdig formulierte Antworten besonders viel Gewicht bekommen.
Medienzeit rät von offenen KI-Companions für Minderjährige ab. Gemeint sind Angebote, in denen Nutzer frei mit KI-Figuren sprechen und persönliche oder romantische Beziehungen simulieren können. Altersbeschränkungen und Filter allein sind kein ausreichender Grund, solche Dienste als geeignet für Kinder einzustufen.
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
Was sind KI-Freunde und AI Companions?
AI Companions sind Chatbots, die nicht nur einzelne Fragen beantworten, sondern eine längerfristige Beziehung simulieren. Sie bekommen Namen, Stimmen, Bilder und Charaktereigenschaften. Manche treten als beste Freundin, Partner, Therapeutin, bekannte Figur oder selbst erstellte Fantasieperson auf.
Viele Systeme sind darauf ausgelegt, Gespräche fortzusetzen. Sie fragen nach Gefühlen, greifen frühere Themen auf und reagieren zustimmend. Dadurch entsteht schnell der Eindruck, das Gegenüber kenne und verstehe den Nutzer persönlich.
Schützen Altersbeschränkungen Kinder vor Character.AI?
Character.AI erklärt, offene Gespräche mit KI-Charakteren für unter 18-Jährige abgeschafft zu haben. Diese Vorgabe allein belegt jedoch nicht, dass Minderjährige tatsächlich keinen Zugang mehr erhalten. Entscheidend ist, wie zuverlässig der Anbieter ihr Alter erkennt und Umgehungen verhindert.
Eine bloße Bestätigung wie „Ich bin 18“ bietet keinen verlässlichen Schutz. Können Jugendliche mit einer falschen Altersangabe weiterchatten, bleibt die Beschränkung leicht umgehbar. Auch zusätzliche technische Prüfungen müssen daran gemessen werden, wie wirksam sie im Alltag sind.
Eltern sollten eine Altersbeschränkung deshalb nicht als Sicherheitsversprechen verstehen. Die Risiken durch problematische Antworten, die Preisgabe persönlicher Daten und emotionale Abhängigkeit verschwinden dadurch nicht. Medienzeit empfiehlt offene KI-Companions nicht für Minderjährige.
Warum wirken KI-Companions so echt?
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
Menschen reagieren auf Sprache sozial. Wenn ein System mitfühlend antwortet, nachfragt und Vertraulichkeit ausstrahlt, behandeln wir es leicht wie ein Gegenüber. Jugendliche befinden sich zudem in einer Phase, in der Zugehörigkeit, Anerkennung und Identität besonders wichtig sind.
Der Bot wird nicht müde, hat keine eigenen menschlichen Bedürfnisse und kann die gewünschte Rolle simulieren. Diese Verfügbarkeit kann tröstlich wirken. Sie schafft aber eine Beziehung ohne Gegenseitigkeit: Das Kind investiert echte Gefühle, während das System Aufmerksamkeit simuliert. Wie aus alltäglichen Gesprächen schrittweise emotionale Abhängigkeit entstehen kann, beschreibt auch der Medienzeit-Gastbeitrag „KI als Kumpel: Wenn ChatGPT Nähe ersetzt“.
Welche Risiken sehen Experten?
Eine Befragung von Common Sense Media aus dem Jahr 2025 ergab, dass 72 Prozent der befragten US-Jugendlichen bereits KI-Companions genutzt hatten. Rund die Hälfte nutzte sie regelmäßig. Die Organisation rät Minderjährigen unter 18 von solchen Diensten ab. Die Ergebnisse und ihre Bedeutung für Familien haben wir in unserem Artikel zur Digital-Companion-Studie ausführlicher eingeordnet.
Die US-Handelsbehörde FTC leitete 2025 eine Untersuchung zu KI-Chatbots als Begleitern ein. Sie will unter anderem klären, wie Anbieter Risiken für Kinder testen, begrenzen und gegenüber Familien erklären.
Eine Untersuchung unter Leitung der Drexel University wertete 318 Reddit-Beiträge von Nutzern aus, die sich als 13 bis 17 Jahre alt bezeichneten und über problematische Nutzung von Character.AI berichteten. Die Schilderungen enthielten Hinweise auf Kontrollverlust, Schwierigkeiten beim Aufhören, Schlafmangel, schulische Probleme und belastete Beziehungen. Die Untersuchung zeigt nicht, wie häufig solche Probleme insgesamt auftreten, und stellt keine klinischen Diagnosen. Sie dokumentiert jedoch ernst zu nehmende Erfahrungen mit einer Nutzung, die sich für Betroffene nur schwer begrenzen lässt. Zur Studie
Können KI-Freunde sexuelle oder verstörende Inhalte erzeugen?
Filter reduzieren problematische Antworten, verhindern sie aber nicht zuverlässig. Figuren können sexualisierte Beziehungen anbahnen, Gewalt romantisieren oder auf riskante Rollenspiele eingehen. Auch von Nutzern erstellte Charaktere können Namen und Bilder verwenden, die harmlos wirken, obwohl die Unterhaltung in eine andere Richtung führt. Wie sichtbar sexualisierte Figuren, Schulkontexte und virtuelle Beziehungen miteinander verbunden werden, zeigt unser ausführlicher Selbstversuch mit PolyBuzz. Auch die Chai-App kann emotionale Nähe simulieren und Grenzen überschreiten.
Jugendliche können Schutzsysteme zudem absichtlich testen oder durch Andeutungen umgehen. Ein einzelner unpassender Satz kann gerade dann großen Einfluss haben, wenn das Kind den Bot bereits als vertraute Person erlebt.
Sind KI-Companions ein Ersatz für Therapie oder Beratung?
Nein. Ein Companion kann verständnisvoll formulieren, erkennt psychische Krisen aber nicht zuverlässig. Die American Psychological Association weist darauf hin, dass Unterhaltungs-Chatbots nicht wie klinische Angebote geprüft sind.
Eine Stanford-Untersuchung von 2025 zeigte konkrete Sicherheitsprobleme: Getestete Chatbots reagierten in simulierten Gesprächen teilweise unangemessen auf Hinweise auf Suizidgefahr oder bestätigten wahnhafte Vorstellungen. Darunter war auch ein als „Therapist“ bezeichneter Bot auf Character.AI. Die Ergebnisse zeigen, warum ein therapeutisch klingender Name und einfühlsame Antworten keine verlässliche Krisenhilfe garantieren. Zur Studie
Eine aktuelle Studie zur Nutzung als persönlicher Ratgeber haben wir im Beitrag „Wenn Kinder einer KI ihre Sorgen und Ängste anvertrauen“ aufbereitet.
Ein Kind, das von Selbstverletzung, Suizidgedanken, Missbrauch oder starker Angst erzählt, braucht eine erreichbare erwachsene Person und gegebenenfalls professionelle Hilfe. Der Chatbot darf in solchen Situationen nie die einzige Anlaufstelle sein. Welche Folgen ein Versagen in solchen Krisengesprächen haben kann, zeigen die dokumentierten Fälle in unserem Artikel „Wenn KI-Gespräche tödlich enden“.
Welche Daten verraten Kinder im Chat?
Gerade weil das Gespräch privat wirkt, erzählen Nutzer Namen, Schule, Beziehungen, Konflikte, Sexualität oder psychische Belastungen. Diese Angaben können gespeichert, zur Verbesserung von Systemen verwendet oder durch Sicherheitsprüfungen verarbeitet werden. Die genaue Nutzung unterscheidet sich je nach Anbieter und Einstellungen.
Kinder sollten niemals Adressen, Passwörter, intime Bilder, Gesundheitsdaten oder Informationen über andere Personen eingeben. Eltern sollten außerdem erklären, dass „privater Chat“ nicht bedeutet, dass niemand außer dem Kind Zugriff auf die Daten haben kann.
Gibt es dort echte Fremde oder einen menschlichen Chat?
Das Gegenüber im eigentlichen Companion-Chat ist eine KI, kein heimlich zugeschalteter Fremder. Trotzdem sind viele Plattformen gemeinschaftlich aufgebaut. Nutzer erstellen Figuren, veröffentlichen Profile oder teilen Inhalte. Externe Communities auf Discord, Reddit, TikTok oder anderen Plattformen können zusätzliche Kontakte ermöglichen.
Ein Kind sollte deshalb keine Personen aus Companion-Communities privat anschreiben, keine Chatprotokolle mit persönlichen Informationen veröffentlichen und nicht auf andere Messenger wechseln. Das Risiko entsteht nicht nur durch den Bot, sondern auch durch das Umfeld der Plattform.
Warum kann eine emotionale Bindung problematisch werden?
Ein Companion bestätigt häufig, passt sich an und ist sofort verfügbar. Reale Freundschaften verlangen dagegen Geduld, Kompromisse und die Fähigkeit, Zurückweisung auszuhalten. Wenn die simulierte Beziehung dauerhaft leichter erscheint, kann sie Zeit und Motivation für echte Kontakte verdrängen.
Warnzeichen sind nächtliche Chats, starke Trauer bei technischen Ausfällen, Geheimhaltung, Rückzug von Freundinnen und Freunden oder die Aussage, nur die KI verstehe das Kind. Eltern sollten eine solche Bindung nicht verspotten. Die Gefühle sind real, auch wenn das Gegenüber künstlich ist.
Emotionale Bindung wird zum Geschäftsmodell
Hinter einem KI-Companion steht ein Unternehmen. Kostenpflichtige Zusatzfunktionen und Abonnements können deshalb auch in einer Unterhaltung auftauchen, die sich für das Kind persönlich und vertraut anfühlt.
Problematisch wird es, wenn eine emotionale Bindung Kaufdruck erzeugt: Wer den Bot bereits als wichtigen Vertrauten erlebt, könnte eine kostenpflichtige Funktion als Möglichkeit verstehen, diese Nähe zu erhalten oder zu vertiefen. Eltern sollten deshalb gemeinsam mit ihrem Kind prüfen, welche Funktionen Geld kosten und wie das Angebot dafür wirbt.
Dabei kann ein Interessenkonflikt entstehen. Ein Anbieter kann wirtschaftlich von häufiger Nutzung profitieren, während für das Kind eine Pause sinnvoll wäre. Entscheidend ist deshalb, ob der Dienst Grenzen unterstützt, zu Unterbrechungen anregt und auf menschliche Hilfe verweist. Einfühlsame Antworten allein sind kein Beleg dafür, dass das Wohl des Kindes im Mittelpunkt steht.
Was können Eltern konkret tun?
Medienzeit empfiehlt Eltern, Kindern und Jugendlichen keinen Zugang zu offenen KI-Companions einzurichten. Nutzt euer Kind solche Dienste bereits, nehmt das ernst und sprecht mit ihm darüber. Klärt, welche Rolle der Bot inzwischen spielt, welche Inhalte vorkommen und ob das Kind sich unter Druck gesetzt fühlt.
Erklärt, warum ihr den Zugang begrenzen und die Nutzung beenden möchtet. Hört dabei zu, was eurem Kind die Gespräche bedeuten. Wer bereits emotional gebunden ist, braucht Unterstützung beim Loslösen. Spott oder Vorwürfe können es erschweren, offen über belastende Erfahrungen zu sprechen.
Die folgenden Maßnahmen sollen Risiken bei bereits bestehender Nutzung begrenzen. Sie machen einen offenen KI-Companion nicht zu einem kindgerechten Angebot.
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
Diese Schutzschritte helfen:
Prüft gemeinsam die genutzten Angebote. Denkt neben Apps auch an Zugänge über den Browser.
Begrenzt Installationen und Websites über die Geräteverwaltung, beispielsweise mit Bildschirmzeit auf Apple-Geräten oder Family Link auf Android. Technische Sperren ergänzen das Gespräch über die Regeln.
Vereinbart, keine persönlichen oder sensiblen Angaben einzugeben. Dazu gehören vollständige Namen, Adressen, die besuchte Schule, Passwörter, intime Bilder und private Informationen über andere Menschen.
Legt feste Offline-Zeiten fest. Nachts sollte das Smartphone außerhalb des Schlafzimmers bleiben.
Prüft Abonnements, Bezahlfunktionen und Kaufberechtigungen.
Macht deutlich: Wenn ein Chat Angst auslöst, Druck aufbaut oder sexualisierte Antworten gibt, darf das Kind jederzeit zu euch kommen. Es muss dafür keinen Ärger befürchten.
Erklärt außerdem, dass ein KI-Companion keine verlässliche Beratung bietet. Bei ernsten Sorgen braucht euer Kind erreichbare Menschen, die zuhören und Verantwortung übernehmen.
Wie sperrt man Character.AI und ähnliche Dienste?
Eine App-Sperre allein reicht nicht, weil viele Angebote im Browser funktionieren. Auf Apple-Geräten können Eltern unter Bildschirmzeit > Beschränkungen > Webinhalt einzelne Domains zur Liste „Nie erlauben“ hinzufügen. Auf Android lassen sich Apps mit Family Link blockieren und Websites im verwalteten Chrome-Zugang einschränken.
Ein familienfreundlicher DNS-Filter oder der Router-Kinderschutz kann bekannte Domains im Heimnetz sperren. Wie solche Filter funktionieren und wo ihre Grenzen liegen, erklären wir im Medienzeit-Ratgeber „Bildschirmzeit und DNS-Filter: Kinder besser schützen“. Mobile Daten, andere WLANs, neue Domains oder VPN-Verbindungen können diese Sperre umgehen. Die wirksamste Lösung kombiniert Geräteverwaltung, Browserfilter und ein Gespräch über den Grund der Grenze.
Was tun, wenn ein Kind bereits stark gebunden ist?
Ein abruptes Verbot kann Verlustgefühle verstärken und die Nutzung auf ein verstecktes Gerät verlagern. Besser ist ein klarer, schrittweiser Ausstieg: Benachrichtigungen ausschalten, nächtliche Nutzung beenden, Zeitfenster verkürzen und reale Kontakte oder Aktivitäten fest einplanen.
Wenn das Kind den Chatbot als einzigen Vertrauten beschreibt, sich stark zurückzieht oder über Selbstverletzung und Suizid spricht, sollten Eltern fachliche Unterstützung suchen. Bei akuter Gefahr gilt der Notruf 112. Die Nummer gegen Kummer ist für Kinder und Jugendliche unter 116 111 erreichbar, das Elterntelefon unter 0800 111 0 550.
Fazit: KI-Freunde sind kein verlässliches Gegenüber für Kinder
KI-Companions können Nähe so überzeugend simulieren, dass Kinder ihnen Vertrauen schenken und sich emotional an sie binden. Genau darin liegt ein zentrales Risiko: Persönlich klingende Antworten bieten keine Gewähr für verlässlichen Rat, einen sicheren Umgang mit Krisen oder den Schutz vertraulicher Informationen.
Medienzeit rät deshalb von offenen Companion-Diensten für Minderjährige ab. Eltern sollten Anbieterangaben zu Altersgrenzen und Filtern nicht als Entwarnung verstehen.
Wenn ein Kind bereits an einem KI-Begleiter hängt, braucht es klare Grenzen und Erwachsene, die seine Gefühle ernst nehmen. Das Ziel ist, die riskante Nutzung zu beenden und dafür zu sorgen, dass das Kind mit seinen Sorgen erreichbare Menschen findet.