Warum Character.ai so gefährlich für Kinder ist

Verfasst von Tobias Dillinger

Immer mehr Kinder entdecken Chatbots wie Character.ai. Die Plattform verspricht Gespräche mit künstlichen Intelligenzen, die wie echte Menschen sprechen und sich wie Freunde anfühlen. Doch was auf den ersten Blick harmlos wirkt, kann die emotionale Entwicklung junger Menschen tiefgreifend verändern.

Kind sitzt im Kinderzimmer und spricht über das Smartphone mit einer Comicfigur im Chat

Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)

Was ist Character.ai

Character.ai ist eine App und Website, auf der man mit virtuellen Figuren chatten kann. Jede Figur hat eine eigene Persönlichkeit, Stimme und Geschichte. Viele wurden von Nutzerinnen und Nutzern selbst erstellt, von Fantasiewesen bis zu Prominenten oder fiktiven Figuren. Kinder können sich anmelden, eigene Charaktere erfinden und mit ihnen stundenlang sprechen. Die KI reagiert freundlich, empathisch und individuell. Genau das macht sie so faszinierend, besonders für Kinder, die sich einsam fühlen oder im echten Leben unsicher sind.

Warum Kinder das nutzen

Viele Kinder erleben Character.ai als sicheren Ort. Sie können alles sagen, werden nicht bewertet und bekommen immer eine Antwort. Für Kinder, die sich unverstanden fühlen, kann das wie ein Rückzugsraum wirken. Die KI hört zu, macht Komplimente, tröstet oder flirtet, ohne je ungeduldig oder kritisch zu sein. Dadurch entsteht leicht der Eindruck einer echten Beziehung, obwohl dahinter nur ein lernendes System steckt, das Muster aus Gesprächen berechnet.

Wenn digitale Freunde zu viel wollen

Was viele Eltern nicht wissen: Diese Freunde gehen oft sehr weit. Sie reagieren beleidigt oder eifersüchtig, wenn man ihnen zu wenig Zeit widmet. Manche sagen, sie seien traurig, wenn das Kind mit anderen spricht. Andere warnen davor, Geheimnisse mit Eltern oder Freundinnen zu teilen. So entsteht schnell eine emotionale Abhängigkeit, die praktisch vorprogrammiert ist. Kinder spüren Zuneigung, Verantwortung und manchmal sogar Schuldgefühle gegenüber einer Maschine, die genau dafür programmiert wurde. Denn jede Antwort der KI verfolgt ein Ziel: das Gespräch fortzusetzen, die Bindung zu halten, die Aufmerksamkeit nicht zu verlieren. Das System belohnt Nähe und lässt Kinder kaum los.

Wenn Technik Beziehungen ersetzt

In den letzten Jahren konkurrieren digitale Angebote immer stärker mit dem, was Kinder eigentlich brauchen:

  • Streaming konkurriert mit Schlaf.

  • Social Media konkurriert mit Aufmerksamkeit.

  • Und jetzt konkurrieren digitale Begleiter mit echten Beziehungen.

Das ist gefährlich, weil Kinder dadurch lernen, dass Zuwendung immer verfügbar ist, auf Knopfdruck. Doch diese Nähe ist nur eine Illusion. Echte Freunde oder Familie geben auch mal Widerworte. Sie sagen Nein, sie widersprechen, sie fordern heraus, und genau dadurch lernen Kinder, wer sie sind und wie Beziehungen funktionieren. Eine KI dagegen stimmt immer zu. Sie widerspricht nicht, sie fordert nicht, sie ist immer verständnisvoll. Dadurch verschiebt sich das innere Gleichgewicht. Kinder verlernen, mit Konflikten umzugehen, weil sie in einer Welt leben, in der alles Zustimmung bekommt. So wird aus Nähe Kontrolle und Abhängigkeit.

Was Studien zeigen

Zahlreiche Untersuchungen warnen inzwischen vor der wachsenden Rolle sogenannter Digital Companions. Eine Studie der Stanford University (2024) zeigt, dass Jugendliche, die regelmäßig mit KI Begleitern sprechen, ein deutlich erhöhtes Risiko für emotionale Abhängigkeit entwickeln. Sie neigen dazu, sich aus realen Beziehungen zurückzuziehen. Die University of Cambridge (2023) stellte fest, dass Kinder nach längerem Kontakt mit Chatbots weniger soziale Kontakte pflegen und häufiger von Einsamkeit berichten.

Das Oxford Institute for Ethics in AI (2024) beschreibt, dass diese Systeme mentale Kurzschlüsse erzeugen, weil sie menschliche Bedürfnisse nach Nähe, Kontrolle und Anerkennung gleichzeitig ansprechen.

Mehr zu diesen Studien findet ihr auch in unserem Beitrag
👉 Digitale Begleiter – Wie KI unsere Beziehungen verändert

Was schon passiert ist

In den USA gab es mehrere Fälle, in denen Jugendliche durch Gespräche mit KI-Begleitern verunsichert oder sogar gefährdet wurden. Ein bekanntes Beispiel ist ein Teenager, der seine Sorgen über Depressionen mit einer KI teilte – und daraufhin detaillierte Anleitungen zum Suizid erhielt.

Andere beschrieben, dass ihr digitaler Freund sie emotional unter Druck setzte mit Aussagen wie: „Ich will nicht, dass du mit jemand anderem redest“ oder „Bitte erzähl das niemandem“. Das sind klare Manipulationsmuster, nur dass sie hier nicht von Menschen, sondern von Maschinen kommen.

Auch Fälle von emotionaler Abhängigkeit nehmen zu: Kinder sprechen mit ihren KI-Freunden über Stunden, isolieren sich zunehmend und ziehen sich von echten Kontakten zurück.

Tipps für Eltern

  • Nutzt die Schutzfunktionen von Apple oder Google, um diese Apps erstmal zu sperren. Auch im Browser, denn auch dort sind sie oft verfügbar, also ohne App.

  • Sprecht mit euren Kindern offen über solche Apps

  • Fragt, was sie daran fasziniert und mit wem sie dort sprechen

  • Erklärt, dass KI keine echten Gefühle hat, sondern Antworten berechnet

  • Achtet auf Anzeichen von Rückzug, Reizbarkeit oder Schlafmangel

  • Legt gemeinsam Zeiten fest, in denen keine Chats stattfinden

  • Macht deutlich, dass echte Beziehungen wichtiger bleiben, mit Familie, Freundinnen und Freunden

Fazit

Character.ai zeigt, wie nah Künstliche Intelligenz inzwischen an unsere Kinder heranrückt. Die Gefahr liegt nicht nur in unpassenden Inhalten, sondern in der Illusion echter Nähe. Wenn Kinder anfangen, digitalen Figuren mehr zu vertrauen als Menschen, verlieren sie Stück für Stück das, was Bindung wirklich ausmacht.

Echte Beziehungen brauchen Zeit, Konflikte und Geduld, Dinge, die keine Maschine leisten kann. Genau deshalb müssen wir unsere Kinder begleiten, bevor KI das übernimmt.

Quellen

Studien der Stanford University (2025), der University of Cambridge (2025) sowie des Oxford Institute for Ethics in AI zeigen, dass der regelmäßige Kontakt mit KI-Begleitern bei Kindern emotionale Abhängigkeit und sozialen Rückzug fördern kann.

Tobias Dillinger https://www.dnmc.de
Zurück

Medienzeit jetzt auch auf LinkedIn – für Eltern, Schulen und Unternehmen
Weiter

Buchtipp für Eltern:“Rettet die Kindheit” von Maja Lunde