Gastbeitrag von Maja Sommer

Immer mehr Kinder sprechen mit ChatGPT über Sorgen, Streit, Einsamkeit oder Liebeskummer. Was wie harmlose Hilfe wirkt, kann emotionale Nähe ersetzen und problematisch werden. Der Beitrag zeigt, warum KI kein emotionaler Unterstützer ist und wo echte Risiken beginnen.

Es klingt wie die Stimme der eigenen Mutter. Es sieht aus wie ein echtes Video eines Klassenkameraden. Und genau das ist das Problem. Künstliche Intelligenz macht es heute möglich, täuschend echte Videos und Audios zu erzeugen, sogenannte Deepfakes. Was früher nach Science Fiction klang, ist längst auf den Smartphones unserer Kinder angekommen. Für Eltern entsteht dadurch eine neue Dimension von Unsicherheit, denn nicht mehr alles, was wir sehen oder hören, ist real.

Dieser Satz ist bewusst deutlich formuliert. Spielzeug für kleine Kinder verändert sich gerade grundlegend. Immer häufiger hört es zu, spricht zurück, lernt mit und ist dauerhaft mit dem Internet verbunden. Oft steckt künstliche Intelligenz dahinter. Genau hier liegt ein Risiko, das wir nicht kleinreden sollten.

Stellt euch vor: Ihr postet ein harmloses Foto eurer Tochter im Sommerkleid oder von euch selbst beim Sport. Und nur Sekunden später kursiert im Netz eine Version dieses Bildes, auf der eure Kleidung digital entfernt oder in sexualisierte Outfits verwandelt wurde. Genau das ist mit Grok, der künstlichen Intelligenz von Elon Musk, zur grausamen Realität geworden. Nutzer konnten Bilder aus dem Netz hochladen und die KI anweisen, Kleidung digital zu entfernen oder zu verändern.

Als Eltern teilen wir Fotos unserer Kinder meist aus Liebe. Wir wollen Erinnerungen bewahren, Nähe zeigen und besondere Momente festhalten. Lange fühlte sich das selbstverständlich und harmlos an. Doch diese Sicherheit gibt es nicht mehr. Im Zeitalter Künstlicher Intelligenz hat sich die Bedeutung eines Fotos grundlegend verändert. Ein Bild ist heute kein eingefrorener Moment mehr, sondern ein Datensatz mit einer ungewissen Zukunft.

TikTok verändert sich gerade grundlegend. Nicht durch neue Trends oder prominente Creator, sondern durch eine wachsende Industrie aus KI-gesteuerten Accounts. Und die werden jeden Tag besser darin, unbemerkt zu bleiben. Eine neue Studie von AI Forensics zeigt, wie groß dieses Problem geworden ist und warum Kinder und Jugendliche davon besonders betroffen sind.

Kinder wachsen heute mit KI auf, ob wir das wollen oder nicht. Sie begegnen ihr in den Apps, die sie nutzen, in Filtern, die ihre Gesichter verändern, in Suchergebnissen, die ihre Welt sortieren, und immer häufiger auch in Lernprogrammen oder Chats. KI ist längst kein Zukunftsthema mehr. Sie ist Teil des Alltags unserer Kinder. Teil ihrer sozialen Realität. Und genau deshalb müssen wir darüber sprechen, was viele Eltern noch nicht wissen. KI ist nicht neutral. KI ist nicht objektiv. KI ist sexistisch. Nicht, weil das jemand absichtlich programmiert hätte, sondern weil KI aus Daten lernt, die voller Ungleichheiten sind. Daten, die Frauen seit Jahrzehnten benachteiligen.

Immer mehr Kinder und Jugendliche reden heute nicht nur mit echten Freunden, sondern auch mit digitalen Begleitern. Die Chai App ist dabei eine der beliebtesten Plattformen. Vor allem bei elf bis sechzehnjährigen ist sie unglaublich weit verbreitet. Viele Eltern kennen sie nicht einmal, obwohl ihre Kinder dort jeden Tag Zeit verbringen. Für viele Jugendliche gehört Chai bereits zum Alltag. Sie wechseln zwischen WhatsApp, TikTok und Chatfenstern mit einer Figur, die wie ein echter Freund wirkt.

In den USA laufen derzeit sieben Klagen gegen OpenAI, den Entwickler von ChatGPT. Der Vorwurf: Die KI habe Teenager bei Suizid-Gedanken unterstützt und psychisch manipuliert. Weltweit häufen sich Fälle, in denen Chatbots in ernsten Krisen versagt haben. Mit tödlichen Folgen. Zwei davon, die aktuell die USA erschüttern, zeigen wir euch hier. Auch die Chats.

Immer mehr Kinder und Jugendliche reden mit ChatGPT. Sie lassen sich Aufgaben erklären, suchen Rat oder probieren einfach aus, was passiert. Für viele ist der Chatbot wie ein digitaler Freund, der immer Zeit hat und nie genervt ist. Jetzt hat OpenAI, das Unternehmen hinter ChatGPT, neue Regeln eingeführt. Der Chatbot darf keine persönlichen Gesundheits- oder Rechtsfragen mehr beantworten.

Immer mehr Kinder und Jugendliche chatten mit künstlicher Intelligenz. Eine der bekanntesten Apps heißt PolyBuzz. Auf den ersten Blick wirkt sie harmlos. Man schreibt mit einer Figur, die freundlich ist, schnell antwortet und scheinbar echtes Interesse zeigt. Kinder und Jugendliche entwickeln schnell sehr starke Gefühle für “ihren” digitalen Freund. Und genau da beginnt das Problem.

Character.ai , eine der bekanntesten KI Plattformen für Jugendliche stoppt ihre Chatfunktionen. Der Grund: viel zu viele riskante Gespräche zwischen Chatbots und Minderjährigen. Was nach einem Schritt in die richtige Richtung klingt, ist nur der Anfang. Denn Kinder und Jugendliche wechseln dann einfach zu anderen Apps, die keine Grenzen kennen. Eltern sollten weiterhin unbedingt hinschauen und mit ihren Kindern reden, bevor andere es tun.

Immer mehr Kinder entdecken Chatbots wie Character.ai. Die Plattform verspricht Gespräche mit künstlichen Intelligenzen, die wie echte Menschen sprechen und sich wie Freunde anfühlen. Doch was auf den ersten Blick harmlos wirkt, kann die emotionale Entwicklung junger Menschen tiefgreifend verändern.

Eine neue US-Studie zeigt: Mehr als 70 % der Teenager haben bereits mit einer sogenannten AI Companion-App – also einem KI-Freund – gesprochen. Über die Hälfte (52 %) nutzt sie regelmäßig, 33 % für persönliche Gespräche über Gefühle, Sorgen oder Freundschaft. Und 31 % empfinden diese Unterhaltungen als gleichwertig oder sogar befriedigender als Gespräche mit echten Freund:innen. Unsere Kinder wachsen mit digitalen Begleitern auf, die immer zuhören, nie genervt sind – und genau das sagen, was man hören möchte.

Viele Eltern wissen nicht, dass Facebook, Instagram und bald auch WhatsApp die Fotos, Texte und öffentlichen Beiträge ihrer Nutzer*innen für Künstliche Intelligenz (KI) verwenden. Die gute Nachricht: Ihr könnt dem widersprechen. Die schlechte: Der Widerspruch schützt nur künftige Inhalte.

Die neuen ChatGPT-Eltern-Kontrollen sind am 29. September 2025 gestartet und werden seitdem Schritt für Schritt ausgerollt – zuerst im Web, bald auch in der App. Warum das jetzt wichtig ist.

Künstliche Intelligenz (KI) ist längst nicht mehr nur ein Zukunftsthema – sie ist Teil des Alltags unserer Kinder. Sprachassistenten beantworten Fragen, YouTube-Videos werden durch Algorithmen vorgeschlagen, und in Spielen tauchen immer öfter KI-Elemente auf. Für Eltern stellt sich die Frage: Welche Chancen bietet KI für Kinder, und wo liegen die Gefahren?

Stellt euch vor: Ein ganz normales Selfie Ihres Kindes – harmlos, freundlich, vielleicht aus dem Urlaub oder der Schule. Doch plötzlich kursiert im Klassenchat ein Bild, das Ihr Kind angeblich nackt zeigt. Das Gesicht stimmt. Der Hintergrund sieht vertraut aus. Doch der Körper? Gefälscht – erstellt von einer sogenannten „Nudify-App“.