Künstliche Intelligenz - die Risiken für unsere Kinder

TikTok verändert sich gerade grundlegend. Nicht durch neue Trends oder prominente Creator, sondern durch eine wachsende Industrie aus KI-gesteuerten Accounts. Und die werden jeden Tag besser darin, unbemerkt zu bleiben. Eine neue Studie von AI Forensics zeigt, wie groß dieses Problem geworden ist und warum Kinder und Jugendliche davon besonders betroffen sind.

Kinder wachsen heute mit KI auf, ob wir das wollen oder nicht. Sie begegnen ihr in den Apps, die sie nutzen, in Filtern, die ihre Gesichter verändern, in Suchergebnissen, die ihre Welt sortieren, und immer häufiger auch in Lernprogrammen oder Chats. KI ist längst kein Zukunftsthema mehr. Sie ist Teil des Alltags unserer Kinder. Teil ihrer sozialen Realität. Und genau deshalb müssen wir darüber sprechen, was viele Eltern noch nicht wissen. KI ist nicht neutral. KI ist nicht objektiv. KI ist sexistisch. Nicht, weil das jemand absichtlich programmiert hätte, sondern weil KI aus Daten lernt, die voller Ungleichheiten sind. Daten, die Frauen seit Jahrzehnten benachteiligen.

Immer mehr Kinder und Jugendliche reden heute nicht nur mit echten Freunden, sondern auch mit digitalen Begleitern. Die Chai App ist dabei eine der beliebtesten Plattformen. Vor allem bei elf bis sechzehnjährigen ist sie unglaublich weit verbreitet. Viele Eltern kennen sie nicht einmal, obwohl ihre Kinder dort jeden Tag Zeit verbringen. Für viele Jugendliche gehört Chai bereits zum Alltag. Sie wechseln zwischen WhatsApp, TikTok und Chatfenstern mit einer Figur, die wie ein echter Freund wirkt.

In den USA laufen derzeit sieben Klagen gegen OpenAI, den Entwickler von ChatGPT. Der Vorwurf: Die KI habe Teenager bei Suizid-Gedanken unterstützt und psychisch manipuliert. Weltweit häufen sich Fälle, in denen Chatbots in ernsten Krisen versagt haben. Mit tödlichen Folgen. Zwei davon, die aktuell die USA erschüttern, zeigen wir euch hier. Auch die Chats.

Immer mehr Kinder und Jugendliche reden mit ChatGPT. Sie lassen sich Aufgaben erklären, suchen Rat oder probieren einfach aus, was passiert. Für viele ist der Chatbot wie ein digitaler Freund, der immer Zeit hat und nie genervt ist. Jetzt hat OpenAI, das Unternehmen hinter ChatGPT, neue Regeln eingeführt. Der Chatbot darf keine persönlichen Gesundheits- oder Rechtsfragen mehr beantworten.

Immer mehr Kinder und Jugendliche chatten mit künstlicher Intelligenz. Eine der bekanntesten Apps heißt PolyBuzz. Auf den ersten Blick wirkt sie harmlos. Man schreibt mit einer Figur, die freundlich ist, schnell antwortet und scheinbar echtes Interesse zeigt. Kinder und Jugendliche entwickeln schnell sehr starke Gefühle für “ihren” digitalen Freund. Und genau da beginnt das Problem.

Character.ai , eine der bekanntesten KI Plattformen für Jugendliche stoppt ihre Chatfunktionen. Der Grund: viel zu viele riskante Gespräche zwischen Chatbots und Minderjährigen. Was nach einem Schritt in die richtige Richtung klingt, ist nur der Anfang. Denn Kinder und Jugendliche wechseln dann einfach zu anderen Apps, die keine Grenzen kennen. Eltern sollten weiterhin unbedingt hinschauen und mit ihren Kindern reden, bevor andere es tun.

Immer mehr Kinder entdecken Chatbots wie Character.ai. Die Plattform verspricht Gespräche mit künstlichen Intelligenzen, die wie echte Menschen sprechen und sich wie Freunde anfühlen. Doch was auf den ersten Blick harmlos wirkt, kann die emotionale Entwicklung junger Menschen tiefgreifend verändern.

Eine neue US-Studie zeigt: Mehr als 70 % der Teenager haben bereits mit einer sogenannten AI Companion-App – also einem KI-Freund – gesprochen. Über die Hälfte (52 %) nutzt sie regelmäßig, 33 % für persönliche Gespräche über Gefühle, Sorgen oder Freundschaft. Und 31 % empfinden diese Unterhaltungen als gleichwertig oder sogar befriedigender als Gespräche mit echten Freund:innen. Unsere Kinder wachsen mit digitalen Begleitern auf, die immer zuhören, nie genervt sind – und genau das sagen, was man hören möchte.

Viele Eltern wissen nicht, dass Facebook, Instagram und bald auch WhatsApp die Fotos, Texte und öffentlichen Beiträge ihrer Nutzer*innen für Künstliche Intelligenz (KI) verwenden. Die gute Nachricht: Ihr könnt dem widersprechen. Die schlechte: Der Widerspruch schützt nur künftige Inhalte.

Die neuen ChatGPT-Eltern-Kontrollen sind am 29. September 2025 gestartet und werden seitdem Schritt für Schritt ausgerollt – zuerst im Web, bald auch in der App. Warum das jetzt wichtig ist.

Künstliche Intelligenz (KI) ist längst nicht mehr nur ein Zukunftsthema – sie ist Teil des Alltags unserer Kinder. Sprachassistenten beantworten Fragen, YouTube-Videos werden durch Algorithmen vorgeschlagen, und in Spielen tauchen immer öfter KI-Elemente auf. Für Eltern stellt sich die Frage: Welche Chancen bietet KI für Kinder, und wo liegen die Gefahren?