ChatGPT erkennt Jugendliche jetzt automatisch: Was der neue Schutzmodus wirklich leistet

KI
Verfasst von Tobias Dillinger

Seit dem 18. August führt OpenAI weltweit „ChatGPT for Teens“ ein. Der neue Jugendmodus richtet sich an Nutzerinnen und Nutzer zwischen 13 und 17 Jahren und soll automatisch aktiviert werden, sobald das System ein Konto dieser Altersgruppe zuordnet. Dafür nutzt OpenAI neben dem im Konto angegebenen Alter auch eine technische Altersschätzung, die unter anderem Gesprächsinhalte, Nutzungszeiten, bisherige Nutzungsmuster und das Alter des Kontos auswertet.

Damit setzt OpenAI eine Ankündigung um, die das Unternehmen bereits im vergangenen Jahr gemacht hatte. Bisher mussten Jugendliche und Eltern ihre Konten miteinander verbinden, um zusätzliche Einstellungen und Warnmeldungen zu nutzen. Künftig soll ein Teil des Schutzes auch dann greifen, wenn keine solche Verbindung eingerichtet wurde.

Das ist ein wichtiger Schritt, denn Jugendliche nutzen ChatGPT längst für weit mehr als Hausaufgaben. Sie lassen sich Texte erklären, suchen Rat bei Konflikten und sprechen teilweise über Ängste, Einsamkeit, Essstörungen oder Selbstverletzung. Gerade bei solchen Gesprächen kann eine freundlich und verständnisvoll klingende KI leicht den Eindruck erwecken, sie könne die Rolle eines vertrauten Menschen übernehmen.

Der neue Modus kann Risiken begrenzen. Er macht ChatGPT jedoch nicht zu einem sicheren Ort für jede persönliche Krise und ersetzt weder die Begleitung durch Eltern noch professionelle Hilfe.

Ein Jugendlicher nutzt ChatGPT an seinem Schreibtisch, während ein Elternteil im Hintergrund in der Zimmertür steht.

Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)

Wer den neuen Jugendmodus bekommt

ChatGPT for Teens wird seit dem 18. August 2026 schrittweise für private kostenlose und kostenpflichtige Konten ausgerollt. OpenAI spricht von einer weltweiten Einführung, weist aber darauf hin, dass einzelne Funktionen je nach Region unterschiedlich verfügbar sein können und der neue Modus noch nicht sofort auf jedem Konto erscheint.

Aktiviert wird er automatisch, wenn das im Konto hinterlegte oder verifizierte Alter zwischen 13 und 17 Jahren liegt. Zusätzlich verwendet OpenAI eine Altersschätzung. Sie soll erkennen, ob ein Konto wahrscheinlich von einer minderjährigen Person genutzt wird, auch wenn bei der Anmeldung ein anderes Geburtsdatum angegeben wurde.

Nach Angaben des Unternehmens betrachtet das System dafür verschiedene Signale. Dazu gehören allgemeine Themen in den Gesprächen, typische Nutzungszeiten, die Art und Dauer der Nutzung sowie die Frage, wie lange das Konto bereits besteht. Wie diese Merkmale gewichtet werden und wie zuverlässig die Schätzung bei Jugendlichen in verschiedenen Sprachen und Ländern arbeitet, veröffentlicht OpenAI nicht im Detail.

Wenn das System ein Konto möglicherweise einer Person unter 18 Jahren zuordnet, werden die Jugendfunktionen automatisch aktiviert. Volljährige, die irrtümlich eingestuft wurden, können ihr Alter über den externen Dienstleister Persona bestätigen. Je nach Land kann dafür ein Live-Selfie oder ein Ausweisdokument verlangt werden. OpenAI erklärt, das Unternehmen erhalte weder das Ausweisbild noch das Selfie, sondern lediglich die für die Einstufung notwendigen Altersinformationen. Persona soll die hochgeladenen Daten innerhalb von sieben Tagen löschen.

Was ChatGPT for Teens verändert

Der Jugendmodus ist keine vollständig eigenständige Version von ChatGPT. Jugendliche nutzen weiterhin denselben Dienst, erhalten aber zusätzliche Schutzmechanismen, Hinweise und Lernfunktionen.

Sensible Inhalte sollen vorsichtiger behandelt und teilweise begrenzt werden. OpenAI nennt ausdrücklich drastische Gewalt, gefährliche Online-Challenges, sexuelle, romantische oder gewalttätige Rollenspiele sowie Inhalte, die extreme Schönheitsideale, ungesundes Abnehmen oder Bodyshaming fördern. Der entsprechende Filter ist bei Jugendkonten standardmäßig eingeschaltet und kann von Jugendlichen selbst nicht deaktiviert werden, solange die Schutzfunktionen gelten.

Ein Jugendlicher bearbeitet Mathematikaufgaben und nutzt dabei den Lernmodus auf einem Laptop.

Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)

Hinzu kommen Hinweise auf Pausen und Erinnerungen daran, dass ChatGPT ein KI-System ist. Vor bestimmten Bild-Uploads kann die Anwendung Jugendliche darauf aufmerksam machen, persönliche oder sensible Informationen zu prüfen, bevor sie ein Foto hochladen.

Beim Lernen soll ChatGPT häufiger den Studienmodus vorschlagen. Dieser liefert nicht einfach nur eine fertige Antwort, sondern arbeitet mit Hinweisen, Rückfragen, einzelnen Lösungsschritten und Wissenschecks. Jugendliche und verbundene Elternkonten können außerdem Lernzeiten festlegen, in denen neue geeignete Gespräche automatisch im Studienmodus beginnen. Der Zugang zu ChatGPT wird dadurch allerdings nicht eingeschränkt.

Was Eltern zusätzlich einstellen können

Der automatische Jugendmodus und die Elternkontrollen sind zwei unterschiedliche Ebenen. Für die zusätzlichen Elternfunktionen müssen die Konten weiterhin miteinander verbunden werden. Eltern oder Jugendliche können die Einladung über die Einstellungen verschicken. Die jeweils andere Seite muss der Verbindung zustimmen.

Nach der Verknüpfung können Eltern unter anderem feste Ruhezeiten einstellen, in denen ChatGPT nicht verwendet werden kann. Sie können außerdem den Sprachmodus, die Bilderstellung, gespeicherte Erinnerungen und bestimmte Funktionen von ChatGPT Work ausschalten. Auch die Verwendung der Gespräche für die Weiterentwicklung der Modelle lässt sich deaktivieren. Neu hinzugekommen sind Lernzeiten, zu denen geeignete neue Chats mit dem Studienmodus starten.

Die Gespräche selbst bleiben privat. Eltern können weder einzelne Chats lesen noch den Verlauf oder die aktuelle Nutzung überwachen. Das ist für das Vertrauen von Jugendlichen wichtig, bedeutet aber zugleich, dass die Kontoverbindung keinen vollständigen Einblick in problematische Gespräche schafft.

Jugendliche können die Verbindung zu einem Elternkonto jederzeit wieder lösen. Die Eltern werden darüber informiert, verlieren danach aber den Zugriff auf die Einstellungen und erhalten keine Warnmeldungen mehr.

Wann Eltern eine Warnmeldung erhalten

Bei verbundenen Konten kann OpenAI Eltern in eng begrenzten Situationen über ein ernstes Sicherheitsrisiko informieren. Laut der aktuellen Dokumentation geschieht das, wenn speziell geschulte Prüfer eine schwerwiegende Gefahr der Selbstverletzung erkennen oder wenn ein Jugendkonto wegen Gesprächen über Gewalttaten deaktiviert wird.

Die Warnung enthält keine vollständigen Gesprächsverläufe. Sie kann eine kurze Beschreibung der erkannten Gefahr, Informationen über eine Kontosperrung und Hinweise auf Hilfsangebote enthalten. Benachrichtigungen können je nach Einstellung per E-Mail, SMS oder Push-Mitteilung versendet werden.

OpenAI weist selbst auf eine entscheidende Grenze hin. Diese Hinweise sind keine Echtzeitüberwachung, erkennen nicht jede Gefahr und ersetzen weder professionelle Hilfe noch den Notruf. Zwischen einem belastenden Gespräch, einer Prüfung durch Menschen und der Mitteilung an Eltern kann Zeit vergehen. Familien dürfen sich deshalb nicht darauf verlassen, dass ChatGPT sie zuverlässig warnt, wenn ein Kind in einer akuten Krise steckt.

Warum die automatische Altersschätzung trotzdem wichtig ist

Jugendschutz, der nur nach einer freiwilligen Angabe des Geburtsdatums greift, erreicht genau die Kinder nicht, die sich mit wenigen Klicks älter machen. Dass OpenAI nun zusätzliche Signale auswertet und im Zweifel die strengere Variante aktivieren will, ist deshalb grundsätzlich sinnvoll.

Gleichzeitig wirft die Methode Fragen auf. Gesprächsinhalte und Nutzungsverhalten werden nicht mehr ausschließlich verwendet, um eine Antwort zu erzeugen, sondern auch, um das Alter einer Person einzuschätzen. OpenAI nennt Beispiele für die verwendeten Merkmale, veröffentlicht aber keine belastbaren Angaben zur Fehlerquote des Systems. Es bleibt deshalb offen, wie häufig Jugendliche übersehen oder Erwachsene fälschlich als minderjährig behandelt werden.

Auch die Möglichkeit zur Altersbestätigung ist mit einem Eingriff verbunden. Wer als erwachsene Person die Jugendbeschränkungen entfernen möchte, muss je nach Land ein Selfie oder einen amtlichen Ausweis bei einem externen Anbieter hinterlegen. OpenAI beschreibt, wie die Daten verarbeitet und gelöscht werden sollen. Trotzdem bleibt die Abwägung zwischen wirksamem Jugendschutz, Datenschutz und dem Zugang Erwachsener zu digitalen Diensten anspruchsvoll.

Der Filter bietet keinen vollständigen Schutz

OpenAI formuliert die Grenzen des Inhaltsfilters ungewöhnlich klar. Die Einstellung soll die Wahrscheinlichkeit ungeeigneter Antworten verringern, garantiert aber nicht, dass jede Reaktion in jeder Situation angemessen ist.

Das ist wichtig, weil die Gefahr bei KI-Chatbots nicht allein in einzelnen verbotenen Antworten liegt. Ein System kann über lange Zeit freundlich, verfügbar und scheinbar einfühlsam reagieren. Jugendliche können dadurch Vertrauen aufbauen, intime Informationen teilen und beginnen, eine Maschine als verlässlichen Gesprächspartner für persönliche Entscheidungen zu betrachten. Ein Filter gegen drastische Gewalt oder sexualisierte Rollenspiele verhindert diese emotionale Verschiebung nicht automatisch.

Hinzu kommt, dass ChatGPT weiterhin Fehler machen kann. Antworten können plausibel klingen, obwohl sie falsch, unvollständig oder für die konkrete Lebenssituation ungeeignet sind. Bei Konflikten, gesundheitlichen Beschwerden oder psychischen Krisen bleibt dieses Problem auch in einer jugendgerechteren Umgebung bestehen.

Was Eltern jetzt konkret tun sollten

Eltern sollten zunächst prüfen, ob ihr Kind ChatGPT mit einem eigenen Konto nutzt und welches Alter dort hinterlegt ist. Da der neue Modus schrittweise eingeführt wird, kann es einige Zeit dauern, bis die jugendspezifische Einführung und die neuen Funktionen sichtbar werden.

Für Jugendliche zwischen 13 und 17 Jahren kann es sinnvoll sein, die Elternkontrollen gemeinsam einzurichten. Das sollte offen geschehen. Kinder sollten wissen, welche Einstellungen Eltern verändern können, dass ihre Gespräche nicht mitgelesen werden und in welchen seltenen Situationen eine Sicherheitsmeldung möglich ist.

Sensible Inhalte sollten gefiltert bleiben. Zusätzlich können Familien die Nutzung für das Modelltraining deaktivieren, gespeicherte Erinnerungen ausschalten und Ruhezeiten vereinbaren. Welche Einstellungen passen, hängt vom Alter, von der bisherigen Nutzung und von der Selbstständigkeit des Kindes ab.

Mindestens ebenso wichtig ist ein Gespräch über die Rolle des Systems. ChatGPT kann beim Lernen helfen, Ideen liefern und komplizierte Inhalte erklären. Bei Sorgen, Angst, Selbstverletzung, Essstörungen, Gewalt oder gesundheitlichen Beschwerden sollte eine KI jedoch nicht die erste und schon gar nicht die einzige Anlaufstelle sein. Kinder brauchen die Sicherheit, dass sie sich ohne Vorwürfe an Erwachsene wenden können, auch wenn ein Gespräch mit einem Chatbot bereits in eine problematische Richtung gegangen ist.

Für Kinder unter 13 Jahren ist ChatGPT weiterhin nicht vorgesehen. OpenAI verlangt für die Nutzung durch 13- bis 17-Jährige die Zustimmung der Eltern. Wird der Dienst im Unterricht mit jüngeren Kindern eingesetzt, soll die direkte Bedienung nach Angaben des Unternehmens durch eine erwachsene Person erfolgen.

in Vater und seine jugendliche Tochter richten gemeinsam die Schutzeinstellungen auf einem Laptop ein. Passender Abschnitt: „Was Eltern zusätzlich einstellen können“

Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)

So richtet ihr die Elternkontrollen ein

Für die Elternkontrollen benötigen Eltern und Jugendliche jeweils ein eigenes ChatGPT-Konto. Anschließend müssen beide Konten miteinander verbunden werden.

  1. Öffnet in ChatGPT über das Profilmenü die Einstellungen.

  2. Wählt den Bereich „Parental controls“ beziehungsweise „Elternkontrollen“.

  3. Klickt auf „Add family member“ und entscheidet, ob die Einladung per E-Mail oder Telefonnummer verschickt werden soll.

  4. Gebt die E-Mail-Adresse oder Telefonnummer des Jugendlichen ein und versendet die Einladung.

  5. Der Jugendliche erhält einen Link und muss der Verbindung zustimmen. Erst danach können die Einstellungen über das Elternkonto verwaltet werden.

Anschließend erscheint das verbundene Konto unter den Familienmitgliedern. Dort können Eltern sensible Inhalte stärker filtern, Ruhezeiten festlegen, den Sprachmodus oder die Bilderstellung deaktivieren, gespeicherte Erinnerungen ausschalten und verhindern, dass Gespräche für die Weiterentwicklung der KI-Modelle verwendet werden. Auch Lernzeiten lassen sich einrichten, in denen neue geeignete Gespräche automatisch im Studienmodus beginnen.

Die Verbindung ermöglicht keinen Zugriff auf die Gespräche des Kindes. Eltern können weder einzelne Chats lesen noch den Verlauf oder die aktuelle Nutzung überwachen. Jugendliche können die Verbindung jederzeit wieder lösen. Eltern werden in diesem Fall informiert.

Offizielle Anleitung von OpenAI: Link

Ein sinnvoller Schritt, dessen Wirkung erst belegt werden muss

Mit ChatGPT for Teens übernimmt OpenAI mehr Verantwortung als bei einem System, das sich allein auf freiwillige Altersangaben und nachträgliche Elterneinstellungen verlässt. Automatische Schutzfunktionen, vorsichtigere Antworten, Lernhilfen und begrenzte Warnmeldungen sind sinnvoll, weil sie direkt im Produkt ansetzen.

Ob der neue Modus Jugendliche tatsächlich wirksam schützt, lässt sich unmittelbar nach dem Start noch nicht beurteilen. Dafür braucht es unabhängige Tests, transparente Daten zur Altersschätzung und Erkenntnisse darüber, wie das System bei langen, emotionalen und widersprüchlichen Gesprächen reagiert. Auch die Frage, ob Kinder den Modus durch neue Konten oder falsche Angaben umgehen können, bleibt relevant.

Eltern müssen die neuen Funktionen deshalb weder kleinreden noch als Sicherheitsversprechen missverstehen. Technischer Schutz und eine altersgerechte Begleitung gehören zusammen. Gleichzeitig bleibt OpenAI dafür verantwortlich, Risiken dort zu begrenzen, wo sie entstehen, und die Wirksamkeit seiner Systeme nachvollziehbar zu belegen.

Quellen

Tobias Dillinger https://www.dnmc.de
Zurück

Warum Medienkompetenz allein Kinder nicht schützen kann
Weiter

„Papa, leg das Handy weg!" – warum Kinder unser Vorbild brauchen