Jahresbericht von jugendschutz.net – eine deutliche Warnung an Eltern, Schulen und Politik
Der neue Jahresbericht von jugendschutz.net zeigt sehr deutlich, wie massiv sich die digitale Realität von Kindern und Jugendlichen verändert hat. Es geht längst nicht mehr nur um zu viel Bildschirmzeit oder ein paar problematische Videos auf TikTok. Es geht um sexualisierte Gewalt, KI-Chatbots, extremistische Inhalte, manipulative Plattformdesigns, Essstörungen, Kaufdruck, Hasspropaganda und digitale Räume, in denen Kinder oft weitgehend ungeschützt unterwegs sind.
Besonders alarmierend ist dabei, wie viele Risiken inzwischen direkt in den Alltag junger Menschen eingebaut werden. Nicht irgendwo im „Darknet“. Sondern auf Plattformen, die Millionen Kinder jeden Tag nutzen. TikTok. Instagram. Snapchat. Discord. Spotify. WhatsApp.
Der Bericht macht außerdem deutlich, dass viele Plattformen Risiken nicht nur zu spät begrenzen, sondern durch neue Funktionen sogar weiter verstärken. Gleichzeitig reagieren Anbieter auf Meldungen oft erschreckend schlecht. Teilweise werden selbst eindeutig problematische Inhalte erst entfernt, wenn Behörden oder offizielle Stellen Druck machen.
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
Über 15.000 Fälle in nur einem Jahr
jugendschutz.net bearbeitete im Jahr 2025 insgesamt 15.099 Verstoßfälle. Damit bewegt sich die Zahl bereits das zweite Jahr in Folge auf extrem hohem Niveau.
93 Prozent aller bearbeiteten Fälle hatten mit sexualisierter Gewalt zu tun. Der größte Teil betraf Missbrauchsdarstellungen von Kindern.
Allein diese Zahlen zeigen bereits, wie weit entfernt wir inzwischen von der Vorstellung eines „harmlosen Internets“ für Kinder sind.
KI verändert die digitale Kindheit gerade radikal
Ein Schwerpunkt des Berichts liegt auf KI-Anwendungen und deren Auswirkungen auf Kinder und Jugendliche.
jugendschutz.net beschreibt, dass Chatbots inzwischen emotionale Begleiter simulieren, Beziehungen nachahmen und teilweise sexualisierte Gespräche mit Minderjährigen führen können. Auf Plattformen wie Character.AI konnten Bots sexuelle Handlungen mit Minderjährigen beschreiben oder sich selbst als minderjährige Figuren darstellen. Alterskontrollen ließen sich dabei leicht umgehen.
Für Erwachsene klingt das oft abstrakt. Für Kinder fühlt es sich dagegen schnell real an.
Viele dieser Systeme reagieren empathisch, verständnisvoll und dauerhaft verfügbar. Genau das macht sie gefährlich. Kinder und Jugendliche befinden sich mitten in ihrer emotionalen Entwicklung. Wenn KI beginnt, Nähe, Beziehungen oder Bestätigung zu simulieren, verschwimmen Grenzen zwischen echter menschlicher Verbindung und künstlicher Interaktion.
Stefan Glaser, Leiter von jugendschutz.net, formuliert es im Vorwort des Berichts sehr deutlich. Er warnt davor, dass KI „das Künstliche mit dem Echten verschmelzen“ lasse und dadurch die Wahrnehmung von Realität verzerren könne. Gleichzeitig kritisiert er, dass Anbieter immer neue Funktionen schaffen, ohne wirksame Schutzmaßnahmen einzubauen.
Auch Bundesjugendministerin Karin Prien findet ungewöhnlich klare Worte. Sie nennt die Entwicklung „besonders besorgniserregend“. Frei verfügbare KI-Anwendungen würden Risiken „massiv verschärfen“. Mit wenigen Klicks könnten heute täuschend echte Deepfakes, sexualisierte Gewaltbilder oder manipulative Inhalte erstellt und verbreitet werden. Gleichzeitig würden digitale Angebote und KI für junge Menschen immer häufiger „zum alltäglichen Begleiter, zum Gesprächspartner oder sogar zur emotionalen Stütze“. Deshalb müssten Sicherheit, Schutz und klare Regeln endlich mit der technologischen Entwicklung Schritt halten.
Butterflies.AI zeigt, wohin sich soziale Netzwerke entwickeln
Besonders bemerkenswert ist die Analyse des KI-Dienstes Butterflies.AI.
Dort konnten Nutzer KI-Charaktere erstellen, die eigenständig posten, kommentieren und chatten. jugendschutz.net fand dort pornografische Inhalte, positive Darstellungen von Adolf Hitler und Osama bin Laden sowie sexualisierte Darstellungen von Kindern. Trotz einer Altersfreigabe ab 18 Jahren existierten keine wirksamen Alterskontrollen.
Der Dienst wurde zwar inzwischen eingestellt, doch das Grundprinzip bleibt relevant. KI-Profile, die selbstständig Inhalte erzeugen und mit Menschen interagieren, könnten schon bald fester Bestandteil vieler sozialer Netzwerke werden.
Gerade für Kinder entsteht dadurch eine völlig neue digitale Realität. Sie kommunizieren dann nicht mehr nur mit echten Menschen, sondern zunehmend auch mit künstlichen Persönlichkeiten, deren Verhalten auf maximale Aufmerksamkeit und Bindung optimiert wird.
Bild generiert mit Hilfe von KI (Gemini, Google)
KI-Influencer und #Skinnytok verschärfen Essstörungen
Der Bericht beschreibt außerdem sehr deutlich, wie sich KI und Social Media gegenseitig verstärken.
Virtuelle Influencerinnen erzeugen perfekte Körperbilder, die mit echter Realität kaum noch etwas zu tun haben. Besonders problematisch wird das, wenn Kinder und Jugendliche diese Bilder täglich konsumieren und anfangen, ihren eigenen Körper permanent damit zu vergleichen.
Hinzu kommt der TikTok-Trend #Skinnytok. Dort werden extreme Dünnheit, Hungern und radikale Selbstkontrolle als Erfolgsideal inszeniert. Aussagen wie „Skinny is an outfit, not a size“ wirken auf Erwachsene vielleicht absurd. Auf junge Menschen in unsicheren Entwicklungsphasen können sie jedoch massiven Druck ausüben.
Der Bericht warnt ausdrücklich davor, dass solche Inhalte Essstörungen wie Magersucht oder Bulimie verstärken können.
Frauenhass wird zum Einstieg in Extremismus
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
Ein weiterer Schwerpunkt des Berichts ist die sogenannte Manosphere und die massive Verbreitung misogyn geprägter Inhalte.
jugendschutz.net beschreibt, wie Jugendliche auf TikTok, YouTube oder Instagram zunehmend mit frauenfeindlichen Influencern konfrontiert werden.
Frauen werden dort herabgewürdigt, zu Objekten reduziert oder mit Gewaltfantasien überzogen. Gleichzeitig propagieren manche Influencer patriarchale Rollenbilder und stellen Dominanz oder Unterwerfung als erstrebenswert dar.
Besonders gefährlich ist dabei, dass Antifeminismus laut Bericht häufig als Einstiegstor in extremistische Ideologien dient.
Das deckt sich mit internationalen Entwicklungen. Radikalisierung beginnt heute oft nicht mehr mit klassischer Politik, sondern mit Emotionen, Identitätsfragen, Frust und Geschlechterbildern.
Discord wird für viele Jugendliche zum Radikalisierungsraum
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
Discord spielt im Bericht eine zentrale Rolle.
Die Plattform wird von Millionen Jugendlichen genutzt und wirkt auf viele Eltern zunächst wie ein harmloser Gaming-Chat.
jugendschutz.net beschreibt Discord jedoch als Umschlagplatz für rechtsextreme Inhalte, NS-Propaganda, Gewaltfantasien und menschenfeindliche Memes.
Besonders problematisch sei, dass diese Inhalte oft humoristisch oder ironisch verpackt werden. Jugendliche werden dadurch beiläufig mit extremistischen Weltbildern konfrontiert.
Genau das macht moderne Radikalisierung heute so schwer erkennbar.
Sie funktioniert oft nicht mehr über offene Propaganda, sondern über Memes, Insider-Humor und Gruppendynamik.
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
Snapchat Spotlight sexualisiert Kinder
Besonders erschreckend ist die Analyse zu Snapchat Spotlight.
Dort tauchten laut jugendschutz.net zahlreiche Videos sehr junger Kinder auf, obwohl die Funktion eigentlich erst ab 16 Jahren genutzt werden darf. Die Videos wurden teilweise sexualisiert kommentiert und algorithmisch weiterverbreitet.
Die Kinder zeigen sich dort beim Tanzen, Spielen oder Sport. Doch sobald solche Inhalte viral werden, geraten sie in völlig unkontrollierbare digitale Räume.
Das Problem ist nicht nur der einzelne Kommentar. Das Problem ist ein System, das Aufmerksamkeit belohnt und Inhalte algorithmisch verstärkt, unabhängig davon, welche Folgen das für Kinder haben kann.
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
WhatsApp wird zunehmend zum öffentlichen Raum
Viele Eltern betrachten WhatsApp noch immer als privaten Messenger.
Der Bericht zeigt jedoch, dass sich die Plattform stark verändert hat. Seit 2025 werden öffentliche Kanäle aktiv empfohlen. Selbst sehr junge Nutzer betreiben dort reichweitenstarke Kanäle. Gleichzeitig suggeriert WhatsApp weiterhin eine private Atmosphäre, wodurch Kinder und Jugendliche oft besonders viele persönliche Informationen teilen.
jugendschutz.net kritisiert ausdrücklich, dass WhatsApp im Gegensatz zu anderen großen Plattformen bislang kaum Maßnahmen zum Schutz Minderjähriger ergreift. Warnhinweise allein reichten nicht aus.
Das ist ein wichtiger Punkt. Viele Eltern denken bei digitalen Risiken zuerst an TikTok oder Instagram. Dabei entstehen längst auch auf Messengern öffentliche Reichweitenräume mit erheblichem Gefahrenpotenzial.
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
TikTok verbindet Unterhaltung direkt mit Kaufdruck
Der Bericht beschreibt außerdem, wie TikTok sich zunehmend in eine Shopping-Plattform verwandelt.
Mit dem TikTok-Shop werden Unterhaltung, Influencing und direkter Konsum eng miteinander verknüpft. Creator, Unternehmen und Plattform arbeiten dabei gemeinsam daran, spontane Käufe auszulösen.
Gerade Kinder und Jugendliche sind für solche Mechanismen besonders anfällig. Sie befinden sich mitten in ihrer Identitätsentwicklung, orientieren sich stark an Gruppen und Influencern und reagieren empfindlicher auf soziale Bestätigung.
Wenn Unterhaltung, Zugehörigkeit und Konsum dauerhaft miteinander verschmelzen, entsteht enormer Druck.
Gefährliche Booster und Lachgas werden auf Social Media verharmlost
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
Ein Thema, das im öffentlichen Diskurs oft unterschätzt wird, sind psychoaktive Substanzen und sogenannte Leistungsbooster.
jugendschutz.net beschreibt, wie auf Social Media Lachgas, Aufputschmittel oder leistungssteigernde Produkte als harmlos und trendig dargestellt werden. Teilweise werden sie sogar wie Süßigkeiten vermarktet.
Die Risiken reichen von Schlafstörungen über Herz-Kreislauf-Belastungen bis hin zu Abhängigkeiten.
Besonders problematisch ist dabei die Ästhetik solcher Inhalte. Gefährliche Substanzen erscheinen bunt, modern und scheinbar ungefährlich.
Genau dadurch sinkt die Hemmschwelle für Kinder und Jugendliche massiv.
Bild generiert mit Hilfe von KI (Gemini, Google)
Family-Influencing gefährdet Kinder oft massiv
Ein weiterer wichtiger Abschnitt des Berichts beschäftigt sich mit sogenanntem Family-Influencing oder Famfluencing.
Eltern teilen dabei intime Momente ihrer Kinder auf Instagram, TikTok oder anderen Plattformen. Häufig geht es um Aufmerksamkeit, Reichweite oder Community-Bestätigung.
jugendschutz.net warnt jedoch eindringlich vor den Folgen.
Kinderbilder können manipuliert, aus dem Kontext gerissen oder für Mobbingzwecke genutzt werden. Oft lassen sich aus Videos und Bildern außerdem Rückschlüsse auf Schule, Wohnort oder Alltag der Kinder ziehen.
Der Bericht spricht damit ein Thema an, das gesellschaftlich noch immer erstaunlich wenig diskutiert wird. Viele Kinder wachsen inzwischen mit einer dauerhaften digitalen Öffentlichkeit auf, ohne jemals selbst entschieden zu haben, ob sie das überhaupt wollen.
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
Spotify steht überraschend stark in der Kritik
Viele Eltern verbinden Spotify vor allem mit Musik.
jugendschutz.net fand dort jedoch rechtsextreme Musik, Inhalte über sexualisierte Gewalt gegen Minderjährige, suizidale Playlists sowie frei zugängliche pornografische Inhalte.
Besonders problematisch ist laut Bericht, dass die Schutzmaßnahmen schwach sind und selbst offizielle Meldungen oft kaum Konsequenzen haben.
Während Spotify bei extremistischen Inhalten immerhin teilweise reagierte, wurden Gewaltinhalte laut Bericht sogar komplett ignoriert.
Das zeigt sehr deutlich, dass digitale Risiken längst nicht mehr nur klassische soziale Netzwerke betreffen.
Die Plattformen reagieren oft erst, wenn Behörden Druck machen
Besonders bemerkenswert sind die Zahlen zu den Meldesystemen.
YouTube löschte bei Usermeldungen zu extremistischen Inhalten nur 2 Prozent der gemeldeten Inhalte. Discord kam auf 5 Prozent. Instagram auf 26 Prozent. TikTok auf 29 Prozent.
Erst wenn jugendschutz.net offiziell als Institution auftrat, reagierten die Plattformen deutlich häufiger.
Das ist ein entscheidender Punkt. Viele Eltern hören seit Jahren, sie sollten problematische Inhalte einfach melden. Der Bericht zeigt jedoch, dass diese Systeme oft nur begrenzt funktionieren.
Warum Aufklärung alleine längst nicht mehr reicht
Stefan Glaser schreibt im Vorwort des Berichts, dass die selbstbestimmte Nutzung digitaler Räume eine „gesamtgesellschaftliche Aufgabe“ sei. Er fordert altersdifferenzierte Zugänge und macht deutlich, dass die Verantwortung klar bei den Anbietern liege. Wenn Plattformen endlich wirksam handeln würden, könnten Debatten über Nutzungsverbote teilweise überflüssig werden.
Genau darin liegt wahrscheinlich der wichtigste Punkt des gesamten Berichts. Es geht nicht um ein einfaches Entweder-oder zwischen Aufklärung und Regulierung.
Kinder brauchen beides.
Sie brauchen Eltern, die begleiten. Schulen, die Schutzräume schaffen. Plattformen, die Verantwortung übernehmen. Und politische Regeln, die Kinderrechte nicht dauerhaft wirtschaftlichen Interessen unterordnen. Denn der digitale Alltag unserer Kinder verändert sich gerade fundamental. Nicht irgendwann in der Zukunft, sondern genau jetzt.