Sexualisierte KI-Fälschungen nehmen zu: Großbritannien verschärft den Kinderschutz
Ein gewöhnliches Profilbild, ein Klassenfoto oder eine Aufnahme vom Sportverein kann heute ausreichen, um ein Kind zum Opfer sexualisierter Bildmanipulationen zu machen. Neue Zahlen aus Großbritannien zeigen, wie schnell sich dieses Problem ausbreitet. Gleichzeitig plant die britische Regierung weitreichende Regeln für soziale Netzwerke, Gaming-Plattformen und KI-Chatbots.
Im ersten Halbjahr 2026 gingen beim britischen Hilfsangebot „Report Remove“ bereits 420 Meldungen ein, bei denen Minderjährige angaben, dass Nacktaufnahmen oder sexualisierte Bilder von ihnen gefälscht oder manipuliert worden seien. Im gesamten Jahr 2025 waren es 397 Meldungen.
Dabei handelt es sich um Bilder, die mit KI-Bildgeneratoren, Nudify-Apps oder anderen Bearbeitungsprogrammen erstellt worden sein können. Für die Betroffenen spielt es kaum eine Rolle, ob die Aufnahme echt ist. Sie zeigt scheinbar ihren Körper, trägt ihren Namen und kann innerhalb weniger Minuten an Mitschüler, Freunde oder Fremde weitergeleitet werden.
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
Mehr bestätigte Fälle als im gesamten Vorjahr
Nicht jede Meldung erfüllt die strafrechtlichen Kriterien für Darstellungen sexuellen Kindesmissbrauchs. Doch auch bei den von der Internet Watch Foundation geprüften und entsprechend eingestuften Fällen zeigt sich ein deutlicher Anstieg.
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
Im gesamten Jahr 2025 registrierte die Organisation 221 bestätigte Meldungen, in denen zumindest ein Teil des Materials nach Angaben der Betroffenen gefälscht war. Bis Ende Juni 2026 waren es bereits 268 Fälle. Damit wurde der Wert des gesamten Vorjahres innerhalb von sechs Monaten überschritten.
„Report Remove“ wird von der Internet Watch Foundation und der Kinderhilfsorganisation Childline betrieben. Minderjährige in Großbritannien können dort sexualisierte Bilder von sich melden. Erfüllt das Material die rechtlichen Voraussetzungen, versucht die Internet Watch Foundation, es entfernen und seine erneute Verbreitung verhindern zu lassen.
Die Zahlen bilden lediglich die Fälle ab, die von den betroffenen Kindern gemeldet wurden. Wie viele sexualisierte KI-Fälschungen tatsächlich erstellt, in Klassenchats geteilt oder zur Erpressung genutzt werden, lässt sich daraus nicht ableiten.
Für ein gefälschtes Nacktbild wird kein echtes Nacktbild benötigt
Bei digitaler sexualisierter Gewalt denken Erwachsene häufig zuerst an intime Bilder, die ein Kind selbst aufgenommen und verschickt hat. KI verändert diese Ausgangslage grundlegend. Täter benötigen kein echtes Nacktbild mehr.
Ein alltägliches Foto aus einem öffentlichen Social-Media-Profil kann ausreichen. Mit sogenannten Nudify-Anwendungen lässt sich der bekleidete Körper einer Person scheinbar entkleiden. Andere Programme können Gesichter in vorhandene sexualisierte Aufnahmen einsetzen oder vollständig neue Bilder erzeugen.
Die Ergebnisse sind unterschiedlich realistisch. Für eine Demütigung in der Schule oder eine Erpressung müssen sie jedoch nicht perfekt sein. Häufig reicht bereits die Behauptung, das Bild sei echt. Betroffene können kaum kontrollieren, wer es gesehen, gespeichert oder weitergeleitet hat.
Die Internet Watch Foundation und die britische National Crime Agency warnten deshalb im Juli 2026 ausdrücklich davor, dass selbst harmlose Alltagsfotos mit geringem Aufwand in realistisch wirkende sexualisierte Darstellungen von Kindern verwandelt werden können.
Die Folgen für betroffene Kinder sind real
Bild generiert mit Hilfe von KI (ChatGPT/DALL·E, OpenAI)
Ein gefälschtes Bild kann dieselbe soziale und psychische Wirkung entfalten wie eine echte Aufnahme. Kinder erleben Scham, Angst und Kontrollverlust. Sie fürchten Reaktionen in der Schule, ziehen sich zurück oder trauen sich nicht, mit ihren Eltern zu sprechen.
Hinzu kommt die Gefahr der digitalen Erpressung. Täter können damit drohen, das gefälschte Material an Freunde, Eltern oder die Schule zu schicken. Manche verlangen weitere Bilder, Geld oder bestimmte Handlungen. Dass das ursprüngliche Bild nicht echt ist, schützt das Kind nicht vor dieser Form des Drucks.
Eltern sollten deshalb nicht mit der Frage beginnen, warum das Kind ein Foto veröffentlicht oder verschickt hat. Verantwortlich ist die Person, die das Bild erstellt, verbreitet oder zur Erpressung nutzt.
Großbritannien plant ein Social-Media-Verbot unter 16 Jahren
Die neuen Zahlen erscheinen in einer Phase, in der Großbritannien seinen digitalen Kinderschutz deutlich ausweiten will. Nach einer großen öffentlichen Konsultation hat die Regierung angekündigt, sozialen Netzwerken künftig zu verbieten, ihre Dienste Kindern unter 16 Jahren anzubieten.
Die ersten Verordnungen sollen bis Ende 2026 ins Parlament eingebracht werden. Nach dem derzeitigen Zeitplan könnten die ersten Einschränkungen im Frühjahr 2027 in Kraft treten. Vorgesehen sind wirksame Altersprüfungen, damit die neuen Regeln nicht weiterhin durch eine beliebige Angabe des Geburtsjahres umgangen werden können.
Die britische Regierung beschränkt sich allerdings nicht auf ein Social-Media-Verbot. Sie bezieht Funktionen ein, die Kinder auch in Games, KI-Angeboten und anderen digitalen Diensten gefährden können.
Auch Gaming-Plattformen sollen Kinder besser schützen
Für unter 16-Jährige sollen Livestreams und Kontaktmöglichkeiten durch unbekannte Personen eingeschränkt werden. Das soll auch für Gaming-Dienste gelten.
Kinder sollen weiterhin gemeinsam online spielen können. Fremde Nutzer sollen sie jedoch nicht ohne Weiteres privat anschreiben oder in einen geschlossenen Austausch ziehen können. Auch das eigene Livestreaming soll für Kinder unter 16 Jahren unterbunden werden.
Diese Unterscheidung ist wichtig. Gefährliche Kontakte entstehen nicht ausschließlich auf Instagram, TikTok oder Snapchat. Täter suchen Kinder ebenso in Games und Gaming-Communitys. Eine Regelung, die lediglich klassische soziale Netzwerke erfasst, würde diese Zugänge offenlassen.
Für 16- und 17-Jährige sollen riskante Funktionen wie Livestreaming und Fremdkontakte standardmäßig ausgeschaltet sein. Jugendliche könnten die Einstellungen später selbst verändern. Die Voreinstellung würde jedoch erstmals dem Schutz folgen und nicht dem wirtschaftlichen Interesse der Plattform an möglichst viel Aktivität.
Nächtliche Nutzung und endloses Scrollen werden begrenzt
Großbritannien nimmt außerdem Funktionen in den Blick, die Jugendliche möglichst lange auf einer Plattform halten sollen. Für 16- und 17-Jährige sind automatische Einschränkungen zwischen Mitternacht und sechs Uhr morgens vorgesehen. Dazu gehören auch Benachrichtigungen.
Autoplay, personalisierte Feeds und andere Funktionen, die zum endlosen Weiterschauen oder Scrollen beitragen, sollen ebenfalls begrenzt werden. Ältere Jugendliche sollen diese Einstellungen ändern können, sie wären jedoch zunächst aktiviert.
Damit erkennt die britische Regierung an, dass die Nutzungsdauer nicht allein eine Frage der Disziplin ist. Plattformen sind gezielt so gestaltet, dass Nutzer möglichst lange bleiben. Schutzmaßnahmen müssen deshalb auch das Design der Dienste betreffen.
Sexualisierte KI-Chatbots sollen für Minderjährige gesperrt werden
Ein weiterer Schwerpunkt betrifft KI-Chatbots. Dienste, deren Hauptzweck in sexualisierten Gesprächen oder simulierten sexuellen Beziehungen besteht, sollen erst ab 18 Jahren zugänglich sein.
Auch allgemeine KI-Chatbots sollen Minderjährigen keine Funktionen anbieten dürfen, die sexuelle Gespräche oder Rollenspiele ermöglichen. Nach längerer Nutzung sollen Chatbots außerdem Pausen einbauen müssen.
In der britischen Konsultation äußerten Jugendliche selbst deutliche Bedenken. 84 Prozent bewerteten Chatbots, die sich wie ein Freund, eine Freundin oder ein romantischer Partner verhalten, als riskant. 59 Prozent wünschten sich Einschränkungen für Funktionen, die Gespräche künstlich verlängern.
KI-Chatbots können beim Lernen, Recherchieren und Entwickeln von Ideen hilfreich sein. Problematisch wird es, wenn sie emotionale Nähe simulieren, Abhängigkeiten fördern oder in psychischen Krisen ungeeignet reagieren. Kinder können schwer einschätzen, ob eine scheinbar verständnisvolle Antwort zuverlässig, manipulativ oder gefährlich ist.
Die neuen Regeln verhindern noch keine sexualisierten KI-Bilder
Die britischen Pläne greifen mehrere wichtige Risiken auf. Sie lösen das Problem sexualisierter KI-Fälschungen jedoch nicht automatisch.
Nudify-Anwendungen und Bildgeneratoren können außerhalb klassischer sozialer Netzwerke angeboten werden. Manche Modelle lassen sich lokal betreiben oder über kleinere Dienste erreichen. Anschließend können die erzeugten Bilder über Messenger, geschlossene Gruppen oder ausländische Plattformen verbreitet werden.
Deshalb müssen bereits die Anbieter der KI-Systeme dafür sorgen, dass sexualisierte Darstellungen Minderjähriger nicht erzeugt werden können. Dazu gehören Tests vor der Veröffentlichung, technische Sperren, verlässliche Meldesysteme und eine schnelle Reaktion auf bekannte Umgehungsmethoden.
Gleichzeitig benötigen Betroffene einfache Möglichkeiten, Bilder entfernen und ihre erneute Verbreitung begrenzen zu lassen. Strafverfolgungsbehörden, Schulen und Beratungsstellen müssen wissen, wie sie mit gefälschtem sexualisiertem Material umgehen sollen.
Was Deutschland daraus lernen kann
In Deutschland konzentriert sich die politische Debatte weiterhin stark auf die Frage, ob soziale Netzwerke für Kinder verboten werden sollen. Der britische Ansatz geht inzwischen wesentlich weiter. Er berücksichtigt, dass digitale Risiken nicht an den Grenzen einzelner Plattformkategorien enden.
Fremdkontakte können in einem Onlinespiel beginnen. Ein sexualisierter KI-Chatbot kann emotionale Abhängigkeit erzeugen. Eine Nudify-App kann aus einem Klassenfoto ein gefälschtes Nacktbild erstellen. Verbreitet wird das Ergebnis anschließend über einen Messenger oder eine geschlossene Gruppe.
Ein zeitgemäßer digitaler Kinderschutz muss deshalb Funktionen und konkrete Gefahren regulieren. Dazu gehören Fremdkontakte, Livestreams, sexualisierte KI-Angebote, suchtförderndes Design und Werkzeuge zur Erstellung sexualisierter Fälschungen.
Die britischen Pläne müssen ihre Wirksamkeit erst noch beweisen. Entscheidend wird sein, welche Dienste erfasst werden, wie zuverlässig die Altersprüfung funktioniert und ob die Aufsichtsbehörde Verstöße tatsächlich durchsetzen kann. Dennoch zeigt der Ansatz, dass Politik sich nicht auf Appelle an Eltern und Kinder beschränken muss.
Was Eltern mit ihren Kindern besprechen sollten
Kinder und Jugendliche sollten wissen, dass inzwischen auch gewöhnliche Fotos für sexualisierte Fälschungen missbraucht werden können. Das bedeutet nicht, dass Kinder aus dem Internet verschwinden oder keine Bilder mehr teilen dürfen. Sie sollten jedoch bewusst entscheiden, welche Aufnahmen öffentlich zugänglich sind und wer sie herunterladen kann.
Wird ein gefälschtes Nacktbild entdeckt, sollten Eltern ruhig reagieren und dem Kind deutlich sagen, dass es keine Schuld trägt. Nachrichten, Nutzernamen, Links und Zeitpunkte sollten dokumentiert werden. Das Bild selbst sollte nicht unnötig gespeichert oder weitergeschickt werden.
Bei Drohungen, Erpressung oder der Verbreitung sexualisierter Darstellungen Minderjähriger sollte die Polizei eingeschaltet werden. Auch die Schule muss informiert werden, wenn das Material unter Mitschülern verbreitet wird. Das Löschen einzelner Nachrichten reicht nicht aus, wenn das Kind weiterhin unter Druck gesetzt oder innerhalb der Schulgemeinschaft bloßgestellt wird.
Verbote und Aufklärung müssen parallel wirken
Kinder müssen lernen, KI-Fälschungen zu erkennen, Hilfe zu holen und verantwortungsvoll mit Bildern anderer Menschen umzugehen. Schulen sollten besprechen, dass das Erstellen und Verbreiten sexualisierter Fälschungen kein Scherz ist und schwerwiegende Folgen für Betroffene haben kann.
Diese Aufklärung entbindet Plattformen und KI-Unternehmen nicht von ihrer Verantwortung. Kinder können sich nicht allein gegen Werkzeuge schützen, die in wenigen Sekunden sexualisierte Bilder erzeugen, gegen Fremde, die sie unbemerkt anschreiben, oder gegen Systeme, die gezielt emotionale Bindungen aufbauen.
Die neuen Zahlen aus Großbritannien zeigen, dass sexualisierte KI-Fälschungen längst im Alltag Minderjähriger angekommen sind. Der britische Kurs ist deshalb interessant, weil er Verbote, technische Schutzvorgaben, Alterskontrollen und Medienbildung zusammenführt. Genau diese Verbindung brauchen wir auch in Deutschland.