Ein neuer Vorstoß im britischen Parlament könnte die Bildkontrolle auf Smartphones deutlich ausweiten. Eine parteiübergreifende Gruppe will Hersteller verpflichten, Software in Mobilgeräte einzubauen, die Darstellungen sexualisierter Gewalt gegen Kinder erkennt und blockiert. Nach den Plänen könnte die Prüfung für alle Nutzer gelten. Auch bereits verkaufte Geräte könnten über verpflichtende Updates einbezogen werden.
Noch ist das kein geltendes Gesetz. Die technischen Regeln, der genaue politische Weg und der Umgang mit Fehlalarmen sind offen. Für Familien geht es deshalb zunächst um eine politische Grundsatzfrage: Wie kann Technik Kinder vor sexualisierter Gewalt schützen, ohne private Geräte pauschal und undurchsichtig zu kontrollieren?
Bild generiert mit Hilfe von KI
Was der Vorschlag vorsieht
Nach einem Bericht des Observer wollen der konservative Oberhauspolitiker John Nash und die Labour-Abgeordnete Jess Phillips eine gesetzliche Pflicht erreichen. Smartphones und Tablets sollen Fotos und Videos prüfen können, bevor sie angezeigt, erstellt oder weitergegeben werden. Erfasst werden sollen demnach auch computergenerierte Darstellungen. Die Initiatoren wollen außerdem verhindern, dass entsprechende Livevideos übertragen werden.
Der Vorschlag geht über die bisherigen Pläne der Regierung hinaus. Im September kündigte sie an, Herstellern gesetzliche Vorgaben zum Schutz von Minderjährigen zu machen. Gerätefunktionen sollen verhindern, dass Unter-18-Jährige Nacktbilder aufnehmen, ansehen oder verschicken. Diese Schutzvorkehrungen sollen standardmäßig eingeschaltet sein. Erwachsene müssten ihr Alter nach einem robusten Verfahren nachweisen, um entsprechende Inhalte weiterhin nutzen zu können. Die Regierung beschreibt damit ein Vorhaben für Kinder und Jugendliche. Die neue Initiative will die Bildprüfung dagegen auf sämtliche Nutzer ausdehnen.
Die beiden Ansätze sind also nicht gleichzusetzen. Die Regierung will Minderjährige vor Nacktaufnahmen schützen. Der weitergehende Parlamentsvorstoß richtet sich gegen Darstellungen sexualisierter Gewalt gegen Kinder und würde nach den bisher berichteten Plänen auch Erwachsene betreffen. Wie genau beide Vorhaben zusammengeführt werden könnten, ist noch nicht bekannt.
Was bedeutet Bildprüfung auf dem Gerät?
Die Initiatoren beschreiben eine Technik, die Inhalte auf dem Smartphone erkennt und blockiert, bevor sie sichtbar werden oder das Gerät verlassen. Die Einzelheiten der Umsetzung sind bisher nicht veröffentlicht. Daher lässt sich noch nicht sagen, ob die Hersteller mit bekannten Bildabgleichen, automatischer Bilderkennung oder einer Kombination verschiedener Verfahren arbeiten sollen.
Entscheidend ist auch, was mit einem Treffer geschieht. Wird ein Bild nur verdeckt? Wird es gelöscht oder kann es nicht mehr verschickt werden? Wird die betroffene Person informiert? Wird ein Ergebnis irgendwo gespeichert oder gemeldet? Die bisher verfügbaren Angaben beantworten diese Fragen nicht. Auch für den Schutz verschlüsselter Kommunikation und für ältere Geräte fehlen konkrete Regeln.
Eine Prüfung, die vollständig auf dem Gerät bleibt, ist technisch etwas anderes als ein automatischer Upload der Bilder an einen Server. Zugleich verarbeitet auch ein lokales System private Fotos und Videos. Wie es programmiert ist, welche Inhalte es erkennt und ob Treffer das Gerät verlassen, wäre für die Privatsphäre entscheidend. Die Formulierung auf dem Gerät allein erklärt diese Grenzen noch nicht.
Fehlalarme und Grenzen der Erkennung
Kein Bilderkennungssystem ist fehlerfrei. Ein Filter kann harmlose Inhalte fälschlich blockieren oder problematische Darstellungen übersehen. Bei einer optionalen Warnung kann die Nutzerin oder der Nutzer möglicherweise selbst entscheiden, ob ein Bild geöffnet wird. Eine verpflichtende Sperre hätte andere Folgen: Betroffene bräuchten einen verständlichen Weg, einen Fehler prüfen und korrigieren zu lassen.
Für Eltern ist das nicht nur eine technische Randfrage. Auf einem Familiengerät können private Fotos, medizinische Bilder oder Nachrichten aus dem Alltag liegen. Eine Regelung müsste erklären, welche Inhalte tatsächlich geprüft werden und welche Folgen ein Treffer hat. Ebenso wichtig sind unabhängige Tests, transparente Fehlerquoten und ein Verfahren, das Nutzer nicht allein mit einer automatischen Entscheidung zurücklässt.
Warum die Zahlen die Debatte antreiben
Die Internet Watch Foundation (IWF), eine britische Organisation, die im Internet nach Darstellungen sexualisierter Gewalt gegen Kinder sucht und deren Entfernung unterstützt, meldete für 2025 insgesamt 312.030 Fälle, in denen ihre Fachleute entsprechendes Material bestätigten. Das waren sieben Prozent mehr als die 291.730 bestätigten Fälle im Jahr 2024.
Die Zahlen beschreiben die Arbeit und Funde der IWF. Sie sind keine vollständige Zählung sämtlicher Darstellungen im Internet und sagen nicht, wie viele davon auf Smartphones erstellt wurden. Zusätzlich fand die Organisation 3.440 KI-generierte Videos mit Missbrauchsdarstellungen, gegenüber 13 im Vorjahr. Etwa 65 Prozent dieser Videos wurden von der IWF in die schwerste Kategorie eingeordnet. Die stark gestiegene Zahl zeigt, dass KI-generierte Inhalte einen wachsenden Teil der Funde ausmachen. Sie belegt für sich genommen jedoch nicht, welche konkrete Gerätekontrolle wirksam wäre.
Auch künstlich erzeugte Darstellungen können Kinder unmittelbar betreffen, etwa wenn ein echtes Kinderfoto manipuliert wird. Die IWF weist darauf hin, dass das Erstellen, Besitzen und Verbreiten entsprechender Missbrauchsdarstellungen in Großbritannien bereits strafbar ist, unabhängig davon, ob sie mit KI erzeugt wurden.
Was Apple bereits anbietet
Apple hat seit iOS 17 die Funktion „Hinweis auf sensible Inhalte“. Sie kann in bestimmten Situationen Nacktheit in empfangenen Bildern oder Videos erkennen und den Inhalt zunächst verdecken. Dazu gehören laut Apple unter anderem Nachrichten, AirDrop und FaceTime-Videonachrichten. Die Analyse findet nach Angaben des Unternehmens auf dem Gerät statt. Apple erhält dadurch keine Information darüber, dass ein konkreter Inhalt als sensibel erkannt wurde.
Beispielhafte Darstellung einer Warnkarte. Bild generiert mit Hilfe von KI.
Die Funktion ist eine Warnung vor Nacktheit, keine allgemeine Suche nach Missbrauchsdarstellungen in sämtlichen Fotos auf dem iPhone. Erwachsene können das Bild nach dem Hinweis selbst freigeben. Für Kinder gibt es zusätzlich Kommunikationssicherheit, die beim Umgang mit Nacktheit unterstützen und je nach Einstellung weitere Hinweise geben kann.
Der britische Vorschlag wäre damit weiter gefasst. Er zielt auf eine verpflichtende Erkennung und Blockierung bestimmter Missbrauchsdarstellungen, einschließlich KI-generierter Inhalte. Aus Apples heutiger Warnfunktion folgt nicht, dass Smartphones bereits sämtliche Fotos kontrollieren oder dass sich eine allgemeine Sperre ohne weitere technische und rechtliche Fragen einfach umsetzen ließe.
Was Eltern jetzt wissen und tun können
Für Familien in Deutschland ändert der britische Vorschlag derzeit nichts. Er ist eine politische Initiative, keine bereits geltende Regel. Eltern müssen deshalb keine Geräteeinstellungen wegen dieses Vorstoßes ändern.
Unabhängig von der Debatte hilft es, mit Kindern darüber zu sprechen, was sie tun können, wenn ihnen ein Nacktbild oder ein verstörendes Video geschickt wird: nicht weiterleiten, den Chat nicht allein bewältigen müssen und sich an eine vertraute erwachsene Person wenden. Wenn ein Kind selbst betroffen ist, sollte es Unterstützung bekommen, ohne Vorwürfe oder Schuldzuweisungen. Verdächtige Inhalte sollten nicht weiterverbreitet werden. Eine Meldung kann über die Plattform oder eine zuständige Beratungs- und Meldestelle erfolgen.
Bei einer gesetzlichen Regelung wird entscheidend sein, ob die Technik wirksam schützt und zugleich nachvollziehbar begrenzt ist. Dazu gehören klare Vorgaben für erfasste Inhalte, unabhängige Prüfungen, verständliche Informationen über Treffer und ein verlässlicher Umgang mit Fehlentscheidungen. Die bisher bekannt gewordenen Vorschläge lassen diese Punkte noch offen.