Britische Behörden warnen Eltern vor "echter" KI-Bedrohung, während Bilder von sexuellem Kindesmissbrauch zunehmen, und fordern Eltern auf, das Teilen von Fotos einzuschränken

LONDON, 4. Juli — Eltern wurden davor gewarnt, Bilder ihrer Kinder online zu stellen, da diese zur Erstellung von sexuellem Missbrauchsmaterial verwendet werden könnten, das durch künstliche Intelligenz (KI) generiert wurde, teilte die National Crime Agency (NCA) laut PA Media/dpa mit.

Neue Richtlinien zum Schutz von Kindern vor dem Anstieg von KI-Bildern zum sexuellen Kindesmissbrauch wurden von der NCA und der Internet Watch Foundation (IWF) im Rahmen einer neuen Kampagne für Eltern und Betreuungspersonen veröffentlicht, so die NCA.

Dies geschieht, nachdem eine Schule im Vereinigten Königreich (UK) Ziel von kriminellen Banden wurde, die öffentlich verfügbare Bilder von Schülern verwendeten, um mithilfe von KI-Technologie sexuelle Bilder der Kinder zu erstellen, und dann damit drohten, die Bilder zu veröffentlichen, sofern keine Zahlung geleistet wird, so die IWF.

Die Organisationen haben auch Alarm wegen eines starken Anstiegs bei der Nutzung von KI-Tools zur Erstellung von Bildern zum sexuellen Kindesmissbrauch geschlagen: IWF-Analysten fanden im Jahr 2025 3.440 KI-generierte Videos, verglichen mit nur 13 im Jahr 2024.

Die neue Kampagne zielt darauf ab, Eltern und Betreuungspersonen dabei zu helfen, fundierte Entscheidungen über die Bilder ihrer Kinder zu treffen, die Einwilligung zur Bildnutzung zu bedenken und mit Kindern über die Gefahren von KI und "Deepfake"-Sexualbildern zu sprechen, so die NCA.

„Die Bedrohung ist beunruhigend“, sagte Kerry Smith, Geschäftsführerin der IWF.

„Wenn Bilder von jemandem online sind, können sie leicht zur Beute für Kriminelle werden, und jeder, insbesondere Kinder, könnte ins Visier geraten.

Wir wollen nicht sagen, dass man die Bilder seiner Kinder nicht mit Menschen teilen soll, die man liebt und denen man vertraut, aber wir möchten, dass sich jeder der potenziellen Risiken bewusst ist und eine fundierte Entscheidung auf der Grundlage aller verfügbaren Fakten trifft.

„Dies sind keine hypothetischen Bedrohungen, sie sind real“, fügte Smith hinzu.

„Die Auswirkungen solcher Bilder können verheerend sein.

Die Schäden sind sehr real. Und das Potenzial für dauerhafte Schäden ist etwas, das meiner Meinung nach jeder Elternteil mit allen Mitteln zu verhindern versuchen würde.

Wir wollen ihnen diese Macht zurückgeben und eine öffentliche Debatte darüber anstoßen, ob wir standardmäßig Bilder online teilen sollten.“

Kriminelle, die zuvor eine britische Schule erpresst hatten, erstellten mehr als hundert sexuelle Bilder von deren Schülern unter Verwendung von Bildern von der Schulwebsite, warnte die IWF.

Obwohl es der IWF gelang, das Hochladen der Bilder zu verhindern, bleibt die Befürchtung, dass in Zukunft weitere Schulen ins Visier genommen werden könnten.

Durch KI generierte Bilder zum sexuellen Kindesmissbrauch werden mit der Verbesserung der Technologie immer weiter verbreitet und realistischer, warnten die IWF und NCA ebenfalls.

KI wird auch zur Erstellung gewalttätigerer Inhalte verwendet: 65 Prozent der im Jahr 2025 identifizierten 3.443 KI-generierten Videos zum sexuellen Kindesmissbrauch wurden als Kategorie A eingestuft – die schwerwiegendste rechtliche Kategorie nach britischem Recht, die Straftaten wie Vergewaltigung und sexuelle Folter umfasst.

Im Vergleich dazu waren 43 Prozent der von der IWF im Jahr 2025 gesehenen nicht-KI-kriminellen Videos zum Kindesmissbrauch der Kategorie A zuzuordnen.

Die IWF identifizierte im Jahr 2025 auch 8.029 KI-generierte Bilder und Videos von realistischem sexuellem Kindesmissbrauch – ein Anstieg der kriminellen KI-Inhalte um 14 Prozent gegenüber dem Vorjahr.

Die neuen Richtlinien schlagen vor, eine „Close Friends“-Gruppe für Eltern und Betreuungspersonen einzurichten, die weiterhin Bilder ihrer Kinder online teilen möchten, oder die Datenschutzeinstellungen in Social-Media-Beiträgen so anzupassen, dass nur eine ausgewählte Anzahl von Personen sie sehen kann.

Sie enthalten auch Ratschläge, wie man mit Kindern und Jugendlichen über KI und die Einwilligung zur Bildnutzung spricht, und was zu tun ist, wenn sie ins Visier genommen werden oder Bilder von ihnen erstellt oder online geteilt werden.

Eltern wurden zudem ermutigt, Kinder und Jugendliche darüber zu informieren, dass Nacktbilder oder halbnackte Bilder von Unter-18-Jährigen online gemeldet und entfernt werden können – einschließlich solcher, die mit KI erstellt oder verändert wurden.

Der Report-Remove-Dienst, der von der National Society for the Prevention of Cruelty to Children (NSPCC) und der IWF betrieben wird, bietet auch psychologische Unterstützung für junge Menschen.

Tim Wright von der National Crime Agency sagte: „Werkzeuge der künstlichen Intelligenz werden immer leistungsstärker, weiter verbreitet und einfacher zu bedienen, und wir sehen, wie Straftäter sie nutzen, um Kinder auf neue Weise ins Visier zu nehmen.

Online geteilte Bilder, selbst alltägliche Familienfotos, können gestohlen und manipuliert werden, um sexualisierte Inhalte zu erstellen, ohne dass ein Kind oder ein Elternteil davon weiß.

Während wir und unsere Kollegen bei der Polizei die Straftäter bekämpfen, bleibt die Prävention von entscheidender Bedeutung.

Wir ermutigen Eltern und Betreuungspersonen, noch heute ein paar einfache Schritte zu unternehmen: Überprüfen Sie die Datenschutzeinstellungen in Social-Media-Konten; überlegen Sie genau, wer auf Bilder ihrer Kinder zugreifen kann; und sprechen Sie offen mit Familie, Freunden, Schulen und Vereinen über das Teilen von Bildern und Einwilligungen.“

„Am wichtigsten ist: Wenn doch etwas schiefgeht, bleiben Sie ruhig, versichern Sie Ihrem Kind, dass es keine Schuld trifft, und melden Sie Bedenken der Polizei oder dem CEOP [Child Exploitation and Online Protection], damit so schnell wie möglich Maßnahmen ergriffen werden können.“

Bilder und Videos von sexuellem Kindesmissbrauch sind im Vereinigten Königreich illegal, unabhängig davon, ob sie mit KI erstellt oder verändert wurden oder nicht.

Die IWF hat auch Technologieunternehmen aufgefordert, ihre KI-Modelle vor der Veröffentlichung zu bewerten und abzusichern, um es Kriminellen schwerer zu machen, generative KI zur Erstellung von Missbrauchsmaterial von Kindern zu verwenden. — Bernama-PA Media/dpa