Spanien: Schülerinnen mit KI-Nacktbildern gemobbt

Es ist eine absolute Horrorvorstellung, was mehr als 20 Mädchen in Spanien in den letzten Wochen passiert ist: Von ihnen wurden mithilfe von KI-Software Nacktbilder gefälscht und von Mitschülern und Bekannten im Netz verbreitet. Sowohl die Betroffenen als auch diejenigen, die die Bilder erstellt und verbreitet haben, sind minderjährig, einige von ihnen unter 14 Jahren. Das jüngste Mädchen ist elf, das älteste 17. Netzpolitik.org und die spanische Zeitung "El País" hatten zuerst über den Fall berichtet.

Publik wurde der Skandal durch eine der Mütter der betroffenen Mädchen: Miriam Al Adib ist die Mutter von vier Töchtern im Alter zwischen 12 und 17 Jahren, arbeitet als Gynäkologin und setzt sich für die sexuelle Gesundheit von Frauen ein.

"El País" sagte sie, ihr Herz habe "einen Schlag ausgesetzt", als sie die Bilder gesehen habe.

Die Nacktbilder der Mädchen wurden mithilfe frei im Internet zugänglicher Programme erstellt. Nach Angaben der spanischen Polizei war auf einem der Bilder das Logo einer Website zu sehen, mit dem das Bild generiert wurde.

Im Netz gibt es unzählige Seiten, die anbieten, diese sogenannten Deepnudes zu erstellen. Der Name setzt sich aus dem Begriff "Deepfake" und dem englischen Wort für nackt (nude) zusammen. Auf den Seiten genügt es, das Foto einer angezogenen Person hochzuladen und die Software generiert ein Nacktbild.

Die Technologie dahinter basiert auf Deep-Learning-Algorithmen, die Kleidung erkennen und aus Bildern entfernen können. Diese Algorithmen werden mit großen Bilddatensätzen trainiert, die Menschen mit unterschiedlicher Kleidung zeigen. Ist der Algorithmus trainiert, kann er aus nahezu jedem Bild die Kleidung entfernen und durch nackte Haut ersetzen. Die Vorlagen für die Nacktbilder stammen dabei meist aus pornografischen Videos oder Erotikbildern. Daher funktionieren derartige Programme sehr viel besser mit Bildern von Frauen, da die Programme auf mehr Inhalte zurückgreifen können.

So passiert es immer wieder, dass gerade Frauen mit gefälschten pornografischen Aufnahmen oder Nacktbildern geschadet wird. Anfang Mai hatte die Tiktokerin rache.lzh5 öffentlich gemacht, dass von ihr Nacktbilder im Netz verbreitet würden. Die Grundlage dafür waren Bilder, die sie vorher angezogen von sich gepostet hatte.

Bereits 2020 hatten Forscher von einem "Deepfake-Ökosystem" in der Messaging-App Telegram berichtet: Dort hätten automatisierte Bots auf Anfrage gefälschte Aktfotos generiert, wenn Nutzer Bilder der entsprechenden Personen in den Kanal geschickt hätten. Eine Untersuchung aus dem Jahr 2019 stellte fest, dass schon damals 96 Prozent aller online existierenden Deepfakes "nicht-einvernehmliche Pornografie" sei.

Mittlerweile hat sich in Spanien auch Justizministerin Pilar Llop zu den jüngsten Fällen geäußert. Sie warnt, dass das Erstellen von Bildern von Minderjährigen mit sexuellem Inhalt ein Verbrechen sei und dass die Programme dafür "immer raffinierter werden".

Um Opfer zu unterstützen und beraten, will das Jusitzministerium eine Hilfestelle einrichten. Eine klare Rechtsprechung, wie mit derartigen Fällen umgegangen wird, gebe es in Spanien aktuell allerdings noch nicht.