Unsere Kinder nackt im Netz?
Achtung vor KI und deepfakes
(20.11.2023) Künstliche Intelligenz (KI) ist jetzt so weit, dass man fast jedes Foto in eine ultra-realistische Montage verwandeln kann. Das klingt erstmal nach Science-Fiction, hat aber eine echt düstere Seite, besonders wenn's um Kinderfotos geht. Stell dir vor, irgendjemand nimmt ein normales Kinderfoto und macht daraus ein Nacktbild. Das ist nicht nur creepy, sondern auch ein riesiges Problem.
In Almendralejo, einer Stadt in Spanien, sind mehr als 20 Mädchen zwischen 11 und 17 Jahren Opfer von solchen KI-veränderten Nacktbildern geworden. Und in New Jersey, USA, gab's einen Fall, wo Schüler an einer Highschool beschuldigt wurden, pornografische KI-Bilder von ihren Mitschülern gemacht zu haben. Das Verrückte ist, dass solche Deepfakes oft nicht mal illegal sind, außer sie verletzen Persönlichkeitsrechte. Echte Videos sind von Deepfakes mit freiem Auge nicht, oder nur sehr schwer zu unterscheiden, wie das Beispiel zeigt.
Deepfakes sind diese mega realistischen Medieninhalte, die durch KI erzeugt oder verändert werden. Die Internet Watch Foundation hat in ihrem neuesten Bericht einen gewaltigen Anstieg von KI-generierten pornografischen Darstellungen festgestellt. In nur einem Monat haben sie über 20.000 solcher Bilder in einem Forum entdeckt, das Material zu sexuellem Kindesmissbrauch verbreitet.
Kinderrechtsaktivisten warnen schon lange, dass das Posten von Kinderbildern online gefährlich sein kann. Sarah Adams, auch bekannt als Mom.Uncharted, sagt, dass Eltern, die Fotos ihrer Kids auf Social Media teilen, das Risiko erhöhen. Ihr Rat: Am besten gar nichts von Minderjährigen online posten.
Auch die großen Social-Media-Plattformen wie Meta (Facebook, Instagram) stehen unter Beschuss, weil sie nicht sicher genug für Kinder und Jugendliche sind. Der US-Kongress überlegt sogar, ein Verbot für bestimmte Deepfakes einzuführen. In Großbritannien hat die Regierung hohe Geldstrafen für KI-generierte Inhalte, die sexuellen Missbrauch von Kindern darstellen, angekündigt. Und die EU arbeitet an einem KI-Gesetz, das noch abgestimmt werden muss. Bis das Gesetz in Kraft tritt, setzt die EU auf die freiwillige Selbstkontrolle der Unternehmen. Echt arg, was mit KI alles möglich ist. Wir sollten alle orsichtig sein, was wir im Netz teilen, besonders wenn es um Fotos von Kinders geht.
(fd)