Die EU geht gegen Porno-Deepfakes im Netz vor. Das Europaparlament hat für ein Verbot sogenannter Nudifier-Systeme gestimmt, mit denen künstliche Bilder und Videos erstellt werden können. Die EU-Staaten müssen noch zustimmen.
Das Europäische Parlament will KI-Systeme, die künstliche Nacktbilder generieren können, verbieten. Die Abgeordneten haben sich in Brüssel mit großer Mehrheit für ein Verbot ausgesprochen.
Die sogenannten Nudifier-Systeme verwenden Künstliche Intelligenz, um Bilder zu erstellen oder zu manipulieren, die explizit sexuell oder intim sind und einer identifizierbaren realen Person ähneln, ohne dass diese zugestimmt hat.
Solche Bilder und Videos “schädigen die Opfer und verletzen die Grundrechte auf Würde und Privatsphäre”, heißt es im Gesetzentwurf zur Begründung. Ein ausdrückliches Verbot sei “dringend geboten”.
“Über hundert Apps, die nichts anderes machen”
Die EU reagiert damit unter anderem auf Vorfälle Anfang des Jahres, als Nutzer mithilfe des Chatbots Grok von US-Milliardär Elon Musk Millionen sexualisierte KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Mehrere Länder und die EU-Kommission leiteten Ermittlungen gegen Grok ein – einige sperrten den Chatbot.
Neben den Grok-Fällen gebe es “über hundert Apps, die wirklich nichts anderes machen und absolut darauf spezialisiert sind, diese sexualisierten Bilder zu erstellen”, sagte die Grünen-Europaabgeordnete Alexandra Geese. Den Markt könne man sehr klar eingrenzen. Die Branche müsse verstehen, “dass es sich nicht lohnt, Geld in die Entwicklung solcher Systeme zu setzen”, so Geese.
Das letzte Wort haben die EU-Staaten
Bevor ein EU-weites Verbot wirksam werden kann, muss zunächst eine Einigung mit den EU-Mitgliedsländern getroffen werden. Die Staaten hatten sich vor kurzem für ein ähnliches Verbot ausgesprochen.
Die Bundesregierung arbeitet bereits seit einiger Zeit an einer Änderung im Strafgesetzbuch zum Thema digitale Gewalt. Der Gesetzentwurf von Justizministerin Stefanie Hubig soll diese Woche in die Frühabstimmung mit Kanzleramt und anderen Ministerien gehen. Geplant ist, das Erstellen und Verbreiten von Deepfakes künftig mit bis zu zwei Jahren Haft zu bestrafen.
Hubig hatte die Pläne vor dem Hintergrund des Falls der Schauspielerin Collien Fernandes angekündigt. Fernandes war in der vergangenen Woche mit Vorwürfen der digitalen sexualisierten Gewalt gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit gegangen. Ulmen selbst bestreitet die Anschuldigungen.
