Grok & Co.: Hubig will strengere Regeln gegen KI-generierte Sex-Bilder

Sexualisierte KI-Bilder von Frauen und Kindern kursieren massenhaft online. Justizministerin Hubig fordert: Strafen verschärfen, Rechte stärken – und Plattformen mehr in die Pflicht nehmen.

Bundesjustizministerin Stefanie Hubig will härter gegen das Erstellen und Verbreiten mit Künstlicher Intelligenz erzeugter sexualisierter Bilder vorgehen. "Wir müssen Betroffene noch besser vor solchen KI-Bildmanipulationen schützen. Es muss einfacher werden, sich gegen Verletzungen von Persönlichkeitsrechten zu wehren", sagte die SPD-Politikerin der "Neuen Osnabrücker Zeitung". Zugleich kündigte sie an: "Wir müssen auch das Strafrecht noch einmal nachschärfen: Wir brauchen Straftatbestände, die das Problem der digitalen Bildmanipulationen gezielt adressieren." 

Hintergrund sind etwa von der KI Grok auf Elon Musks Online-Plattform X generierte sexualisierte Bilder. "Ich finde es fürchterlich, wenn mit KI-Tools wie Grok massenhaft anzügliche Bilder von Frauen erzeugt werden – etwa indem ihnen ohne jede Einwilligung aufreizende Bikinis angezogen werden", sagte Hubig. Dabei würden Persönlichkeitsrechte verletzt und Frauen "zu Objekten herabgesetzt". Besonders verwerflich sei die Erstellung sexualisierter KI-Bilder von Kindern und Jugendlichen: "Das dürfen wir nicht hinnehmen." 

"Erstellen Entwurf für digitales Gewaltschutzgesetz"

Zwar könnten Besitz und Verbreitung kinderpornografischer Darstellungen bereits heute mit hohen Strafen geahndet werden, auch KI-generierte Bilder könnten darunter fallen. Zudem gebe es rechtliche Möglichkeiten gegen manipulierte Bilder von Erwachsenen. Das reiche aber nicht aus. "Wir erstellen derzeit den Entwurf für ein digitales Gewaltschutzgesetz. Wir wollen angemessene Strafen für Deepfakes, die die Persönlichkeitsrechte von Betroffenen verletzen."

Ein weiterer Aspekt sei die bessere Durchsetzbarkeit eigener Rechte. Betroffene müssten erreichen können, "dass die Verbreitung entsprechender Bilder schnell gestoppt und sie von den Plattformen entfernt werden". Das könne auch bedeuten, "dass Accounts, über die immer wieder schwere Rechtsverletzungen begangen werden, von den Plattformen zeitweise gesperrt werden müssen". 

Hubig: "Mit Zensur hat das nichts zu tun" 

Vorwürfe, damit werde die Meinungsfreiheit eingeschränkt, wies Hubig zurück. "Mit Zensur hat das nichts zu tun." Die Meinungsfreiheit ende dort, "wo Persönlichkeitsrechte verletzt werden". Ein Verbot von Software oder das Abschalten von Plattformen strebe sie nicht an. Die Regulierung liege weitgehend bei der EU; sie unterstütze die von EU-Kommissionspräsidentin Ursula von der Leyen eingeleitete Überprüfung von X und Grok.