Die EU geht gegen sexualisierte Deepfakes vor. Im Mittelpunkt stehen Programme zur Erstellung von solchen Bildern und Videos. KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes sollen in der EU künftig verboten sein. Vertreter der Mitgliedstaaten und des Europäischen Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte. Das Europaparlament und der Rat der EU-Länder haben sich bereits dafür ausgesprochen, KI-Anwendungen zu verbieten, mit deren Hilfe Nutzer solche Videos und Bilder von Menschen ohne deren Einwilligung erstellen können. Bevor die Änderungen in Kraft treten können, muss die Einigung noch vom Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. In der Regel gilt das als Formalie. Geht die Reform durch, würde das Verbot ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde. Was sind Deepfakes? Bei sogenannten Deepfakes wird etwa das Gesicht einer Frau in ein anderes Video - etwa eine Porno-Sequenz - eingefügt oder die Stimme künstlich nachgeahmt, so dass es wirkt, als würde sie Dinge tun oder sagen, die tatsächlich nie passiert sind. Durch die Entwicklung von KI ist die Erstellung täuschend echter Inhalte sehr viel einfacher geworden. Das neue Verbot soll explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen. Die FDP-Europaabgeordnete Svenja Hahn begrüßte die Einigung: "KI darf kein Werkzeug für sexualisierte Gewalt gegen Kinder sein", teilte sie nach den bis tief in die Nacht andauernden Verhandlungen mit. Fernandes-Affäre rückte Thema in den Mittelpunkt Auf EU-Ebene rückte das Thema Ende vergangenen Jahres durch den KI-Chatbot Grok in den Fokus: Bis die von Tech-Milliardär Elon Musk geführte US-Firma hinter der Software diese Funktion einschränkte, befahlen Menschen der KI immer wieder, Frauen in von ihnen ausgewählten Bildern zu entkleiden. An Silvester entschuldigte sich der Chatbot selbst dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt zu haben. In Deutschland bekam die Debatte über sexualisierte digitale Gewalt Ende März neue Dringlichkeit, als Collien Fernandes mit Vorwürfen gegen ihren Ex-Mann Christian Ulmen an die Öffentlichkeit ging. Sie wirft ihm vor, Fake-Profile in ihrem Namen erstellt und darüber pornografische Inhalte verbreitet zu haben. Für Ulmen gilt die Unschuldsvermutung. Großbritannien will an Firmenbosse gehen Im April hatte bereits die britische Regierung einen Vorstoß gemacht. Weigern sich Plattformen, entsprechende mit Künstlicher Intelligenz hergestellte Bilder oder Videos zu löschen, könnten "Führungskräfte des Technologie-Sektors persönlich zur Verantwortung gezogen werden", heißt es in einer Erklärung der Medienaufsichtsbehörde Ofcom vom Freitag. Dies schließe Geld- und Gefängnisstrafen ein. Meloni macht auf Deepfakes mit Unterwäsche-Bild aufmerksam Die italienische Ministerpräsidentin Giorgia Meloni hatte am Mittwoch mit einem Beitrag in mehreren Onlinediensten auf die Gefahren durch gefälschte Bilder und Videos aufmerksam gemacht, die mit Hilfe von Künstlicher Intelligenz (KI) erstellt wurden. Solche Deepfakes genannte Darstellungen seien "ein gefährliches Werkzeug", mit dem großer Schaden angerichtet werden könne, heißt es in dem Beitrag Melonis vom Dienstag. Konkret veröffentlichte die rechtspopulistische Regierungschefin ein KI-generiertes Bild, das sie in spärlicher Unterwäsche auf einem Bett sitzend zeigt. "Ich muss zugeben, dass derjenige, der hinter diesem Bild steckt, zumindest in diesem Fall dafür gesorgt hat, dass ich viel besser aussehe als in Wirklichkeit", schrieb Meloni selbstironisch in ihrem Beitrag.
