Europa acuerda prohibir sistemas de inteligencia artificial que permitan crear ‘deepfakes’ sexuales
La Unión Europea alcanzó un acuerdo político para prohibir los sistemas de inteligencia artificial (IA) que permitan crear imágenes sexualizadas sin consentimiento y pornografía infantil, según informaron medios como DW y El País.
El acuerdo fue alcanzado entre el Parlamento Europeo y el Consejo de la Unión Europea como parte de modificaciones a la Ley de IA del bloque europeo. La normativa también contempla retrasar la entrada en vigor de obligaciones para sistemas de IA considerados de alto riesgo.
La nueva regulación prohibirá comercializar en la Unión Europea sistemas diseñados para crear contenido sexual explícito no consentido mediante IA. También se vetarán plataformas que puedan generar ese material si no cuentan con “medidas de seguridad razonables para impedir dicha creación”.
Esta prohibición incluye aplicaciones utilizadas para crear deepfakes sexuales no autorizados en imágenes, audio y video. La medida también abarca contenido relacionado con abuso sexual infantil generado mediante IA.
Las empresas tendrán hasta el 2 de diciembre de este año para adaptar sus sistemas a las nuevas disposiciones. Esa fecha marcará el inicio de la aplicación de la prohibición en territorio europeo.
El acuerdo también modifica el calendario de aplicación de reglas para sistemas de IA de alto riesgo. La implementación de esas obligaciones se aplazó hasta el 2 de diciembre de 2027. Las normas abarcan sistemas relacionados con biometría, infraestructura crítica, educación, empleo, aplicación de la ley y gestión migratoria.
Los sistemas de IA utilizados como componentes de seguridad y regulados por legislación sectorial europea tendrán plazo hasta el 2 de agosto de 2028 para cumplir las disposiciones.
Además, la normativa retrasa la aplicación obligatoria del marcado digital o watermarking para contenidos generados con inteligencia artificial, mecanismo utilizado para detectar y rastrear contenido creado mediante IA.
El acuerdo también excluye determinada maquinaria de las obligaciones de la Ley de IA al considerar que ya cumple reglas sectoriales de seguridad.
La vicepresidenta de la Comisión Europea para Soberanía Tecnológica, Henna Virkkunen, afirmó, según declaraciones citadas por El País, que el acuerdo busca combinar innovación y seguridad. “Nuestras empresas y los ciudadanos quieren dos cosas de las normas sobre la inteligencia artificial: quieren que sean innovadoras, pero también sentirse seguros. El acuerdo de hoy cumple las dos cosas”, manifestó.
Por su parte, la ministra adjunta para Asuntos Europeos de Chipre, Marilena Raouna, indicó, según la DW, que el acuerdo “reduce costos administrativos recurrentes” y busca una implementación “más armonizada” de las reglas en la Unión Europea.
El acuerdo todavía debe ser ratificado formalmente por el Parlamento Europeo y los gobiernos de los Estados miembros, trámite que se considera una formalidad.