El Gobierno solicitará a la Fiscalía que investigue a X, Meta y Tiktok por la creación de pornografía infantil con IA

El Consejo de Ministros pedirá a la Fiscalía este martes que abra una investigación a las grandes plataformas de redes sociales, X, TikTok y Meta, por la creación y difusión de pornografía infantil mediante Inteligencia Artificial . «Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas», ha escrito Pedro Sánchez en X. Ya el pasado mes de enero, la ministra de Juventud e Infancia, Sira Rego, remitió un escrito a la Fiscalía General del Estado para solicitar que investigue a la inteligencia artificial de X, Grok, por presuntos delitos de difusión de material de violencia sexual contra la infancia. Se estaba utilizando Grok para generar «material de violencia sexual contra personas menores de edad» gracias a su función de edición de imágenes. Con ella, era fácil desnudar imágenes reales o manipularlas para colocar a personas en posiciones sexuales. De acuerdo con un estudio elaborado por el Centro para la Lucha contra el Odio Digital, solo entre el pasado 29 de diciembre y el 8 de enero, Grok fue empleado para la creación con IA de 3 millones de imágenes sexualizadas realistas a partir de fotografías auténticas. Entre ellas, 23.000 de niños. Tras ser amenazado con multas en varios países, el empresario Elon Musk decidió restringir el acceso a la herramienta de edición de imágenes a los miembros de pago . A raíz del escándalo, la Comisión Europea también abrió también el pasado mes de enero una investigación a la red social propiedad de Musk. En España, existe una sentencia del juzgado de Menores de Badajoz por la cual se condenó a varias personas por la utilización de inteligencia artificial para manipular imágenes de niñas y adolescentes. Dicha resolución reconoce estas prácticas como una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral, tal y como se expone en el documento remitido a la Fiscalía.