Infancia
Infancia pide investigar a X por un posible delito de pornografía infantil tras el informe sobre Grok

El departamento de Sira Rego ha enviado una petición a la Fiscalia General del Estado tras difundirse un informe que muestra el uso de Grok, la inteligencia artificial integrada en la red social de Elon Musk, para desnudar a mujeres y personas menores de edad. La ministra de Juventud e Infancia, Sira Rego, ha remitido un escrito a la Fiscalía General del Estado para solicitar que investigue a la inteligencia artificial de X (antes Twitter) por presuntos delitos de de difusión de material de violencia sexual contra la infancia.

Lo ha hecho en la tarde de este miércoles 7 de enero y después de que varios medios de comunicación se hicieran eco de un informe de la organización IA Forensics que analiza miles de tuits y de imágenes. El análisis muestra cómo Grok, la inteligencia artificial integrada en X, red social del multimillonario Elon Musk, se utiliza de manera sistemática para producir sin consentimiento imágenes sexualizadas de mujeres y de personas menores de edad.

Un informe de la organización IA Forensics muestra cómo Grok se utiliza de forma sistemática para producir sin consentimiento imágenes sexualizadas de mujeres y personas menores de edad

Para la ministra de Juventud e Infancia se trataría de “material de violencia sexual contra personas menores de edad”, ha explicado, “una práctica que no puede entenderse como un uso neutro de la tecnología”. El ministerio pide a la Fiscalía que investigue si este uso de Grok puede constituir un delito de pornografía infantil, tal y como está recogido en el Artículo 189 del Código Penal, así como un delito contra la integridad moral, recogido en el artículo 173. “Se trata de prácticas que vulneran gravemente la dignidad, la intimidad y los derechos fundamentales de niñas, niños y adolescentes en el entorno digital”, sostiene.

En su escrito, Sira Rego alude a la sentencia del Juzgado de Menores de Badajoz 86/2024, de 20 de junio, por la cual se condenó a varias personas por la utilización de inteligencia artificial para manipular imágenes de niñas y adolescentes. Dicha resolución reconoce estas prácticas como una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral, tal y como se expone en el documento remitido a la Fiscalía.

Para la ministra Sira Rego, se trata de una vulneración de derechos fundamentales”, por lo que pide la actuación “urgente” de la Fiscalía General del Estado

Para la ministra, “estamos ante una vulneración de derechos fundamentales”, por lo que pide la actuación “urgente” de la Fiscalía por unos hechos “gravísimos” y que “impulse las actuaciones necesarias para garantizar la protección de la infancia también en internet”, poniendo freno a prácticas que atentan contra su dignidad y su desarrollo libre y seguro en el espacio digital.

España se suma así a los países que han pedido actuar contra la IA de X. El 2 de enero lo hizo Francia, al anunciar que presentaría una denuncia contra Grok por la creación y difusión de “contenidos de carácter sexista y sexual manifiestamente ilegal”, una iniciativa impulsada por los ministerios de Economía e Igualdad. El Gobierno británico pidió el martes 5 de enero a Elon Musk y a su red social que adopten medidas urgentes para frenar el uso de Grok. La ministra británica de Tecnología, Liz Kendall, respaldó públicamente las advertencias del regulador de comunicaciones, OFCOM. También Irlanda ha reaccionado pidiendo una reunión con X. La Comisión Europea anunció el lunes que está investigando casos de imágenes sexuales no consentidas y explícitas. 

Ley de entornos digitales en tramitación

Actualmente, el Congreso de los Diputados se encuentra tramitando la Ley Orgánica para la Protección de las Personas Menores de Edad en los Entornos Digitales, promovida por el Ministerio de Juventud e Infancia, con el objetivo de situar la dignidad, la seguridad y los derechos de la infancia en el centro del espacio digital, tal y como ha recordado el ministerio. 

Esta ley plantea, entre otras medidas, elevar la edad mínima para usar redes sociales de los 14 a los 16 años. En diciembre de 2025, Australia se convirtió en el primer país del mundo en prohibir las redes sociales a personas menores de esa edad.

La iniciativa forma parte de una estrategia más amplia de construcción de entornos digitales seguros, que reconoce que internet y las plataformas no fueron diseñadas pensando en la infancia y que es imprescindible garantizar que niñas, niños y adolescentes puedan desarrollarse en el  sin violencia, sin exposición y sin mercantilización de su imagen. La ley refuerza el marco de protección de la integridad y la intimidad personal frente a nuevas formas de vulneración vinculadas al uso de tecnologías como la inteligencia artificial, reafirmando que el interés superior del menor debe prevalecer siempre frente a cualquier modelo de negocio digital, explican fuentes del ministerio.