Tecnología
Para qué sirve la IA de Musk: desnudos sistemáticos de mujeres, imágenes pederastas y contenido extremista

Un estudio que analizó miles de tuits que mencionaban a Grok muestra cómo esta herramienta se utiliza para generar contenido sexual no consentido y propaganda extremista. Los principales datos indican que el 53 % de las imágenes generadas por esta IA desarrollada por la red social de Elon Musk, X, contenía personas con “vestimenta mínima”. De ellas, ​​el 81 % eran mujeres y el 2 % representaba a personas que parecían tener 18 años o menos. Además, el 6 % involucraba a figuras públicas. Entre las principales conclusiones, el estudio indica que Grok se utilizó también para generar material de propaganda nazi y del ISIS.

El documento Flash Report: Grok de la organización AI Forensics explica que el estudio se basa en el análisis de datos de 50.000 tuits que mencionaban a Grok publicados entre el 25 de diciembre de 2025 y el 1 de enero de 2026 sin ningún filtro de contenido específico, una recopilación no es exhaustiva pero sí suficiente para caracterizar el uso de Grok por parte de los usuarios de X, dice el informe.

Grok es un asistente de inteligencia artificial desarrollado por AI, la empresa de IA de Elon Musk, que opera dentro de la plataforma X. Está diseñado para responder preguntas y realizar tareas. Fue lanzado en noviembre de 2023 y se presentó desde su lanzamiento como una versión de asistente de IA con menos limitaciones éticas a la hora de generar contenido. Las respuestas de Gemini sobre este asistente lo describen como una herramienta que ofrece “una perspectiva única y, a veces, polémica, con acceso a información fresca y una personalidad rebelde”. 

Órdenes explícitas, peticiones de hombres

Para el estudio, se recopilaron 50.000 tuits y 20.000 imágenes entre los días 25 de diciembre y 1 de enero. La gran mayoría de los tuits que mencionan a Grok están escritos en inglés, seguidos del español, el portugués, el francés, el turco y el japonés, algo que parece coincidir con la base de usuarios general de X, según el informe. El 95,3 % de las menciones a Grok se producen como respuestas a otros tuits y el resto aparece en tuits originales. Al menos una cuarta parte de las menciones a Grok durante el período analizado fueron solicitudes de generación de imágenes. 

El estudio concluye que, de las 20.000 imágenes analizadas, en el 94 % había una persona presente. De ellas, el 74 % eran mujeres.  En las imágenes que mostraban personas, el 55 % contenía a personas con poca ropa, de ellas el 81 % eran mujeres. Las mujeres de las imágenes tienen una edad media estimada de 22,5 y el 92% de las mujeres representadas parecían tener menos de 30 años. La edad media estimada de los hombres es de 31,5. Solo un 40% tienen una edad de menos de 30 años.

Especialmente alarmante es el uso de Grok para generar imágenes sexuales de personas menores de edad. El estudio indica que esto ocurre en un 2% de las imágenes

Especialmente alarmante es el uso de Grok para generar imágenes sexuales de personas menores de edad. El estudio indica que esto ocurre en un 2% de las imágenes. Algunas imágenes generadas representaban a niños menores de cinco años. La mayoría de los demás ejemplos involucraban a adolescentes, la gran mayoría de ellas con apariencia femenina. En algunos casos, puntualiza el documento, son las propias personas las que piden transformar imágenes de sí mismas, de manera no sexual. Por ejemplo una usuario que dio la orden “dibújame como una bailarina”. Esa imagen fue utilizada por otros usuarios (hombres) para realizar transformaciones sexuales explícitas.

Otro aspecto que analiza el estudio es la generación de imágenes con contenido extremista, como tansformación de imágenes para incluir simbología nazi o del ISIS, pese a los problemas legales que esto puede suponer en algunos países. El estudio muestra su preocupación por que “esta falta de moderación podría permitir que grupos terroristas exploten Grok para generar propaganda a gran escala”.

Sobre la autoría, el estudio concluye que los autores de las imágenes sexualizadas y extremistas son mayoritariamente hombres. Para ello, el análisis recopila las fotos de perfil de los usuarios que mencionaron a Grok para generar imágenes: como resultado de esta exploración, se concluye que en el 30,2 % de las fotos de perfil se mostraba un rostro en el 83,1 % aparecía como “masculino”. Además, se analizó el nombre de pila: estaba presente en el 27 % de los nombres de usuario X que invocaron a Grok y el 83,5 % eran típicamente masculinos.

Francia denunciará a la plataforma

El Gobierno francés anunció el 2 de enero que presentará una denuncia ante la Justicia contra Grok por la creación y difusión de “contenidos de carácter sexista y sexual manifiestamente ilegal”. La causa principal, según el comunicado del Ejecutivo, es que “estos últimos días” Grok ha permitido generar y difundir “contenidos de carácter sexista y sexual, en particular en forma de vídeos falsos con personas sin su consentimiento”. La iniciativa francesa ha sido impulsada por el ministro de Economía, Roland Lescure, de la Inteligencia Artificial y la Economía Digital, Anne Le Henanff, y de Igualdad entre Hombres y Mujeres, Aurore Bergé. 

Francia ha anunciado una denuncia contra la plataforma y el Gobierno británico pidió este martes a Elon Musk y a su red social X que adopten medidas urgentes para frenar el uso de Grok, mientras la UE advierte: “Esto no tiene cabida en Europa”

Por otra parte, el Gobierno británico pidió el martes 5 de enero a Elon Musk y a su red social X que adopten medidas urgentes para frenar el uso de Grok.  La ministra británica de Tecnología, Liz Kendall, respaldó públicamente las advertencias del regulador de comunicaciones Ofcom, que el lunes expresó “serias preocupaciones” por una función de Grok que generaba “imágenes de personas con poca ropa e imágenes sexualizadas de niños”. Kendall afirmó que “lo que hemos visto en línea en los últimos días ha sido absolutamente espantoso e inaceptable en una sociedad decente” y advirtió que X debe abordar el problema “con urgencia”. Kendall también instó a X, de Elon Musk, a abordar urgentemente el uso de Grok, su chatbot de inteligencia artificial, para crear imágenes sexualizadas no consensuadas de mujeres y niñas.

Por su parte, la Comisión Europea anunció el lunes que está investigando casos de imágenes sexuales no consentidas y explícitas. “No es picante, es repugnante. Esto no tiene cabida en Europa”. Thomas Regnier, portavoz de este organismo, advirtió de que la comisión está supervisando de cerca el cumplimiento de la plataforma con la Ley de Servicios Digitales (DSA) de la UE. Reignier aseguró que con muy conscientes de que en agosto de 2025 Grok introdujo un modo de uso llamado spicy mode que permite generar imágenes visualmente más explícitas.

En diciembre de 2025, la Comisión Europea multó a la red social X con 120 millones de euros por incumplir sus obligaciones de transparencia. Esta era la primera vez que se multa a una plataforma desde que entrara en vigor la DSA, una forma de responsabilizar a X de socavar los derechos de los usuarios y eludir su responsabilidad, aseguró entonces la comisión.