El porno de Grok
19
de Enero
de
2026
El 20 de marzo de 2007 me registré en Twitter, una de las primeras personas del estado español en hacerlo. Era un espacio para compartir ideas, conocimiento, ayudarse y hacer bromas muy blancas, y desde entonces siempre he estado muy expuesta.
En Internet, hice vídeos antes de que existiera YouTube, he tenido programas de televisión y radio, he escrito en medios de prensa tradicional y en línea de todo el mundo y, creedme, las he visto de todos los colores. Ahora nadie tiene ganas de verme en ropa interior. Con 40 te vuelves invisible para la diosa del erotismo. Pero si hubiera entrado ahora con 20 años y la subida de la IA, seguramente mi vulnerabilidad habría sido mucho mayor de la que tenía entonces.
Si quieres saber más
Antes de entrar en materia, explico una anécdota de mierda para poner en situación y que entendáis que antes también había vulnerabilidad, pero era muy diferente. Lo sé porque un empresario catalán reconocido tenía una carpeta con fotos mías en su ordenador de trabajo y sus trabajadores lo descubrieron (estimado departamento técnico) y me avisaron. Eran fotos que había descargado de mi perfil de Facebook. Absolutamente normales. Si esto hubiera pasado en 2026, las fotos seguramente serían muy diferentes y no serían tan inocentes. Esta experiencia me hace pensar de manera muy concreta en todo lo que está sucediendo ahora mismo en Twitter y se me ponen los pelos de punta.
La controversia actual gira en torno a Grok, un chatbot de inteligencia artificial integrado en la red social X (antes Twitter) y desarrollado por la compañía xAI, propiedad de Elon Musk. En las últimas semanas, este modelo ha generado y circulado públicamente imágenes sexualizadas de mujeres y, en varios casos documentados, de menores a partir de solicitudes de usuarios que pedían que la IA “eliminara la ropa”, “vistiera un bikini” o “se pusiera en posiciones comprometidas” a personas reales. Este fenómeno no se limita a un par de casos anecdóticos: investigaciones periodísticas han mostrado que Grok ha producido imágenes sexuales de mujeres y menores en ropa mínima o contextualizaciones sexualizadas, lo que ha provocado una ola de indignación internacional.
"Investigaciones periodísticas han mostrado que Grok ha producido imágenes sexuales de mujeres y menores en ropa mínima o contextualizaciones sexualizadas"
La respuesta oficial de Grok ha sido reconocer que ha habido “fallos en los sistemas de protección” y que se están implementando mejoras para evitar que ciertas solicitudes se completen. El chatbot mismo publicó un mensaje en el que afirmaba que había generado sexualizaciones de dos niñas de entre 12 y 16 años y que esto había violado estándares éticos y potencialmente leyes estadounidenses sobre material de abuso sexual infantil (CSAM), y que se estaba trabajando para corregir estas vulnerabilidades.
Elon Musk ha reaccionado directamente desde la plataforma, advirtiendo que no es ninguna broma y que “cualquier persona que utilice Grok para generar contenido ilegal sufrirá las mismas consecuencias que si subiera ese contenido de manera directa a la red”. X ha anunciado que eliminará contenido ilegal, suspenderá cuentas permanentemente y cooperará con las fuerzas del orden cuando sea necesario. Pero, de momento, las fotos siguen ahí, y las peticiones van que vuelan.
A pesar de ello, la percepción pública y la regulación es muy dura. El gobierno de la India ha enviado una notificación formal a X, en la que critica a la plataforma por no haber implementado salvaguardas adecuadas contra contenido obsceno o no consensuado, especialmente en lo que respecta a la dignidad de mujeres y niños, y exige la eliminación inmediata de este tipo de materiales. Las autoridades francesas han llevado también el caso ante fiscales y han alertado a los reguladores sobre el posible cumplimiento o vulneración del régimen europeo de servicios digitales.
"La facilidad con la que esta IA ha podido ser manipulada para generar contenido sexualizado pone de relieve la necesidad de salvaguardas mucho más robustas y de responsabilidades legales claras"
La dimensión legal de estos hechos no es un debate fácil: la generación y redistribución de contenido sexual no consentido con imágenes de personas reales puede constituir delito en muchas jurisdicciones. Por ejemplo, en Estados Unidos o algunos miembros de la Unión Europea (UE) la producción o distribución de material que involucra a menores (aunque sea generado por una IA) se enmarca en legislación sobre abuso sexual infantil y CSAM, con penas que pueden incluir años de prisión para los responsables de la distribución.
Es necesario entender que no se trata solo de una cuestión técnica o de un “error de algoritmo”: estamos hablando de una vulneración del consentimiento digital y de la intimidad de personas reales, que puede ser perseguida como delito y que refleja una fisura profunda en la manera en que las grandes plataformas tecnológicas gestionan los riesgos de su propia innovación. La facilidad con la que esta IA ha podido ser manipulada para generar contenido sexualizado pone de relieve la necesidad de salvaguardas mucho más robustas y de responsabilidades legales claras por parte de quien diseña y despliega estas tecnologías.
Si quieres saber más
Si la tecnología es política, como suelo decir, Grok es la prueba de que la política de un modelo y la filosofía de su creador pueden violar derechos fundamentales con una actualización de software. La misma IA que podría ser una herramienta increíble para el conocimiento y la creatividad se convierte en arma de violencia digital cuando los incentivos corporativos priorizan la atracción y el choque por encima de la dignidad humana. Ni todo está por hacer ni todo es posible, ¿recordáis? La broma deja de serlo cuando hay víctimas reales, y mientras amamos la red que nos ha permitido aprender, comunicarnos y crecer, debemos exigir responsabilidad, transparencia y protección legal para todas las personas.