16 años tarde

El tema Quinceañera, del grupo mexicano Los Lagartos, es una oda hardcore al rito de paso a la adolescencia. Grabado en 1994, cuenta en formato balada-vals-punk las bondades y los riesgos de ser una adolescente. El paso de la azucarada introducción al tema punk lo concentra en un espstenià “hoy ya no eres una niña, a partir de hoy…: ya eres cancha oficial” (“avui ja no ets una nena, a partir d'avui…: ja ets pista oficial”).

Esto mismo debió pensar Elon Musk cuando, la primavera pasada, semanas antes de dejar su infame puesto en el DOGE, envió un correo a sus trabajadores de xAI (propietaria de X) diciéndoles que a partir de entonces su trabajo comportaba trabajar con material grosero que podía incluir contenido sexual. Les conminaba a firmar un documento donde aceptaban estar expuestos a “contenido delicado, violento, sexual y/o otro material ofensivo o perturbador”, con la advertencia explícita de que este material “puede ser inquietante, traumático y/o causar estrés psicológico”. Lo hemos sabido por una filtración del correo al Washington Post.

"Grok generó unas 23.000 imágenes sexualizadas que representaban a menores, y el mismo Musk celebraba una imagen de una tostadora en bikini"

La decisión era a conciencia. Una decisión de negocio con el objetivo de maximizar el tiempo de uso de los usuarios y diferenciar su IA Grok del resto en un mercado saturado de IA “prudentes”. Por ello, integraría su IA generativa Grok en su red X y la ofrecería de franc a sus usuarios. Tanto le daba si esto implicaba asumir riesgos legales, éticos y reputacionales. ¿Qué podía salir mal? Pues todo. El resultado es bastante conocido: generación de imágenes sexuales, violentas y humillantes, principalmente de mujeres y menores. De acuerdo con estimaciones de la organización sin ánimo de lucro Center for Countering Digital Hate, Grok generó unas 23.000 imágenes sexualizadas que representaban a menores. El mismo Musk celebraba una imagen de una tostadora en bikini.

Si quieres saber más

 

   

Gina Tost-El porno de Grok

El escándalo se hizo grande y pinchó la burbuja de X acaparando titulares, tiempo y críticas en noticieros y periódicos. Musk no tuvo otra que reaccionar. ¿Cómo? ¿Eliminando el servicio? ¿Poniéndole salvaguardas? ¿Limitando el tipo de contenidos que puede generar Grok? No, haciendo el servicio de pago. Con un tuit, Musk convirtió la generación de imágenes pornográficas en un negocio.

Y todo esto se lo podía encontrar usted en su línea de tiempo (si lee VIA Empresa quiere decir que es mayor de dieciséis), y se lo podía encontrar su hijo o su nieto menor de dieciséis años. X, y el resto de redes sociales no tienen un método fiable de saber la edad de quien entra más allá de preguntar la fecha de nacimiento. Es por eso que en su alocución a la cumbre World Governments Summit, en Dubái, el pasado martes el presidente de España, Pedro Sánchez, hablaba de las redes sociales como “estados fallidos donde se ignoran las leyes y se toleran delitos”.

A menudo hemos hecho la comparación de las redes sociales con estados; por su número de usuarios, por su nivel de influencia y por su poder transversal (soft power). Un ejemplo de la ley en la sombra de las redes son sus términos de uso, aquello que nadie se lee cuando se registran, pero que todo el mundo acepta. Esto tiene impacto en el discurso social. Por ejemplo, como en las redes de Meta no se pueden enseñar pechos femeninos o desnudos, no se pueden hacer según qué campañas de prevención del cáncer de mama y no se puede debatir sobre el cuadro El origen del mundo de Gustave Courbet.

"Este comportamiento no ha supuesto demasiados problemas para los estados mientras el poder era blando, y ahora que ya estamos hablando de poder estructural, estos se han tomado en serio la comparativa"

Tampoco un medio deportivo puede publicar una imagen de una lesión donde se vea sangre. Es así como empresas privadas acaban conformando aquello de lo que se puede hablar y aquello de lo que no, el discurso público. Este comportamiento no ha supuesto demasiados problemas para los estados mientras el poder era, transversal, blando. Ahora que ya estamos hablando de poder estructural (hard power), con las redes sociales influyendo no solo en el discurso sino en la vida política, los estados se han tomado en serio la comparativa, que no les resulta nada favorable.

Estoy convencido de que el último escándalo de Musk con la pornografía es el motivo por el cual Sánchez habló de las redes sociales como estados fallidos, y de la necesidad de tomar medidas para proteger a los más débiles, en este caso los menores de dieciséis. ¿Qué pensaríamos de un estado que no los protegiera lo suficiente? Un indicador del nivel de bienestar de un estado es el nivel de protección de los más jóvenes y de los más mayores. ¿Qué pensaríamos de un estado donde hay que ser mayor de edad para comprar alcohol, tabaco o armas y que la única prueba fuera decir la edad en voz alta a la hora de pagar? Pues esto es lo que pasa con las redes sociales hoy.

"Gobiernos de países como Italia, Francia, Portugal, Grecia o el Reino Unido se encuentran en diferentes fases del mismo debate"

La declaración de intenciones del presidente español, es de momento eso. Pero hay otros países que tienen ya legislación avanzada sobre el tema. El primero en hacerlo ha sido Australia, donde desde diciembre de 2025 las redes sociales están obligadas a tomar medidas para impedir que menores de dieciséis tengan cuenta. Las multas en caso de no hacerlo son millonarias y en ningún caso hay sanciones penales para los menores ni para las familias. Gobiernos de países como Italia, Francia, Portugal, Grecia o el Reino Unido se encuentran en diferentes fases del mismo debate.

Al final, la Quinceañera de Los Lagartos ha dejado de ser una metáfora punk para volverse una realidad postindustrial: es la manera como las redes sociales ven a nuestros jóvenes, como cancha oficial. Plataformas que han podido crecer sin normas y hacer negocio con el riesgo trasladando los costes a los usuarios más vulnerables. En esta coyuntura, regular no es censurar: es hacer el trabajo que corresponde al estado, que siempre acabamos siendo cancha oficial los mismos y ya hacemos dieciséis años tarde.