16 anys tard

El tema Quinceañera, del grup mexicà Los Lagartos, és una oda hardcore al ritu de pas a l’adolescència. Enregistrat el 1994, conta en format balada-vals-punk les bondats i els riscos de ser una adolescent. El pas de l’ensucrada introducció al tema punk ho concentra en un espstenià “hoy ya no eres una niña, a partir de hoy…: ya eres cancha oficial” (“avui ja no ets una nena, a partir d'avui…: ja ets pista oficial”).

Això mateix devia pensar Elon Musk quan, a la primavera passada, setmanes abans de deixar el seu infame lloc al DOGE, va enviar un correu als seus treballadors d’xAI (propietària d’X) dient-los que a partir de llavors la seva feina comportava treballar amb material groller que podia incloure contingut sexual. Els comminava a signar un document on acceptaven estar exposats a “contingut delicat, violent, sexual i/o altre material ofensiu o pertorbador”, amb l’advertiment explícit que aquest material “pot ser inquietant, traumàtic i/o causar estrès psicològic”. Ho hem sabut per una filtració del correu al Washington Post.

"Grok va generar unes 23.000 imatges sexualitzades que representaven menors, i el mateix Musk celebrava una imatge d’una torradora en biquini"

La decisió era a consciència. Una decisió de negoci amb l’objectiu de maximitzar el temps d’ús dels usuaris i diferenciar la seva IA Grok de la resta en un mercat saturat d’IA “prudents”. Per això, integraria la seva IA generativa Grok a la seva xarxa X i l’oferiria de franc als seus usuaris. Tant li feia si això implicava assumir riscos legals, ètics i reputacionals. Què podia sortir malament? Doncs tot. El resultat és prou conegut: generació d’imatges sexuals, violentes i humiliants, principalment de dones i menors. D’acord amb estimacions de l’organització sense ànim de lucre Center for Countering Digital Hate, Grok va generar unes 23.000 imatges sexualitzades que representaven menors. El mateix Musk celebrava una imatge d’una torradora en biquini.

Si vols saber-ne més

 

   

Gina Tost-El porno de Grok

L’escàndol es va fer gran i va punxar la bombolla d’X acaparant titulars, temps i crítiques en noticiaris i periòdics. Musk no li va quedar d’altra que reaccionar. Com? Eliminant el servei? Posant-hi salvaguardes? Limitant el tipus de continguts que pot generar Grok? No, fent el servei de pagament. Amb un tuit, Musk va convertir la generació d’imatges pornogràfiques en un negoci.

I tot això s’ho podia trobar vostè a la seva línia de temps (si llegeix VIA Empresa vol dir que és major de setze), i s’ho podia trobar el seu fill o el seu nét menor de setze anys. X, i la resta de xarxes socials no tenen un mètode fiable de saber l’edat de qui entra més enllà de preguntar la data de naixement. És per això que en la seva al·locució a la cimera World Governments Summit, a Dubai, el passat dimarts el president d’Espanya, Pedro Sánchez, parlava de les xarxes socials com a “estats fallits on s’ignoren les lleis i s’hi toleren delictes”.

Sovint hem fet la comparació de les xarxes socials amb estats; pel seu nombre d’usuaris, pel seu nivell d'influència i pel seu poder transversal (soft power). Un exemple de la llei a l’ombra de les xarxes són els seus termes d’ús, allò que ningú es llegeix quan s’hi registren, però que tothom accepta. Això té impacte en el discurs social. Per exemple, com que a les xarxes de Meta no s’hi pot ensenyar pits femenins o nus, no s’hi poden fer segons quines campanyes de prevenció del càncer de mama i no s’hi pot debatre sobre el quadre L’Origen del món de Gustave Courbet.

"Aquest capteniment no ha suposat massa problemes pels estats mentre el poder era tou, i ara que ja estem parlant de poder estructural, aquests s’han pres seriosament la comparativa"

Tampoc un mitjà esportiu pot publicar-hi una imatge d’una lesió on es vegi sang. És així com empreses privades acaben conformant allò del que es pot parlar i allò del que no, el discurs públic. Aquest capteniment no ha suposat massa problemes pels estats mentre el poder era, transversal, tou. Ara que ja estem parlant de poder estructural (hard power), amb les xarxes socials influint no només en el discurs sinó en la vida política, els estats s’han pres seriosament la comparativa, que no els resulta gens favorable.

Estic convençut que el darrer escàndol de Musk amb la pornografia és el motiu pel qual Sánchez parlà de les xarxes socials com a estats fallits, i de la necessitat de prendre mesures per protegir els més febles, en aquest cas els menors de setze. Què pensaríem d’un estat que no els protegís prou? Un indicador del nivell de benestar d’un estat és el nivell de protecció dels més joves i dels més grans. Què pensaríem d’un estat on cal ser major d’edat per comprar alcohol, tabac o armes i que l'única prova fos dir l’edat en veu alta a l’hora de pagar? Doncs això és el que passa amb les xarxes socials avui.

"Governs de països com Itàlia, França, Portugal, Grècia o el Regne Unit es troben en diferents fases del mateix debat"

La declaració d’intencions del president espanyol, és de moment això. Però hi ha d’altres països que tenen ja legislació avançada sobre el tema. El primer en fer-ho ha estat Austràlia, on des de desembre de 2025 les xarxes socials estan obligades a prendre mesures per impedir que menors de setze hi tinguin compte. Les multes en cas de no fer-ho són milionàries i en cap cas hi ha sancions penals per als menors ni per a les famílies. Governs de països com Itàlia, França, Portugal, Grècia o el Regne Unit es troben en diferents fases del mateix debat.

Al final, la Quinceañera de Los Lagartos ha deixat de ser una metàfora punk per tornar-se una realitat postindustrial: és la manera com les xarxes socials veuen els nostres joves, com a cancha oficial. Plataformes que han pogut créixer sense normes i fer negoci amb el risc traslladant-ne els costos als usuaris més vulnerables. En aquesta conjuntura, regular no és censurar: és fer la feina que pertoca a l’estat, que sempre acabem sent cancha oficial els mateixos i ja fem setze anys tard.