Una empenteta a TikTok

Durant 35 dies, els periodistes de Maldita van fer a TikTok el que faria un pederasta: cercar unes quantes paraules clau i deixar-se portar per les recomanacions. Els resultats expliquen una història molt fosca. Van trobar 1.182 publicacions amb material d'abús sexual infantil, que sumaven 48 milions de visualitzacions. I, en una segona entrega, 78 emissions en directe de menors en tretze països, amb 1.900 comentaris sexualment explícits.

No puc dir que em sorprenguin. Però veure-ho amb tota la seva cruesa, és a dir, amb dades, i amb imatges de canalla, encara que siguin borroses, encongeix l'estómac.

A la vista

I no parlem de la dark web, ni de xarxes de pederastes que s'amaguen en servidors encriptats. Són canals en obert a TikTok, on els més joves passen hores. Un estudi de la UPF i la UOC amb més de 1.000 usuaris de dotze a divuit anys de tot l'Estat va trobar que un de cada cinc hi passa més de dues hores al dia, i entre les noies, gairebé una de cada quatre. I això que TikTok no admet menors de tretze anys. Al maig, Maldita va denunciar 35 comptes de criatures que declaraven edats de fins i tot nou anys, i la plataforma en va tancar un.

"La pestanya "Per a tu" t'acaba recomanant els comptes que venen material, et proposa que els segueixis i et suggereix directes de nenes"

Precisament per això hi ha pederastes: hi tenen tot el catàleg, que, a més, no cal ni buscar. Només cal mostrar interès per vídeos de criatures —veure'ls i fer m'agrada—, entrar en algun directe i deixar-hi algun comentari, i l'algorisme fa la seva màgia. La pestanya "Per a tu" t'acaba recomanant els comptes que venen material, et proposa que els segueixis i et suggereix directes de nenes. Perfect match.

Jazz, pastissos i canalla

A l'algorisme li és ben igual si ets un músic a qui agrada el jazz, una influenciadora de cuina que es desviu pels pastissos o un pederasta a qui agrada la canalla. Trobarà el que t'agrada per maximitzar-ne l'engagement, el compromís.

I és aquí on la paraula agafa el seu matís més sinistre. Engagement vol dir implicació, relació, compromís. Si ho mantens en el pla de la cuinera i els pastissos, vol dir una cosa. Quan hi ha canalla pel mig, en vol dir tota una altra, especialment si no ets son pare ni sa mare.

Si vols saber-ne més

 

   

Josep M. Ganyet-Que decideixin per tu provoca càries

A les deu, a dormir

A l'hora de recomanar, l'algorisme de TikTok és implacable. El 2021, el Wall Street Journal va posar 100 comptes automàtics a mirar TikTok, cadascun programat amb uns interessos, per veure com aprenia l'algorisme. El que compta no són els m'agrada, sinó el temps que t'atures davant de cada vídeo. Un dels comptes estava programat per aturar-se en els vídeos tristos: al cap de 36 minuts, el 93% del que rebia eren vídeos de tristesa o de depressió. Sort que era un bot i no cal preocupar-se massa pel seu estat mental.

És tan bo que la mateixa empresa el frena a casa seva. A la Xina, TikTok es diu Douyin. No és només un canvi de nom, és una aplicació germana, però separada perquè no es barregin idees d'Orient i d'Occident, no fos cas. El 2021, ByteDance, l'empresa propietària d'ambdues aplicacions, en va limitar l'accés als menors de catorze anys a 40 minuts al dia i no els deixava entrar de les deu de la nit a les sis del matí. Menció a banda per al tipus de contingut: molts vídeos de divulgació, d'història i de museus. Des del 2024, el regulador xinès demana límits semblants a totes les aplicacions: per defecte, una hora al dia per als menors de setze anys i dues per als de setze a divuit.

"Des del 2024, el regulador xinès demana límits a totes les aplicacions: una hora al dia per als menors de setze anys i dues per als de setze a divuit"

Així doncs, es pot fer. El que passa és que aquí ningú no els hi obliga.

El pla de negoci

És clar que les empreses de xarxes socials saben el mal que fan a la societat, i en especial als més febles, la canalla i el jovent. Però al seu pla de negoci no hi surt "tenir cura de la salut mental dels nostres usuaris, especialment dels més joves, si més no perquè, si continuem amb aquesta política de terra cremada, potser ens quedarem sense clients la següent generació". Sí que hi surt, en canvi, maximitzar beneficis. I quan es tracta de maximització de funcions, la IA és implacable.

A TikTok, a més, la funció es pot llegir en euros. En els directes de menors que va documentar Maldita, hi ha adults que demanen actes sexuals a canvi de regals virtuals que es compren a la plataforma amb diners reals; TikTok promociona aquests directes a la portada. Quan els periodistes de Maldita van denunciar 50 vídeos pels canals que la mateixa plataforma posa a disposició dels usuaris, TikTok en va esborrar cinc. Dels 231 comptes que van analitzar, el 59% encara eren actius en acabar la investigació.

Senzillament, llurs incentius i els dels vostres fills no estan alineats. És per això que no hi fan res motu proprio. I si no ho estan amb els dels vostres fills, tampoc no ho estan amb els de la societat en general i el seu futur.

L'empenteta

A aquestes empreses els cal una empenteta de la societat i dels reguladors, una empenteta que els ajudi a alinear incentius. Aquesta setmana n'hem vist un intent. La ministra de Joventut i Infància, Sira Rego, ha demanat a la Fiscalia que actuï i que, si les autoritats ho consideren oportú, s'aturi TikTok a Espanya. És una petició, tot i que alguns titulars ja donaven la suspensió per feta.

Alguna empenteta com la de Maldita. L'endemà de la seva investigació, TikTok bloquejava a Espanya algunes de les cerques que portaven a aquest material, però a França, Suïssa, Mèxic o Colòmbia encara funcionaven. Un dia després, les va bloquejar a tot el món. Però no n'hi ha prou amb fiscalitzar el servei.

"Si l'empenteta és massa forta i els empeny a la vora del precipici, tampoc no passa res"

L'empenteta que cal és la que arriba al compte de resultats, que, de retruc, és la que arriba als algorismes de maximització de beneficis. La Comissió Europea, que investiga TikTok des del 2024, ja li va comunicar al juliol que els comptes dels menors no compleixen la llei europea de serveis digitals, i la multa pot arribar al 6% de la seva facturació mundial.

Fa un any i mig vaig escriure en aquesta columna que el millor moment per donar-los una empenteta per alinear-los amb els nostres valors era fa vint anys, i que el segon millor moment era quan ho vaig escriure. Ara continua essent un bon moment per donar l'empenteta que toca. Això sí, caldria fer-ho amb la força de totes les que no hem fet tots aquests anys. Que si és massa forta i els empeny a la vora del precipici, tampoc no passa res.