Un empujoncito a TikTok

Durante 35 días, los periodistas de Maldita hicieron en TikTok lo que haría un pederasta: buscar unas cuantas palabras clave y dejarse llevar por las recomendaciones. Los resultados explican una historia muy oscura. Encontraron 1.182 publicaciones con material de abuso sexual infantil, que sumaban 48 millones de visualizaciones. Y, en una segunda entrega, 78 emisiones en directo de menores en trece países, con 1.900 comentarios sexualmente explícitos.

No puedo decir que me sorprendan. Pero verlo con toda su crudeza, es decir, con datos, y con imágenes de niños, aunque sean borrosas, encoge el estómago.

A la vista

Y no hablamos de la dark web, ni de redes de pederastas que se esconden en servidores encriptados. Son canales en abierto en TikTok, donde los más jóvenes pasan horas. Un estudio de la UPF y la UOC con más de 1.000 usuarios de doce a dieciocho años de todo el Estado encontró que uno de cada cinco pasa más de dos horas al día, y entre las chicas, casi una de cada cuatro. Y eso que TikTok no admite menores de trece años. En mayo, Maldita denunció 35 cuentas de niños que declaraban edades de incluso nueve años, y la plataforma cerró una.

"La pestaña "Para ti" te acaba recomendando las cuentas que venden material, te propone que los sigas y te sugiere directos de niñas"

Precisamente por eso hay pederastas: tienen todo el catálogo, que, además, no hace falta ni buscar. Solo hay que mostrar interés por vídeos de niños —verlos y dar me gusta—, entrar en algún directo y dejar algún comentario, y el algoritmo hace su magia. La pestaña "Para ti" te acaba recomendando las cuentas que venden material, te propone que los sigas y te sugiere directos de niñas. Perfect match.

Jazz, pasteles y niños

Al algoritmo le da igual si eres un músico a quien le gusta el jazz, una influenciadora de cocina que se desvive por los pasteles o un pederasta a quien le gustan los niños. Encontrará lo que te gusta para maximizar el engagement, el compromiso.

Y es aquí donde la palabra adquiere su matiz más siniestro. Engagement significa implicación, relación, compromiso. Si lo mantienes en el plano de la cocinera y los pasteles, significa una cosa. Cuando hay niños de por medio, significa toda otra, especialmente si no eres su padre ni su madre.

Si quieres saber más

 

   

Josep M. Ganyet-Que decidan por ti provoca caries

A las diez, a dormir

A la hora de recomendar, el algoritmo de TikTok es implacable. En 2021, el Wall Street Journal puso 100 cuentas automáticas a mirar TikTok, cada una programada con unos intereses, para ver cómo aprendía el algoritmo. Lo que cuenta no son los me gusta, sino el tiempo que te detienes delante de cada vídeo. Una de las cuentas estaba programada para detenerse en los vídeos tristes: al cabo de 36 minutos, el 93% de lo que recibía eran vídeos de tristeza o de depresión. Suerte que era un bot y no hay que preocuparse demasiado por su estado mental.

Es tan bueno que la misma empresa lo frena en su casa. En China, TikTok se llama Douyin. No es solo un cambio de nombre, es una aplicación hermana, pero separada para que no se mezclen ideas de Oriente y de Occidente, no fuera caso. En 2021, ByteDance, la empresa propietaria de ambas aplicaciones, limitó el acceso a los menores de catorce años a 40 minutos al día y no les dejaba entrar de las diez de la noche a las seis de la mañana. Mención aparte para el tipo de contenido: muchos vídeos de divulgación, de historia y de museos. Desde 2024, el regulador chino pide límites parecidos a todas las aplicaciones: por defecto, una hora al día para los menores de dieciséis años y dos para los de dieciséis a dieciocho.

"Desde 2024, el regulador chino pide límites a todas las aplicaciones: una hora al día para los menores de dieciséis años y dos para los de dieciséis a dieciocho"

Así pues, se puede hacer. Lo que pasa es que aquí nadie les obliga.

El plan de negocio

Está claro que las empresas de redes sociales saben el daño que hacen a la sociedad, y en especial a los más débiles, los niños y los jóvenes. Pero en su plan de negocio no sale "cuidar la salud mental de nuestros usuarios, especialmente de los más jóvenes, al menos porque, si continuamos con esta política de tierra quemada, quizás nos quedaremos sin clientes la próxima generación". Sí que sale, en cambio, maximizar beneficios. Y cuando se trata de maximización de funciones, la IA es implacable.

En TikTok, además, la función se puede leer en euros. En los directos de menores que documentó Maldita, hay adultos que piden actos sexuales a cambio de regalos virtuales que se compran en la plataforma con dinero real; TikTok promociona estos directos en la portada. Cuando los periodistas de Maldita denunciaron 50 vídeos por los canales que la misma plataforma pone a disposición de los usuarios, TikTok borró cinco. De las 231 cuentas que analizaron, el 59% todavía estaban activas al terminar la investigación.

Sencillamente, sus incentivos y los de vuestros hijos no están alineados. Es por eso que no hacen nada motu proprio. Y si no lo están con los de vuestros hijos, tampoco lo están con los de la sociedad en general y su futuro.

El empujón

A estas empresas les hace falta un empujón de la sociedad y de los reguladores, un empujón que les ayude a alinear incentivos. Esta semana hemos visto un intento. La ministra de Juventud e Infancia, Sira Rego, ha pedido a la Fiscalía que actúe y que, si las autoridades lo consideran oportuno, se detenga TikTok en España. Es una petición, aunque algunos titulares ya daban la suspensión por hecha.

Algún empujón como el de Maldita. Al día siguiente de su investigación, TikTok bloqueaba en España algunas de las búsquedas que llevaban a este material, pero en Francia, Suiza, México o Colombia todavía funcionaban. Un día después, las bloqueó en todo el mundo. Pero no basta con fiscalizar el servicio.

"Si el empujón es demasiado fuerte y los empuja al borde del precipicio, tampoco pasa nada"

El empujón que hace falta es el que llega a la cuenta de resultados, que, de rebote, es el que llega a los algoritmos de maximización de beneficios. La Comisión Europea, que investiga TikTok desde 2024, ya le comunicó en julio que las cuentas de los menores no cumplen la ley europea de servicios digitales, y la multa puede llegar al 6% de su facturación mundial.

Hace un año y medio escribí en esta columna que el mejor momento para darles un empujón para alinearlos con nuestros valores era hace veinte años, y que el segundo mejor momento era cuando lo escribí. Ahora sigue siendo un buen momento para dar el empujón que toca. Eso sí, habría que hacerlo con la fuerza de todas las que no hemos hecho todos estos años. Que si es demasiado fuerte y los empuja al borde del precipicio, tampoco pasa nada.