Multa a los grandes

Hace muchos años que hablamos de la adicción a las redes sociales. Quizás paramos durante la pandemia porque para muchos eran una ventana para salir de casa, pero, tengamos en cuenta o no, todo el mundo tiene una opinión y no parece que nadie asuma responsabilidades. 

Pero esta primavera vienen aires de cambio. No tanto por el volumen de las multas que están apareciendo, como por el cambio de marco en el que parece que estamos entrando; por primera vez, el debate deja de girar en torno a si los usuarios se enganchan y empieza a plantear si a las plataformas ya les va bien.

Las dos resoluciones judiciales recientes, tanto la de Meta de Nuevo México como la de Meta+Youtube de Los Ángeles, lo ilustran con claridad, y muestran que no estamos ante un único problema, sino ante dos batallas que avanzan en paralelo.

Si quieres saber más

 

   

Gina Tost-La línea que no deberíamos cruzar

En la primera contra Meta, impulsada por el fiscal general en Nuevo México, el foco no es la adicción, sino la seguridad de los niños. El caso se alimenta de investigaciones previas (especialmente las publicadas por The Guardian) que apuntaban a un fallo sistémico: la incapacidad de proteger a menores y, aún más grave, la construcción de un relato que hacía creer a las familias que sí que estaban protegidos. La sentencia es clara: hay responsabilidad de la misma plataforma por los daños. La multa de 375 millones de dólares está extraída de todas las vulneraciones del código de consumo del país, pero lo que realmente importa es el precedente que esto marca, a pesar de que el caso continuará en apelación este verano.

La segunda batalla se libra en Los Ángeles y es de una naturaleza completamente diferente. Aquí no hay instituciones; hay una demanda individual de una chica contra Meta y YouTube porque se enganchó. El jurado concluye que el diseño de las plataformas ha sido negligente y ha contribuido a causar daños psicológicos graves a una menor que las utilizaba desde los seis años. La responsabilidad se reparte en un 70% para Meta y un 30% para Google, pero lo relevante es el principio fundamental de todo ello: el diseño de una plataforma puede ser jurídicamente imputable, un arma de un crimen. Y con más de 2.000 casos similares a la espera, esto apunta a un escenario de litigación masiva en los próximos meses.

Este es el verdadero cambio de paradigma de todo esto. No estamos ante sanciones puntuales, sino ante un desplazamiento conceptual. Productos potencialmente adictivos y responsabilidad por diseño. 

"Lo relevante es el principio fundamental de todo esto: el diseño de una plataforma puede ser jurídicamente imputable, un arma de un crimen"

En EE.UU, la jurisprudencia lo es todo para su sistema judicial, y esto abre la puerta a reconocer los daños psicológicos como perjuicio indemnizable y, sobre todo, a introducir una idea incómoda para el sector: una especie de duty of care digital. Es el tipo de giro que, en otras industrias, ha acabado redefiniendo completamente el futuro de esta.

Oyendo las tertulias de estos días, la comparación con la industria del tabaco no es tanto un recurso retórico como una advertencia histórica, pero con una diferencia clave: aquí no hablamos de intuiciones y estudios científicos, sino de documentos internos hechos por las mismas plataformas. Los llamados Facebook Files y otras investigaciones han mostrado que estas plataformas conocían los impactos negativos (especialmente en jóvenes y adolescentes) y, aun así, no alteraron su modelo. No estamos hablando de negligencia, sino de inacción y optimización del daño.

Porque, al fin y al cabo, todo esto está atravesado por una métrica muy concreta que conocemos los que nos hemos dedicado al marketing digital desde hace mucho tiempo: la retención. El retention rate, DAU/MAU, tiempo de uso… Indicadores aparentemente neutros que definen un sistema de incentivos muy claro: cualquier decisión que reduzca el tiempo en la plataforma es penalizada. Es por eso que se inventó el scroll infinito, o que ya no viéramos las publicaciones de nuestros seguidores, sino aquello que la plataforma consideraba que debíamos conocer.

“La comparación con la industria del tabaco no es tanto un recurso retórico como una advertencia histórica, pero con una diferencia clave: aquí no hablamos de estudios, sino de documentos internos de las mismas plataformas”

Creo sinceramente que internet se fue a la mierda el día que los tuits y los posts de Instagram dejaron de ordenarse cronológicamente inverso y se empezaron a ordenar por lo que decidía un algoritmo. Todo ha sido siempre una cuestión de negocio.

Hablar de experiencia de usuario o de optimización es eufemístico. Lo que tenemos es diseño persuasivo: bucles de recompensa variable, notificaciones, algoritmos que ajustan el contenido en función de la respuesta emocional y de la cantidad de interacción. Esto no es una UX neutra, es ingeniería del comportamiento. Y los dark patterns son la cara más visible: decisiones guiadas, itinerarios diseñados para que el usuario haga exactamente aquello que la plataforma necesita, y ganas de aumentar la retención y el gasto.

En los últimos meses hemos visto que la regulación ha empezado a moverse, y lo ha hecho en una dirección muy concreta: entrar en la arquitectura del producto. Francia limita el uso de móviles en las escuelas, el Reino Unido despliega la Online Safety Act y en Estados Unidos proliferan las demandas estatales contra plataformas por daños a menores. Ya no se trata solo de regular el uso, sino de condicionar el diseño.

Si quieres saber más

 

   

Josep M. Ganyet-Adiós a Sora y el metaverso, o cuando la demanda de realidad supera la oferta de falsedad

Ahora bien, centrarlo todo en los menores tiene un riesgo: convertir un problema estructural en una cuestión de protección infantil. Es más cómodo, política y socialmente, pero también es más limitado. Porque el modelo de negocio no discrimina por edad. Los adultos también somos objeto de estas dinámicas, también estamos expuestos a los mismos mecanismos y también sufrimos las consecuencias. El menor es el caso límite que hace visible el problema, pero no es el único afectado. ¿Cuántos adultos conocéis con problemas de comportamiento con su móvil? Yo, muchos más que menores de edad.

En paralelo, hay otra tensión que empieza a emerger con fuerza: la del cifrado. En nombre de la protección de los menores, se plantean medidas que eliminan la encriptación de extremo a extremo. El cifrado es una de las garantías más sólidas de privacidad digital. Dar marcha atrás no es una decisión técnica menor, es un precedente peligrosísimo. Y los precedentes, en este ámbito, suelen tener recorridos largos y consecuencias difíciles de contener. El efecto mariposa que traerá esta decisión será absolutamente monstruoso y con consecuencias terribles para mucha gente. Guardad esta frase. 

Todo esto ocurre, además, en un contexto en el que la ciencia aún no ofrece un consenso claro sobre los efectos de las redes sociales sobre la salud mental de los menores. El impacto de las redes sociales en la salud mental sigue siendo objeto de debate, y organismos como Unicef ya han advertido que prohibirlas a los menores puede ser contraproducente. Esto no resuelve el problema, pero sí que obliga a huir de soluciones simplistas. Ni todo es adicción ni todo es inocuo.

“El efecto mariposa que traerá dar marcha atrás con el cifrado de extremo a extremo será absolutamente monstruoso y con consecuencias terribles para mucha gente”

Y, a pesar de todo, hay una idea que cuesta desmontar y que conviene atacar de frente: la responsabilidad individual. El clásico de barra de bar, cubata en mano: “Pues que la gente se controle”. Es una respuesta débil, simple, pero efectiva en ciertos entornos poco trabajados. Parte de una premisa falsa: que usuario y plataforma operan en igualdad de condiciones. No es así. Hay una asimetría de información, de capacidad técnica y de intencionalidad que hace que la decisión individual esté condicionada desde el inicio. No es una cuestión de fuerza de voluntad, es una cuestión de arquitectura.

Esto nos lleva al último dilema, quizás el más relevante: autorregulación o intervención. Durante años se ha confiado en que el mercado corregiría los excesos. Pero cuando el modelo de negocio depende precisamente de estos excesos, esta expectativa es ingenua. O hay regulación externa, o hay un cambio profundo en los incentivos internos de las empresas.

“El futuro de las redes no pasa por ser más adictivas, sino por ser más aburridas. Y eso, en el contexto actual, sería una mejora muy agradecida”

Lo que vendrá, previsiblemente, no es menor. Litigios colectivos, estándares de diseño ético (al estilo del privacy by design), auditorías de algoritmos, quizás, incluso, modelos alternativos basados en códigos de diseño en lugar de atención. Tal vez el futuro de las redes no pase por ser más adictivas, sino por ser más aburridas. Y eso, en el contexto actual, sería una mejora muy agradecida.

Porque, al final, la cuestión no es si tenemos que renunciar al mundo digital. No lo haremos. Vaya, yo no me veo. La cuestión es en qué condiciones vivimos en él. Y si tenemos que elegir entre maximizar beneficios de grandes empresas o minimizar daños de personas (especialmente cuando estos son vulnerables). Quizás ha llegado el momento de dejar de presentarlo como un dilema complejo y empezar a tratarlo como lo que es: una decisión de un diseño demasiado bien capitalizado.