Multa als grans

Fa molts anys que parlem de l’addicció a les xarxes socials. Potser vam parar durant la pandèmia perquè per molts eren una finestra a sortir de casa, però, tinguem compte o no, tothom hi té una opinió i no sembla que ningú n’assumeixi responsabilitats. 

Però aquesta primavera venen aires de canvi. No tant pel volum de les multes que estan apareixent, com pel canvi de marc on sembla que estem entrant; per primer cop, el debat deixa de girar al voltant de si els usuaris s’hi enganxen i comença a plantejar si a les plataformes ja els hi va bé.

Les dues resolucions judicials recents, tant la de Meta de New Mexico com la de Meta+Youtube de Los Angeles, ho il·lustren amb claredat, i mostren que no estem davant d’un únic problema, sinó de dues batalles que avancen en paral·lel.

Si vols saber-ne més

 

   

Gina Tost-La línia que no hauríem de creuar

A la primera contra Meta, impulsada pel fiscal general a Nou Mèxic, el focus no és l’addicció, sinó la seguretat dels infants. El cas s’alimenta d’investigacions prèvies (especialment les publicades per The Guardian) que apuntaven a una fallada sistèmica: la incapacitat de protegir menors i, encara més greu, la construcció d’un relat que feia creure a les famílies que sí que estaven protegits. La sentència és clara: hi ha responsabilitat de la mateixa plataforma pels danys. La multa de 375 milions de dòlars està extreta de totes les vulneracions del codi de consum del país, però el que realment importa és el precedent que això marca, tot i que el cas continuarà en apel·lació aquest estiu.

La segona batalla es lliura a Los Angeles i és d’una naturalesa completament diferent. Aquí no hi ha institucions; hi ha una demanda individual d’una noia contra Meta i YouTube perquè s’hi va enganxar. El jurat conclou que el disseny de les plataformes ha estat negligent i ha contribuït a causar danys psicològics greus a una menor que les utilitzava des dels sis anys. La responsabilitat es reparteix en un 70% per Meta i un 30% per Google, però el que és rellevant és el principi fonamental de tot plegat: el disseny d’una plataforma pot ser jurídicament imputable, una arma d’un crim. I amb més de 2.000 casos similars a l’espera, això apunta a un escenari de litigació massiva en els pròxims mesos.

Aquest és el veritable canvi de paradigma de tot plegat. No estem davant de sancions puntuals, sinó davant d’un desplaçament conceptual. Productes potencialment addictius i responsabilitat per disseny. 

“El que és rellevant és el principi fonamental de tot plegat: el disseny d’una plataforma pot ser jurídicament imputable, una arma d’un crim”

Als EUA, la jurisprudència ho és tot pel seu sistema judicial, i això obre la porta a reconèixer els danys psicològics com a perjudici indemnitzable i, sobretot, a introduir una idea incòmoda per al sector: una mena de duty of care digital. És el tipus de gir que, en altres indústries, ha acabat redefinint completament el futur d'aquesta.

Sentint les tertúlies d’aquests dies, la comparació amb la indústria del tabac no és tant un recurs retòric com una advertència històrica, però amb una diferència clau: aquí no parlem d’intuïcions i estudis científics, sinó de documents interns fets per les mateixes plataformes. Els anomenats Facebook Files i altres investigacions han mostrat que aquestes plataformes coneixien els impactes negatius (especialment en joves i adolescents) i, tot i això, no van alterar el seu model. No estem parlant de negligència, sinó d’inacció i optimització del dany.

Perquè, al capdavall, tot això està travessat per una mètrica molt concreta que coneixem els que ens hem dedicat al màrqueting digital des de fa molt de temps: la retenció. El retention rate, DAU/MAU, temps d’ús… Indicadors aparentment neutres que defineixen un sistema d’incentius molt clar: qualsevol decisió que redueixi el temps a la plataforma és penalitzada. És per això que es va inventar l'scroll infinit, o que ja no veiéssim les publicacions dels nostres seguidors, sinó allò que la plataforma considerava que havíem de conèixer.

“La comparació amb la indústria del tabac no és tant un recurs retòric com una advertència històrica, però amb una diferència clau: aquí no parlem d'estudis, sinó de documents interns de les mateixes plataformes”

Crec sincerament que internet se’n va anar a la merda el dia que els tuits i els posts d’Instagram van deixar d’ordenar-se cronològicament invers i es van començar a ordenar pel que decidia un algoritme. Tot ha sigut sempre una qüestió de negoci.

Parlar d’experiència d’usuari o d’optimització és eufemístic. El que tenim és disseny persuasiu: bucles de recompensa variable, notificacions, algoritmes que ajusten el contingut en funció de la resposta emocional i de la quantitat d’interacció. Això no és una UX neutra, és enginyeria del comportament. I els dark patterns en són la cara més visible: decisions guiades, itineraris dissenyats perquè l’usuari faci exactament allò que la plataforma necessita, i ganes d’augmentar la retenció i la despesa.

Als últims mesos hem vist que la regulació ha començat a moure’s, i ho ha fet en una direcció molt concreta: entrar en l’arquitectura del producte. França limita l’ús de mòbils a les escoles, el Regne Unit desplega l’Online Safety Act i als Estats Units proliferen les demandes estatals contra plataformes per danys a menors. Ja no es tracta només de regular l’ús, sinó de condicionar el disseny.

Si vols saber-ne més

 

   

Josep M. Ganyet-Adeu a Sora i el metavers, o quan la demanda de realitat supera l’oferta de falsedat

Ara bé, centrar-ho tot en els menors té un risc: convertir un problema estructural en una qüestió de protecció infantil. És més còmode, políticament i socialment, però també és més limitat. Perquè el model de negoci no discrimina per edat. Els adults també som objecte d’aquestes dinàmiques, també estem exposats als mateixos mecanismes i també en patim les conseqüències. El menor és el cas límit que fa visible el problema, però no n’és l’únic afectat. Quants adults coneixeu amb problemes de comportament amb el seu mòbil? Jo, molts més que menors d’edat.

En paral·lel, hi ha una altra tensió que comença a emergir amb força: la del xifrat. En nom de la protecció dels menors, es plantegen mesures que eliminen l’encriptació d’extrem a extrem. El xifrat és una de les garanties més sòlides de privacitat digital. Fer-hi marxa enrere no és una decisió tècnica menor, és un precedent perillosíssim. I els precedents, en aquest àmbit, acostumen a tenir recorreguts llargs i conseqüències difícils de contenir. L’efecte papallona que portarà aquesta decisió serà absolutament monstruosa i amb conseqüències terribles per molta gent. Guardeu aquesta frase. 

Tot plegat passa, a més, en un context en què la ciència encara no ofereix un consens clar sobre els efectes de les xarxes socials sobre la salut mental dels menors. L’impacte de les xarxes socials en la salut mental continua sent objecte de debat, i organismes com Unicef ja han advertit que prohibir-les als menors pot ser contraproduent. Això no resol el problema, però sí que obliga a fugir de solucions simplistes. Ni tot és addicció ni tot és innocu.

“L’efecte papallona que portarà fer marxa enrere amb el xifrat d'extrem a extrem serà absolutament monstruosa i amb conseqüències terribles per molta gent”

I, malgrat tot, hi ha una idea que costa de desmuntar i que convé atacar de front: la responsabilitat individual. El clàssic de barra de bar, cubata en mà: “Doncs que la gent es controli”. És una resposta feble, simple, però efectiva en certs entorns poc treballats. Parteix d’una premissa falsa: que usuari i plataforma operen en igualtat de condicions. No és així. Hi ha una asimetria d’informació, de capacitat tècnica i d’intencionalitat que fa que la decisió individual estigui condicionada des de l’inici. No és una qüestió de força de voluntat, és una qüestió d’arquitectura.

Això ens porta a l’últim dilema, potser el més rellevant: autoregulació o intervenció. Durant anys s’ha confiat que el mercat corregiria els excessos. Però quan el model de negoci depèn precisament d’aquests excessos, aquesta expectativa és ingènua. O hi ha regulació externa, o hi ha un canvi profund en els incentius interns de les empreses.

“El futur de les xarxes no passa per ser més addictives, sinó per ser més avorrides. I això, en el context actual, seria una millora molt ben agraïda”

El que vindrà, previsiblement, no és menor. Litigis col·lectius, estàndards de disseny ètic (a l’estil del privacy by design), auditories d’algoritmes, potser, fins i tot, models alternatius basats en codis de disseny en lloc d’atenció. Tal vegada el futur de les xarxes no passa per ser més addictives, sinó per ser més avorrides. I això, en el context actual, seria una millora molt ben agraïda.

Perquè, al final, la qüestió no és si hem de renunciar al món digital. No ho farem. Vaja, jo no m’hi veig. La qüestió és en quines condicions hi vivim. I si hem d’escollir entre maximitzar beneficis de grans empreses o minimitzar danys de persones (especialment quan aquests són vulnerables). Potser ha arribat el moment de deixar de presentar-ho com un dilema complex i començar a tractar-ho com el que és: una decisió d’un disseny massa ben capitalitzat.