Algú va dir algun dia que com que el resultat de les eleccions americanes afecta tothom, tothom hi hauria de votar. La tesi té fonament però em temo que si la donem per bona hauríem de començar a votar a molts països; Rússia, Israel i l’Índia són bons candidats. És clar que el que passa a la primera economia del món té impacte en la resta, més encara quan la supremacia també és cultural. Que em perdonin els lectors sensibles però això em recorda el mític tema En Londres de la Polla Records, que als anys 80 ja cantava allò de “Si en Londres les pica un huevo, aquí todo el mundo se rasca”. Els seus temes són, malauradament, encara vigents.
Ho estem veient aquests dies amb l’empatx d’informació de les prèvies de les prèvies de les presidencials nord-americanes de novembre. Trump acapara odi, i això dóna clics. Biden genera vídeos virals, i també. Als caucus, súperdimarts, i convencions de cada quatre anys, hem afegit a la nostra dieta informativa totes les instàncies judicials on Trump es juga la presó. Ja ens podem preparar per la invasió per ràdio, tele i Twitter, més ara que amb la IA generativa qualsevol pot generar textos, imatges i vídeos capaços d’incidir en l’opinió pública.
"Trump acapara odi, i això dóna clics. Biden genera vídeos virals, i també"
A tots ens van fer molta gràcia les imatges del Papa Francesc vestit de Balenciaga i les de Trump essent detingut per la policia (a mi aquestes, més). Van servir per obrir uns quants debats al voltant de la IA generativa: la regulació dels grans models de llenguatge, l’impacte en el discurs públic, la mala utilització en l’àmbit polític, l’ètica de la seva utilització i la violació de drets de propietat intel·lectual. Tots aquests debats els hem vist a la pràctica aquesta mateixa setmana amb l’aparició d’imatges de Trump fent campanya envoltat de joves negres. Generades per partidaris de Trump, formen part d’una d'una campanya de desinformació dirigida a les comunitats negres i estan dissenyades per suggerir falsament que Trump té un suport important entre aquests votants.
Tot i que són molt versemblants i realistes les imatges contenen errors, com ara braços addicionals o dits perduts, que revelen la seva naturalesa sintètica. Malgrat aquests defectes, les imatges s'han compartit àmpliament a les xarxes socials i molts usuaris les han donat per genuïnes; no cal que siguin perfectes per a enganyar tothom, només cal que siguin prou bones per enganyar prou gent. Això genera preocupació sobre l'impacte potencial d'aquesta desinformació sobre les percepcions dels votants i la integritat del procés electoral. Recordem que la democràcia es basa en les decisions lliures dels seus ciutadans en base a informació lliure i de qualitat. I si la premsa vol continuar essent un pilar de la democràcia ha de garantir que allò que hi trobem sigui de qualitat i fet en llibertat.
"No cal que les imatges siguin perfectes per enganyar tothom, només cal que siguin prou bones per enganyar prou gent"
En aquesta línia, la BBC —sempre i encara la BBC— ha llançat el Content credentials, una nova eina destinada a millorar la credibilitat del contingut en línia i combatre la propagació de la desinformació. Aquesta eina permet al públic veure informació sobre el procés de creació i edició del contingut que consumeixen en línia. En fer clic a les "Credencials de contingut" de les imatges o altres continguts, els usuaris poden accedir a detalls sobre la font i l'historial del material, ajudant-los a verificar-ne l'autenticitat. Amb aquesta iniciativa la BBC mostra el camí de com els mitjans poden ajudar les seves audiències perquè prenguin decisions més informades sobre tot allò que veuen en línia. Fent això s’asseguren seguir essent rellevants en un mar de desinformació.
I els reguladors què hi poden fer? Europa està treballant en una IA act que reguli els usos de la IA d’acord amb el risc que comporti el seu desplegament en la societat. Reconeixement facial en espais públics i joguines amb IA per la canalla: no; xatbots, reconeixement d’emocions i deepfakes: obligació d’especificar-ho.
La Índia, el país amb més població del món (hi hauríem de votar?), ha decidit tirar pel dret i requereix que les empreses tecnològiques obtinguin l'aprovació oficial abans de llançar eines d'IA que es consideren "poc fiables" o que encara estan en prova. Parlant clar, el que ha fet OpenAI amb ChatGPT, de fer servir el món com un laboratori de proves per a un servei que no deixa de ser un prototip: no. El requeriment s'adreça específicament a les grans plataformes i no s'aplica a empreses emergents. Un dels objectius és el d’evitar que aquestes eines deteriorin la integritat dels processos electorals en general i en particular les de maig-abril d’enguany. La regulació ha rebut reaccions diverses d'experts del sector i líders tecnològics, alguns dels quals la veuen com un obstacle per al progrés de la IA a l'Índia.
El debat és tecnològic, polític, filosòfic i cultural. I no se m’acut ningú millor que un tecnòleg, polític (breu) i filòsof català d’ascendència Índia per que ens ajudi a treure’n el trellat. Salvador Pàniker (1927 - 2017), fill de mare catalana i pare indi, va ser escriptor, editor, filòsof i doctor en enginyeria industrial. Profesor de Filosofia i Metafísica a la Universitat de Barcelona, va crear el concepte filosòfic de la “retroprogressió”: “anar simultàniament cap a allò nou i cap a l’antic, cap a la complexitat i cap a l’origen”.
En un assaig de nom Lo retroprogresivo recollit al llibre Ensayos Retroprogresivos de l'editorial Kairós escriu:
“La idea fonamental és que cal substituir el mite cancerós del progrés per la noció més subtil de retroprogrés; cobrar consciència que allà on l'avenç no és retroprogressiu, els costos del progrés excedeixen els seus avantatges i, en conseqüència, es produeix una disminució de la qualitat de vida. Ja se sap, els indicadors d'aquesta qualitat de vida no han de ser exclusivament econòmics ni tecnològics. Importen la salut, l'autorealització, la llibertat interior, la llibertat política, la capacitat de viure el present. Importa escapar a la inflació de signes que presideix la nostra civilització, transcendir la blablaosfera, l'ambient sorollós on la gent es manté dreta exclusivament a força de banals redundàncies: bla-bla-bla.”
El llibre és de 1987.