El dimarts 16 de gener votants demòcrates de l’estat de Nou Hampshire van rebre una trucada del president Joe Biden instant-los a quedar-se a casa i a no votar a les primàries. "Votar aquest dimarts només permet als republicans tornar a triar Donald Trump. El teu vot marca la diferència aquest novembre, no aquest dimarts”, deia l’enregistrament. Si el voleu sentir complet, el teniu aquí a sota.
La trucada era falsa i havia estat generada amb tota probabilitat mitjançant tècniques d’IA. No és cap procés complex. Qualsevol es pot baixar una aplicació, pujar un tall de veu del president Biden, picar un text i generar un àudio que passi per bo per a la majoria de gent. Aquesta millora de la qualitat de la IA generativa i el seu fàcil accés -qualsevol pot crear imatges, vídeos o àudios que poden passar per reals- planteja molts reptes per al debat públic.
Per fer una democràcia calen tres coses: ciutadans, llibertat i informació de qualitat. Així doncs, per carregar-se una democràcia només cal serrar una d’aquestes potes; si no hi ha llibertat, és obvi que no hi ha democràcia perquè els ciutadans no poden elegir de manera lliure; si en lloc de ser ciutadans som súbdits, ja no som tots iguals; i si la informació és esbiaixada, incompleta o de baixa qualitat, també ho és la democràcia que l’hostatja. Malauradament, aquests tres escenaris els coneixem ben de prop.
"Per fer una democràcia calen tres coses: ciutadans, llibertat i informació de qualitat"
El temor que la IA -en general la tecnologia- perverteixi els processos democràtics és ben fundat i en tenim proves recents. El 2016, Cambridge Analytica també va utilitzar la IA, en aquest cas la dels algorismes de recomanació de Facebook, per desmotivar els votants de Hillary Clinton amb una campanya personalitzada per a cada por de cada votant demòcrata. Segons paraules dels directius de l’extinta Cambridge Analytica “mobilitza més la por que la il·lusió”. Si mirem els vots que va obtenir Trump els 2016 ens adonarem que van ser menys que els del també republicà McCain el 2012. L’explicació de la victòria de Trump (no en vots) en la incompareixença del rival; els demòcrates que havien votat Obama i a l’hora de votar Clinton es van quedar a casa.
Tot això ho tenia molt clar Steve Bannon, assessor de Trump en aquella campanya, dels partidaris del Brexit al Regne Unit, de Vox a Espanya i de tots els sotacarro d’ultradreta que us pugueu imaginar al món (conspiranoic fins a la medul·la, Bannon és qui va dir que s’havia de tallar el cap al Dr. Anthony Fauci i clavar-lo en una pica davant el Congrés). Segons ell, per canviar la política primer s’ha de canviar la cultura, i per això cal canviar-ne la unitat mínima, que és l’individu. La por que no sabem que tenim -fins que no rebem un missatge que ens la desperta- ens pot fer canviar de comportament. La suma de prou canvis individuals pot canviar una cultura. Són tècniques de guerra encarades a distorsionar la realitat a l’adversari perquè en un entorn de confusió -d’informació de baixa qualitat- prengui les pitjors decisions.
Amb aquests precedents, el 2020, a la campanya de les següents presidencials nord-americanes, les xarxes socials estaven en el punt de mira de tothom i en el seu propi. Facebook i Twitter van posar tots els recursos humans i tecnològics al seu abast per evitar ser el centre del debat altra vegada. Van superar la prova amb èxit i ni tan sols Trump ho va poder utilitzar com una de les seves dessubstanciades excuses per justificar la seva derrota. Amb aquests precedents s’entén més que Elon Musk comprés Twitter per una quantitat desorbitada de doblers; si el que vols és canviar la cultura -creu que ens hem tornat tots massa esquerranosos- cal una eina per influir de manera individual.
"Avui el gran risc és que qualsevol pot influir en comportaments individuals per incidir en processos democràtics"
Avui el gran risc és que, com hem vist en el cas dels àudios falsos de Biden, qualsevol pot influir en comportaments individuals per incidir en processos democràtics. Que sigui sofisticat no és condició necessària i que sigui accessible per tothom tampoc no és nou. El maig de 2019 vam veure una Nancy Pelosi borratxa parlant en públic. Bé, al final només era una intervenció seva alentida perquè semblés que li costava parlar. El vídeo es va fer viral, molt més que els desmentits que desmuntaven la manipulació.
Deia que no cal utilitzar tecnologies sofisticades per a aitals propòsits. En tenim exemples molt propers, exemples de tecnologia povera aplicada a la distorsió de processos electorals. Tots hem vist portades en diaris espanyols amb reproduccions de fotocòpies d’informes falsos amb números de comptes de Suïssa inventats per estafadors de baixa estofa que es fan passar per agents secrets. Com més forta és la democràcia més sofisticada ha de ser la tecnologia que cal per tombar-la. N’hi ha que amb fotocòpies de fax ja cauen.