Els nous escribes

“Diuen que el que no surt a Google no existeix”. Una frase que tenia molt sentit el 2006, però que ara ha quedat antiga. Era la versió moderna d’una veritat medieval: el que no copiaven els monjos als seus pergamins tampoc no existia. Així és com hem construït la nostra cultura: a base de silencis selectius i d’absències deliberades.

En el seu nou llibre sobre intel·ligència artificial, Genís Roca (un volum breu i bàsic, però que té el mèrit de posar els punts sobre la “i” de la IA) recorda que, a l’edat mitjana, els únics que sabien llegir i escriure eren els monjos. I eren ells, i només ells, qui decidien quines històries valia la pena preservar. El resultat és la nostra memòria col·lectiva actual: una biblioteca esbiaixada, feta a mida dels interessos d’una minoria i que ha omès històricament a gran part de la nostra història.

Imaginem, doncs, tot el que no es va copiar en aquells scriptoriums. Les històries de les dones, les bruixes, les llestes, les matemàtiques, les artistes, les seves herbes remeieres. Les llegendes populars que mai no van saltar del relat oral al manuscrit perquè no encaixaven al discurs mental d’una minoria privilegiada. Qui sap si fins i tot coneixement científic que no agradava al cànon religiós del moment va quedar en l’oblit i encara està esperant que algú el redescobreixi. 

La història de la humanitat és també la història del que s’ha perdut perquè algú va decidir que no era rellevant per a deixar-hi l'empremta.

I fot ràbia, però aquest patró es repeteix cada vegada que la tecnologia canvia les regles del joc:

• Amb Google, el SEO va establir que si no eres a la primera pàgina, quedaves enterrat en vida.
• Amb les xarxes socials, si no ho publicaves a Twitter o Instagram, era com si no hagués passat mai.
• I ara, amb la intel·ligència artificial, el risc és que tot allò que no s’utilitza per entrenar els algoritmes desaparegui del nostre futur digital. Una IA no pot recuperar allò que mai no li hem ensenyat.

El problema és que els nous copistes no són més neutrals ni purs que els antics. Els monjos medievals no eren especialment feministes, ni pluralistes, i els algoritmes d’avui tampoc no són imparcials: reflecteixen els biaixos dels qui els programen, de les dades que llegeixen, dels qui trien què llegeixen, i dels qui decideixen què és rellevant, què té prioritat, i què no.

"Amb la intel·ligència artificial, el risc és que tot allò que no s’utilitza per entrenar els algoritmes desaparegui del nostre futur digital"

D’aquí a uns segles, quan algú li pregunti a una IA del futur alguna cosa sobre la cultura catalana i la història empresarial del nostre país, la resposta pot ser tan incompleta i esbiaixada com els nostres llibres i mitjans. Les noves “bruixes” digitals (les científiques, hackers, mestres, o activistes) poden acabar igual d’invisibles que les d’abans, simplement perquè l’algoritme (i l’empresa del darrere) no les va considerar dignes de memòria.

El veritable problema de la intel·ligència artificial no és que oblidi. És que recorda selectivament. I si no volem que la història es torni a escriure només amb la cal·ligrafia dels poderosos, potser ja va sent hora de vigilar qui són els nous amos dels amanuenses del nostre temps.