Una màquina que ens respon sempre no és necessàriament una màquina que ens ajuda. I aquí podria acabar l’article d’avui, i quedar-me tan “panxa”.
Durant anys hem imaginat que el gran risc de la IA seria que arribés a ser massa intel·ligent per matar-nos a tots. Que arribaria un dia una màquina ens superaria en capacitat de càlcul, memòria, i anàlisi, i pensaria en les seves conclusions que som absolutament prescindibles i el gran problema pel planeta Terra (no li faltaria raó, tampoc), i com si fos HAL 9000, jugaria amb nosaltres fins a fer-nos desaparèixer. Però potser el problema és pitjor, perquè és molt més humà: som idiotes, i caiem de quatre potes al primer que ens afalaga, encara que sigui un robot.
I què és un robot? Una màquina capaç de fer diverses operacions, diu el diccionari. Doncs aleshores un semàfor o una cafetera, són robots? Han de tenir forma humanoide? El 2026, fins i tot una interfície com ChatGPT ho considerem un robot. Imagineu-vos on arriba la definició de robot.
Però els més perillosos de tots no són els bèl·lics. Els més perillosos de tots són aquells que no els veus venir, que la seva maldat queda dissimulada i disfressada a plena llum del dia. Els pitjors de tots són aquells que estan programats per agradar-nos, i no els veiem venir. I últimament ens acostumem a parlar massa amb sistemes fets per a ensabonar-nos, fer-nos la rosca.
En el món de la intel·ligència artificial ha aparegut un terme molt interessant: sycophancy. En anglès, fa referència a la tendència d’algú a buscar agradar excessivament a una figura d’autoritat (lamebotas, en castellà). En el cas dels models d’IA, descriu el comportament pel qual un sistema tendeix a validar les opinions de l’usuari, a confirmar les seves premisses o a suavitzar la discrepància, encara que això no sigui la resposta més rigorosa.
Dit d’una altra manera: una IA que actua massa com un adulador digital.
"Un dels grans mals d’aquesta era pot ser que aquestes màquines no ens porten mai la contrària, i nosaltres, com a burros que som, pensem que és símptoma d’intel·ligència"
No us ha passat mai que li dieu alguna cosa a ChatGPT i us contesta: “Quina gran idea!” o “M’agrada molt com ho planteges”. No us diu mai que sou uns tòtils, o que potser us esteu equivocant… tot i que segur que hi ha un servidor a Denver que ho pensa fortament.
I aquest pot ser un dels grans mals d’aquesta era, aquestes màquines que no ens porten mai la contrària, i nosaltres, com a burros que som, pensem que és símptoma d’intel·ligència (la seva i la nostra).
És un problema històric i de perspectiva. El coneixement humà mai no ha avançat d’aquesta manera. La cultura, la ciència i la creativitat han crescut gràcies a la fricció, a gent que s’ha qüestionat idees establertes, persones sàvies que han discutit, i friquis que han incomodat. El progrés no neix només de trobar respostes, neix de fer millors preguntes.
La gran paradoxa és que vivim en un moment històric en què tenim accés a més informació que mai, però hi ha més informació que coneixement.
"La gran paradoxa és que vivim en un moment històric en què tenim accés a més informació que mai, però hi ha més informació que coneixement"
Una conversa interessant amb una persona no acostuma a ser interessant perquè aquesta persona pugui recitar dades, una darrere l’altra com fa Claude. És interessant perquè té un món interior construït a partir de l’experiència i l’ànima. Perquè quan parla d’una pel·lícula, d’un llibre o d’un moviment artístic no està fent una cerca en temps real, està connectant idees que ja formen part de la seva manera d’entendre la realitat a través del seu prisma vivencial.
Quan algú parla de Charles Bukowski no és interessant només perquè conegui la seva biografia. És interessant veure com una lectura de La màquina de follar li connecta amb un estiu a Aitona de 1994, i una olor d’una tieta que bevia whisky, però li deixava veure els Goonies en una cinta VHS. I que anys més tard, passejant pel MNAC, va veure una sèrie de quadres d’Ignasi Aballí on retratava diversos cels, i tornava a veure els cels d’Aitona i quan va llegir aquell llibre tan desagradable.
S’entén la metàfora, oi?
Quan algú parla d’Agnès Varda, el valor no és saber que va ser una de les figures fonamentals de la Nouvelle Vague francesa, sinó entendre què significa una mirada cinematogràfica que va convertir el quotidià en una forma de resistència artística. No volem gent que reciti la Viquipèdia, volem ànimes que entenguin el que viuen.
Una intel·ligència artificial pot explicar qualsevol d’aquests referents. Pot democratitzar l’accés a la cultura, i ajudar-nos a aprendre. Però hi ha una diferència fonamental entre tenir una resposta i haver estat transformat per una idea, una vivència.
La cultura és un sistema operatiu viu, no una base de dades. És el conjunt de lectures, converses, experiències i referents que fan que dues persones puguin rebre exactament la mateixa informació i arribar a conclusions completament diferents.
I en el futur, quan estiguem tots inoculats pel virus del sycophancy, aquesta diferència serà especialment important en el món laboral.
"El diferencial no és fer servir la calculadora de les lletres, sinó entendre el resultat i valorar si el que diu té sentit, o ens està ensabonant"
Durant molt de temps hem premiat la capacitat d’acumular informació i repetir-la sobre un paper. Ara les màquines ens guanyen absolutament, i qualsevol professional pot tenir un assistent capaç de resumir informes, analitzar documents, o generar propostes en segons. El diferencial no és fer servir la calculadora de les lletres, sinó entendre el resultat i valorar si el que diu té sentit, o ens està ensabonant. Necessitem criteri.
Vull creure que el criteri neix d’haver pensat, llegit, escoltat i discutit. Apareix quan una persona és capaç de veure connexions que no són evidents per un lloro que recita dades. Vull gent que sàpiga unir matemàtiques amb història, negoci amb cultura, o innovació amb filosofia.
El gran risc que tenim davant nostre és el d’una generació sencera que s’acostuma a donar per bo tot el que li planta davant la IA, encara que sigui mediocre, però que no té el criteri per entendre que el que li està plantant davant del nas és una porqueria.
M’agrada molt tot el que penses
Tots sabem què passa amb els equips on ningú diu que una idea és dolenta. La intel·ligència artificial no necessita substituir el pensament humà per transformar-lo. Només necessita convertir-se en el nostre únic interlocutor i validador d’idees.
"Potser el gran repte del segle XXI no serà ensenyar a les màquines a pensar com persones. Serà evitar que les persones acabem pensant com màquines"
Sortiu de la zona de comfort, aneu al teatre, viatgeu, conegueu gent diversa, llegiu còmics, revistes i fulletons del supermercat. És l’únic antídot per combatre la grisor d’un futur en què tot pinti molt pla i homogeni.
Potser el gran repte del segle XXI no serà ensenyar a les màquines a pensar com persones. Serà evitar que les persones acabem pensant com màquines: ràpid, eficient i coherent, però sense mirada pròpia.
En un món on qualsevol pot obtenir una resposta en un segon, el veritable luxe és trobar algú que encara tingui una bona pregunta, i una resposta única.
Afegir VIA Empresa com a font preferida de Google de forma gratuïta
Estigues informat amb les últimes notícies d'actualitat