Ramon López de Mántaras investigava i parlava sobre la intel·ligència artificial molt abans que ningú en parlés. Va començar l'any 1974. És pioner en la investigació sobre la IA a Espanya i Europa i és el fundador de l’Institut d’Investigació en Intel·ligència Artificial del CSIC. És membre de diferents comitès assessors per a institucions públiques i privades sobre temes relacionats amb la IA i va coordinar el grup de treball que va elaborar l’Estratègia de Recerca i desenvolupament del Ministeri de Ciència del govern espanyol. L’enginyer informàtic i físic català és, a més, autor de més de tres-cents treballs científics i dels llibres de divulgació Inteligencia artificial i 100 coses que cal saber sobre intel·ligència artificial.
Ens rep uns minuts abans que comenci un face to face, organitzat pel Cornellà Creació, d'ell mateix amb la periodista, divulgadora TIC i presentadora del programa Revolució 4.0 a Catalunya Ràdio i TV3, la Xantal Llavina. Ambdós representen les dues cares d'una mateixa moneda: la contraposició entre les capacitats i els perills que comporten l'expansió i adopció de la intel·ligència artificial a totes les esferes de la nostra vida.
D’aquí a uns minuts, compartirà escenari amb una mirada sobre la IA que sovint contrasta amb la perspectiva acadèmica: la periodística. Com valora el tractament que s’està fent des dels mitjans de comunicació sobre aquesta tecnologia?
La tendència a posar titulars impactants i exagerats, sovint allunyats de la realitat, ha generat una expectativa social que no es correspon amb els fets i que atribueix a la intel·ligència artificial unes capacitats que no té.
I no només en els titulars: generalment, se li atribueixen unes capacitats antropomòrfiques que tampoc no posseeix. La societat creu que la IA té qualitats humanes i que és capaç de fer qualsevol cosa millor que nosaltres. I aquí tenim un problema.
L’origen d’aquest missatge, assumit pels mitjans, sorgeix inicialment dels departaments de comunicació i comercials de les grans tecnològiques.
Els mitjans i aquestes empreses són els principals interessats, però no pas els únics. Per exemple, és curiós veure com, en l’àmbit acadèmic, també s’ha comprat aquest relat. Els serveis de premsa i comunicació de moltes universitats i centres de recerca també cauen sovint en la temptació d’exagerar la importància d’un descobriment o d’un avenç científic.
Entre el hype i la realitat, on se situa ara mateix la capacitat real de la intel·ligència artificial?
Amb la IA es poden fer una quantitat enorme de coses. Ho hem vist, per exemple, amb el Premi Nobel de Química que van rebre els impulsors d’AlphaFold, John Jumper i Demis Hassabis. Amb aquest programari, que integra 32 algoritmes (i que no té res a veure amb la IA generativa), aquests científics han aconseguit expressar l’estructura tridimensional de les proteïnes i fer prediccions. Per tant, entre el hype i la realitat, hi ha moltíssima realitat.
Ara bé, el problema apareix amb la IA generativa, com ChatGPT, que ha entrat a totes les llars i se l’ha percebut com a una veu autoritzada. Com si fos una persona qui dona la resposta i com si la seva informació fos totalment fiable, en lloc d’aplicar el pensament crític i verificar-la amb llibres, enciclopèdies o la Viquipèdia.
"A totes les llars s'ha percebut ChatGPT com a una veu autoritzada"
Ha penetrat en la quotidianitat de les persones, però també de les empreses.
Que la gent l’utilitzi com si fos un psicoterapeuta, per exemple, ens ha de fer plantejar preguntes tan filosòfiques com què significa ser humans, o quina relació volem tenir amb la tecnologia. Té implicacions molt més enllà de les econòmiques. No podem renunciar a pensar o reflexionar sobre nosaltres mateixos.
Per exemple, si ens acostumem a deixar que ChatGPT ens ho escrigui tot, i comencem a delegar sistemàticament la nostra comunicació, acabarem perdent la capacitat d’escriure. I si deixem d’escriure, a la llarga deixarem de pensar. És molt preocupant. Ja se n’ha escrit força, i aquest fenomen es coneix com a deskilling, és a dir, la pèrdua progressiva d’habilitats a mesura que les deleguem a la tecnologia.
Escriure no és només posar una paraula rere l’altra. Hi ha un procés mental profund i intens abans de materialitzar-ho, especialment quan escrivim a mà. De fet, s’hauria de recuperar l’ensenyament de la cal·ligrafia. Potser no tanta com se’n feia als anys 60, però és bo que els infants aprenguin un mínim de cal·ligrafia a edats primerenques, que aprenguin a escriure amb lletres lligades, no separades. És en aquest moment que s’estableixen connexions neuronals molt valuoses, sobretot entre els dos hemisferis del cervell, que es relacionen amb el desenvolupament de la intel·ligència.
"El deskilling és la pèrdua progressiva d’habilitats a mesura que les anem delegant a la tecnologia"
Què no li delegaria mai a la IA per no perdre l’habilitat?
No vull dir-te mai, perquè poder utilitzar una calculadora és útil. Ara bé, això no treu que m’agradi el càlcul mental i que practiqui exercicis mentals en moments quotidians. Per exemple, quan arribo a la caixa del supermercat, ja sé quant hauré de pagar. A mesura que compro, vaig sumant, i potser m’equivoco en 30 o 40 cèntims.
A l’hora de decidir què i quan delegar, cal distingir entre habilitats essencials i habilitats accessòries. El que jo no faria mai és delegar a la IA qüestions que posin en perill aquelles habilitats essencials. Seria una barbaritat donar una calculadora a un infant de primària abans d’ensenyar-li a fer càlculs. Primer ha d’aprendre a sumar, restar i fer operacions bàsiques. Quan aquestes capacitats estan adquirides, a la secundària o la universitat, la calculadora pot ser una eina auxiliar. A aquestes edats, el més essencial és que aprenguin a enfocar un problema, a entendre bé l’enunciat, a planificar la resolució… És fonamental distingir entre l’essencial i l’accessori en l’aprenentatge.
Però encara que la capacitat estigui adquirida, es pot rovellar, oi?
També. S’ha de fer servir amb seny. Encara que en sàpigues molt, si deixes d’escriure, amb el temps podries perdre la capacitat de confrontar-te a un full en blanc.
I podries perdre la teva veu, la teva manera de pensar i d’expressar-te.
Exactament. Òscar Wilde va dir una vegada: “Aquest matí he treballat molt: m’he passat tot el matí traient i posant un punt i coma.” És una frase molt il·lustrativa, que ens recorda que l’esforç i l’exigència amb un mateix són valors fonamentals per a l’ésser humà. I les tecnologies amb què convivim avui afebleixen aquest esforç i accentuen la mandra que tots portem dins.
La IA podria frenar el proper Òscar Wilde, doncs. Com podem fugir de l’alarmisme i empoderar-nos?
Amb formació. Les tres coses més importants perquè una societat funcioni són: educació, educació i educació. I, actualment, hem de transformar a fons el nostre model educatiu.
Investiga la IA des del 1975. N’ha vist l’evolució i l’expansió. Quin camí li veu?
Malauradament, qui marca avui la pauta de la IA generativa són els Magnificent Seven (els set magnífics), les grans empreses tecnològiques del món. I si no anem amb compte, avançarem cap on elles vulguin. Això és molt preocupant, perquè el seu únic objectiu és el benefici econòmic. És lògic, perquè són empreses, però el problema és que només set grans corporacions acumulin tant poder i influència tecnològica.
D’altra banda, crec que la IA generativa tocarà sostre aviat. La corba de creixement s’està aplanant. I davant d’aquesta tendència, algunes tecnològiques comencen a integrar la IA generativa amb la IA simbòlica, és a dir, sistemes neuro-simbòlics. AlphaFold en torna a ser un bon exemple.
"La IA generativa tocarà sostre aviat. La corba de creixement s’està aplanant"
L’impacte de la IA ens obliga a plantejar-nos un debat que ja hem viscut en altres revolucions industrials. Ens convida a preguntar-nos, com a societat, quin vincle volem establir amb nosaltres mateixos, amb el món i amb la tecnologia. I això és bo, i necessari.