La falsa ànima de la IA

Casualment, fa pocs dies vaig sentir una conversa per la ràdio on els contertulians es preguntaven si la intel·ligència artificial podia tenir consciència. Em van saltar els ploms del meu cervell i aquí estic, intentant refer-me de l’ensurt.

Recordo una de les millors i més premonitòries pel·lícules que s’han fet sobre aquest tema, que tenia per títol en anglès Her, paraula que podríem definir com a un femení objecte (segur que tots els lingüistes del món ara s’han posat alerta). La distopia que presenta el film és sobre una persona que compra un programa d’intel·ligència artificial que fa d’assistent personal. L’usuari escull un seguit de paràmetres. Entre altres, una veu femenina que interpreta Scarlett Johansson.

L’assistent dona bons consells a l’usuari i sempre reforça els seus valors. En aquest cas, es tracta d'un pobre noi que s’enamora de l’assistent o, millor dit, assistenta. Una de les escenes més dramàtiques de la pel·lícula arriba quan per poder fer l’amor amb l’assistenta virtual usa d’intermediària física una prostituta que ha de complir les ordres de l’assistenta virtual amb la finalitat de convertir en real el que és una ficció. La prostituta, en un acte de dignitat, s’hi nega; no vol participar d’aquesta bogeria. Finalment, un dia, l’empresa proveïdora de l’app canvia el programa i l’assistent desapareix. A aquest punt volia arribar. Després de tantes emocions abocades, la realitat desfà qualsevol somni.

Si vols saber-ne més

 

   

El nostre pa de cada dia reclama solucions

La meva expertesa està situada a l'entorn tècnic de les bases de dades relacionals. No voldria ser més savi del que soc i, per tant, expressaré les meves opinions amb prudència. Quan vaig dirigir el disseny del sistema integrat de gestió de l’Institut de Recerca i Tecnologies Agroalimentàries (IRTA), el SIG, els primers dies de la seva posada en funcionament tothom es queixava; els canvis no agraden. Fins que van veure que allò funcionava i millorava molt la seva feina. A partir d’aquell moment, tothom el sol·licitava: el SIG passava a tenir capacitats extraordinàries i es demanaven funcionalitats que, pel seu cost o per la seva irrealitat, no eren possibles. Jo els hi deia: “Efectivament, podríem fer que les portes t’identifiquessin i de manera selectiva s’obrissin soles en veure’t, però fer anar el pom amb la mà ens sortirà més barat, més fàcil i més útil”.

Amb la intel·ligència artificial està passant el mateix, però multiplicat per l’infinit. Hem comprovat que el ChatGPT funciona i ens resol problemes i ens facilita feines que ens costarien estona fer-les sense aquesta eina. A partir d’això, estem idealitzant l’eina, i li hem adjudicat unes capacitats que ni té ni pot tenir; d'alguna manera, li hem atorgat valors propers a la màgia o al misteri.

Fins i tot, els dissenyadors de l’eina juguen -imagino que per raons comercials- a apostar per aquesta transcendència virtual. D’alguna manera, s’ha programat la necessitat de donar sempre una resposta el més a prop del que es demana, encara que pugui ser falsa. Posaré un exemple real: la meva filla de 34 anys em va preguntar per un record d’infantesa, sobre si jo havia redactat un conte que es deia El Tucà Llorenç. Jo no ho recordava, però vaig buscar per tot arreu de casa, de l’ordinador i de les xarxes i no el vaig trobar. Llavors vaig pensar: "Ho preguntaré al ChatGPT". I el ChatGPT em va contestar: “I tant que existeix!” Vaja, ves per on l’ha trobat. Li vaig preguntar on l’havia trobat i em va contestar un genèric “a moltes xarxes”. Davant de tanta claredat, vaig demanar que me’l mostrés. I ho va fer! Em va mostrar el conte del Tucà Llorenç. Ja estava tranquil fins que la meva filla va trobar en paper el conte del Tucà Llorenç que ella, no jo, havia escrit quan tenia deu anys. Aquell conte mai havia estat a les xarxes i res tenia a veure amb el que havia inventat, mentint, el ChatGPT.

"La IA pot esdevenir, si no ho és prou ara, una màquina amb una gran capacitat per mentir. Quelcom que pot esdevenir una eina utilitzada des d'ideologies perverses"

Estem creient-nos que la intel·ligència artificial és intel·ligent, que té vida, que és poderosa. I nosaltres ens encongim. Buscant a deus n’hem trobat un a la nostra mida. La cosa no és broma. Als Estats Units, una mare ha denunciat la mort per suïcidi del seu fill després que aquest mantingués una relació sentimental amb un “programa digital”. El fenomen és universal: joves immadurs estan fent preguntes sobre la seva vida a una app en comptes de preguntar-ho a pares o mestres.

Estem faltats de deus i estem divinitzant una màquina. Alguna vegada, per expressar que una cosa és impossible, hem dit “com si els elefants volessin”. Però això seria possible. Els elefants, en un procés de milions d’anys d’evolució, podrien arribar a volar, perquè els elefants són animals i tenen vida. Darwin avala aquesta afirmació. Tanmateix, la intel·ligència artificial, que té un nom ple de supèrbia, no pot tenir vida. Només cal desconnectar-lo del corrent elèctric per comprovar-ho.

No obstant això, la vida virtual que té pot fer molt mal. Si no la sabem gestionar, amb normes que evitin greus disfuncions, pot haver-hi conseqüències negatives importants. Tal com explica Yuval Noah Harari: “La IA no té emocions, però pot fer veure que en té”. Les imatges creades per IA poden no ser reals, però són tan perfectes que poden semblar-ho. Per això és que la IA pot esdevenir, si no ho és prou ara, una màquina amb una gran capacitat per mentir. Quelcom que pot esdevenir una eina utilitzada des d'ideologies perverses.

"Per ajuntar el que és virtual amb el que és real, fora bo facilitar més la formació elemental sobre el funcionament del món digital"

És imprescindible, si no ens hi volem fer mal, l’aterrament mental de l’anomenada intel·ligència artificial. Però hi ha interessos poderosos a què no els agrada aquesta idea. Acabem de veure el seu mal humor i males formes quan l’estat espanyol s’ha plantejat prohibir l’ús de les xarxes digitals a menors d’edat.

Per ajuntar el que és virtual amb el que és real, fora bo facilitar més la formació elemental sobre el funcionament del món digital. Buscant un símil, seria semblant a la visita a uns estudis de cinema on, per una banda, veiem un poble ben endreçat situat en algun lloc de l’Oest americà, però per darrere, són una colla de fustes que s’aguanten com poden. Uns decorats destinats a resistir fins que s’acabi de filmar la pel·lícula.

Al món digital també hi ha “decorats” formats per una suma gegantina de bits, els quals, ben ordenats, poden semblar coses reals. Fins que no desendollem el televisor, l’ordinador o el mòbil.

Si vols saber-ne més

 

   

Francesc Reguant-'Bullying'

Però això no és màgic. És la suma de molts desenvolupaments tecnològics extraordinaris i útils. Els coneixements de l’electricitat i les ones electromagnètiques ens ha permès transmetre la informació a la velocitat de la llum. La primera eina pràctica que va utilitzar aquesta funcionalitat va ser el telègraf, una eina molt simple enganxada a un cable. Els següents desenvolupaments de l’electrònica ens van permetre gestionar el flux d’electrons i alliberar-nos del cable. Varen néixer així les telecomunicacions. Els condensadors, transistors i la gravació magnètica varen oferir aquesta possibilitat. Calia, tanmateix, gestionar tot plegat de manera operativa. L’any 1971, l’empresa Intel va fabricar el primer microprocessador. Els desenvolupaments extraordinaris de la microelectrònica, amb la miniaturització dels xips fins a nivells quasi impossibles, van obrir les portes a l’expansió dels ordinadors.

Però, segurament, la innovació més disruptiva fou la descoberta d’un idioma universal, el llenguatge binari. Sí o no, apagat o obert. Tan senzill i tan extraordinari. Quelcom que fins i tot les màquines podien entendre. Ja només calia donar-li instruccions amb llenguatges de programació, el programari perquè el maquinari pogués atendre els objectius que preciséssim.

"Segurament, la innovació més disruptiva fou la descoberta d’un idioma universal, el llenguatge binari. Sí o no, apagat o obert"

Un llenguatge universal que ens permet organitzar objectes i transmetre informació a la velocitat de la llum. Un fet que ens permet enviar i rebre, sense que ho sembli, a través del GPS milionàries informacions necessàries per seguir el nostre vehicle, amb l’ajut d’uns satèl·lits i centres de dades a molts kilòmetres de distància.

Certament, hem de visitar l’estudi de cinema per veure els decorats per darrere. Hem de donar aquesta informació de manera general i entenedora. Així, podrem usar aquestes eines sense buscar-hi cap deu ni cap mag. De la màgia ja se’n cuida el Mago Pop.