La IA i les tribulacions de l’auriga

Per parlar d’intel·ligència artificial i el seu, que serà el nostre, futur, hauríem d’agafar una embranzida paradoxal i anar-nos-en uns 10.000 o 12.000 anys enrere... per allò que tot està inventat, i, amb permís de Nietzsche, allò de l’etern retorn.

Neolític: la gran revolució de la humanitat i alhora punt d’inflexió en el que van començar a sorgir algunes de les desigualtats que perduren en l’actualitat. La transició de societats predadores a productores, va derivar en l’aparició de riquesa, de propietat privada… el que va ser la gran innovació va deixar enrere a les dones i als pobres. Al mont Olimp no va millor: el tità Prometeu, enamorat de la humanitat, s’enfronta als déus en oferir el foc a la humanitat; però l’ús que la humanitat fa d’aquesta innovació implica riscos dels quals Prometeu no ens en va dir res.

"Per tal que una IA se la pugui considerar fiable, ha de ser lícita, robusta i ètica; i per tal que la IA signifiqui progrés, la innovació tecnològica ha d’anar acompanyada del respecte als drets fonamentals"

Plató i la seva al·legoria del carro alat (Diàleg de Fedre), degudament retorçat i adaptat, ens serveix per arribar a una conclusió: dos cavalls han d’intentar anar a un ritme similar per tal que el carro no es tombi i deixi d’avançar. I els nostres dos cavalls són innovació un, respecte als drets fonamentals, l’altre; el carro el guia un auriga: el progrés, però el de debò, el progrés de la humanitat.

Les dades que la IA fa servir en el seu entrenament incorporen els biaixos que té -tenim- la societat, que són prejudicis per raó de sexe, raça, edat… i que deriven en perjudicis per les persones a qui els apliquem. En la mesura en què no s’hi intervingui, el procés d’entrenament pot donar com a resultat algorismes esbiaixats, que perpetuen i institucionalitzen un biaix, donant lloc a una mena de legitimació algorítmica de la injustícia. D'acord amb aquests algorismes es prenen decisions sobre les persones, decisions que incorporen la injustícia del biaix que ha viatjat de la humanitat -recol·lecció de dades produïdes per la societat- i ha tornat a la humanitat -aplicació de l'algorisme en decisions sobre persones- sense poder culpar la IA, i provocant una desigualtat que, possiblement, es perpetuï sense marxa enrere: Neolític reloaded?

Si vols saber-ne més

 

   

Dades, sobirania, núvol i les preguntes que ens hem de fer sobre la IA

Per tal que una IA se la pugui considerar fiable, ha de ser lícita, robusta i ètica; i per tal que la IA signifiqui progrés, la innovació tecnològica ha d’anar acompanyada del respecte als drets fonamentals. És a dir, els dos cavalls a galop tirant el carro alat guiat per l’auriga progrés, cap a una societat millor.

El reglament UE 2024/1689, de la IA, se centra en el criteri del risc (Prometeu... se’t va passar per alt fer-nos un reglament!) que pot provocar l’ús d’un determinat sistema d'IA, i qualifica de “risc alt”, tot aquell ús que pugui causar perjudicis per la salut, la seguretat i els drets fonamentals. L’òptim, però, seria tenir el tema clar en l'àmbit internacional, proveir-nos d’una governança internacional que, actualment, sembla més lluny que a prop; especialment si tenim en compte la decebedora i molt preocupant geopolítica actual (què lluny el poema de Schiller que va inspirar a Beethoven!) i el fet que, ara com ara, la sobirania sobre la tecnologia està en mans privades.

El Premi Nobel d'Economia, Phillippe Aghion, participa de la idea: la innovació pot ser un motor de prosperitat o una força de desigualtat i destrucció si no s’acompanya de bones polítiques.

"La innovació pot ser un motor de prosperitat o una força de desigualtat i destrucció si no s’acompanya de bones polítiques"

El principal problema és perdre allò que, com humanitat, encara no hem aconseguit: el respecte real als drets fonamentals. Però, de fet, no ens hauríem de quedar aquí, el principal repte ara és aprofitar aquest vertader canvi d’era, i fer que la IA actuï com un motor de prosperitat, de progrés per la humanitat. La innovació és condició necessària per al progrés, i és clar que hi tenim un cavall pura sang de carreres, però sembla que pel respecte als drets fonamentals hi tenim un cavall perxeró. Segur que no cal ser Plató per veure els problemes que tindrà l’auriga, és a dir, el progrés, per conduir aquesta biga.

Un altre tema importantíssim, digne de molt més llarga reflexió i que ens ha d’interpel·lar: la factura en sostenibilitat que la IA i els seus centres de dades ens presentarà. L'ONU ja ha enviat un missatge sense pal·liatius: “Ens hem embarcat en un suïcidi anunciat”... i no sembla que vagi del suspens i del misteri en què ens va delitar en Gabo.