Automatitzar la democràcia

El govern d’Albània ha sorprès tothom amb una decisió surrealista: nomenar un avatar basat en IA com a ministre de contractació pública. L’avatar és el d’una dona jove, abillada amb el vestit tradicional albanès, de nom Diella, ‘Sol’ en català. El primer ministre, Edi Rama, va presentar la mesura com una manera de posar fi a la corrupció sistèmica que ha marcat la vida política del país; el seu horitzó 2030 és el de l’entrada a la UE aquell any i la Unió li exigeix uns mínims en el tema corrupció. És la primera vegada que un algorisme rep el rang de ministre. No volies governança democràtica de la tecnologia? Doncs dues tasses, o sigui, governança tecnològica de la democràcia.

Si vols saber-ne més

 

   

Josep M. Ganyet-Matar la veritat, mata

A Catalunya, país on sempre ho fem tot bé, hem llegit un titular similar, però en un sentit diametralment oposat. La Generalitat ha creat la Direcció General d’Intel·ligència Artificial, Eficiència i Dades, liderada en aquest cas per un humà, Jaume Miralles, que deu ser molt bo perquè és un ex-IBM, com jo. L’estratègia catalana fuig del papanatisme albanès —imperant arreu— i en lloc de cedir poder de decisió a una IA, aposta per formar els funcionaris en l’ús d’aquestes eines per millorar l’eficiència i reduir els terminis dels tràmits. Si volem governança democràtica de la tecnologia aquesta n’és una condició necessària.

"L’estratègia catalana fuig del papanatisme albanès i en lloc de cedir poder de decisió a una IA, aposta per formar els funcionaris en l’ús d’aquestes eines"

La promesa

El cas albanès parteix d’una idea tan utòpica com fonamentalment errònia: si la corrupció humana és el principal fre del país, una màquina incorruptible pot ser la solució definitiva. El primer ministre Rama ha afirmat que Diella garantirà que les licitacions públiques siguin “100% lliures de corrupció”. La tecnologia, presentada com a neutral i objectiva, seria així l’eina capaç de trencar dècades de clientelisme i de recuperar la confiança ciutadana i internacional.

Aquesta decisió és fonamentalment enganyifa pura i només es pot entendre des d’una concepció mediàtica de la política. Albània sap que la lluita contra la corrupció és condició sine qua non per avançar en el seu procés d’adhesió a la Unió Europea. En aquest context, nomenar una ministra d’IA esdevé un pescaclics que ocuparà titulars i que enviarà al món, o sigui a la UE, el missatge que estem lluitant contra la corrupció endèmica del nostre país. Recordatori: el primer ministre anterior i l’expresident del país són a la garjola per corrupció.

"Nomenar una ministra d’IA esdevé un pescaclics que ocuparà titulars i que enviarà al món, o sigui a la UE, el missatge que estem lluitant contra la corrupció endèmica del nostre país"

Morts per IA

Els algorismes no són neutrals ni infal·libles, i són tan equànimes i incorruptibles com els enginyers que els hagin programat. A banda, si estan basats en aprenentatge màquina, depenen de les dades amb què han estat entrenats i poden reproduir —i amplificar— els biaixos existents. Sense transparència ni supervisió humana, un sistema com Diella podria discriminar empreses o individus sota l’aparença d’objectivitat sense que en podés donar el perquè. A això s’hi afegeixen riscos tècnics com la possibilitat de manipulació o de furoneig, i un buit legal evident: qui assumeix la responsabilitat si una ministra artificial comet un error greu?

En tenim un precedent als Països Baixos on el mal ús de la IA va acabar tombant el govern i provocant la sortida en globus del llavors primer ministre Mark Rutte (va aterrar a l’OTAN, no passeu ànsia). El 2019 es va saber que les autoritats fiscals neerlandeses havien utilitzat un algorisme d’aprenentatge màquina per detectar el frau en les prestacions per a la cura dels fills. L’algorisme va assenyalar injustament milers de famílies com a defraudadores amb conseqüències dramàtiques: prop de 26.000 famílies van ser arruïnades, més de 1.000 nens van ser retirats de la custòdia dels pares i algunes de les víctimes van acabar suïcidant-se. L’afer es coneix com el toeslagenaffaire (l’afer de les bonificacions) i demostra els efectes devastadors de l’ús de la IA sense supervisió humana. No ho sabíeu, oi? No se’n va parlar massa.

"El 'toeslagenaffaire' demostra els efectes devastadors de l’ús de la IA sense supervisió humana"

El projecte de na Diella s’inscriu en aquest mateix terreny de risc. La Unió Europea treballa en una Llei d’Intel·ligència Artificial (AI Act) per regular els sistemes d’alt risc, com els aplicats a l’administració pública. Però la normativa no s’aplica a Albània, precisament perquè no és membre de la UE on pretén entrar amb l’ajut d’aquesta mesura.

L’oasi IA català

A Catalunya, que sempre fem les coses bé, hem optat per una aplicació de la IA a l’administració basada en la idea que la IA ha de ser una eina i no un fi en si mateixa. La nova Direcció General d’IA, Eficiència i Dades capacitarà els treballadors públics perquè integrin la tecnologia en les seves tasques quotidianes (ja ho fan a títol personal en el que es coneix com “IA a l’ombra”). Amb programes de formació i eines com Copilot de Microsoft, es vol que els empleats puguin crear agents digitals que automatitzin processos repetitius i alliberin temps per a feines de més valor afegit.

L’estratègia inclou més d’un centenar de tràmits prioritaris, des de les ajudes per a vehicles elèctrics fins a la renda garantida de ciutadania. Em fa especial il·lusió que ho apliquin a les ajudes per a vehicles elèctrics: quan em vaig comprar el primer elèctric em vaig quedar sense la subvenció del pla MOVES II quan ja me l’havien concedit. Va ser en plena pandèmia i no em vaig poder queixar a ningú personalment. El nostre govern diu que començarem a notar els beneficis en concepte de reducció de terminis i millora de la qualitat del servei el 2026. Anem lents perquè anem lluny, que deia el poeta.

Albània 0 - Catalunya 1

Albània i Catalunya representen dues visions contràries sobre la digitalització del sector públic. L’una, basada en una solució simbòlica merament politicomediàtica i centrada en la tecnologia; l’altra, en una reforma gradual i pedagògica, centrada en les persones. Ambdues responen a disfuncions reals que penalitzen els sistemes democràtics: la corrupció sistèmica i la ineficiència burocràtica.

"La tecnologia pot contribuir a fer administracions més eficients i transparents, però no pot substituir el judici crític, la responsabilitat política i l’ètica democràtica"

La tecnologia pot contribuir a fer administracions més eficients i transparents, però no pot substituir el judici crític, la responsabilitat política i l’ètica democràtica. Que li preguntin al bo d’en Mark Rutte. El precedent dels Països Baixos demostra que delegar el poder de decisió a un algorisme pot acabar en catàstrofe social i democràtica. Per això, qualsevol integració de la IA en un govern ha de garantir transparència, supervisió humana i retiment de comptes.

La democràcia pot fer servir la IA com a eina de canvi, però —a diferència de la burocràcia— no es pot automatitzar.