El Papa fa tard

Una de les meves (i de moltes) obsessions quan era a Govern era mantenir estable, i en corba ascendent, la innovació en tecnologies digitals avançades a casa nostra. Deixar als savis que fessin de savis, i donar-los l’impuls i la plataforma per desenvolupar una economia de la recerca i la innovació prou potent per tenir projectes atractius que atraguessin talent estranger i, alhora, mantinguessin el talent local arrelat i motivat. 

Catalunya sempre ha tingut un paper rellevant en les diverses revolucions tecnològiques, tot i que anàvem perdent llençols a cada bugada (com el català, les cookies o les dades), però també creant murs de contenció que ens feien avançar cap al futur que volíem. Projectes com el domini puntcat, Softcatalà o la Viquipèdia són llegats d’una colla de tecnomotivats que van iniciar una conversa i van seguir avançant cap a un objectiu comú i clar.

"Catalunya sempre ha tingut un paper rellevant en les diverses revolucions tecnològiques, tot i que anàvem perdent llençols a cada bugada (com el català, les cookies o les dades)"

Amb l’arribada de la IA, un dels projectes impulsats de la Universitat de Girona va ser l’Observatori d’Ética en Intel·ligència Artificial de Catalunya, l’OEIAC. Un projecte que marca una mica el pas des d’on fa temps que anem avisant d’on som, cap a on anem i què s’ha de tenir en compte a cada petita passa endavant. A més, a dins de Govern, hi vam impulsar també diversos grups de treball per anar coordinats amb les diferents entitats i departaments i garantir els drets dels ciutadans en relació amb la IA. Un puzle fet de petites peces, que molta gent no entenia, especialment quan incorporàvem les rúbriques de no deixar a ningú enrere i poder capacitar a tots els estrats de la societat. Un repte gens fàcil, però absolutament necessari per poder avançar amb fermesa cap al món digital que Catalunya necessita.

Això era el 2022. El 2026, el papa Lleó XIV ha fet una encíclica que m’hagués vingut molt bé per poder explicar la importància dels drets digitals a tots aquells que no ho entenien aleshores. Us prometo que coses que ara semblen de sentit comú llegint l'encíclica, en aquella època formaven part de converses de passadís i fòrums densos de senyors vestits amb americana.

"Us prometo que coses que ara semblen de sentit comú llegint l'encíclica, en aquella època formaven part de converses de passadís i fòrums densos de senyors vestits amb americana"

No vull enfonsar el relat tecnooptimista, però sembla que als que s'esquincen les vestidures per parlar d’innovació a Silicon Valley els ha sortit un crític que no esperàvem: el Vaticà.

Tal com va dir el Ganyet a la seva columna d’opinió de dijous, la primera encíclica de Lleó XIV, Magnifica Humanitas, és probablement un dels documents polítics i socials més importants publicats aquest any sobre intel·ligència artificial. No perquè digui res radicalment nou, sinó precisament perquè confirma, des d’una de les institucions amb més influència moral del planeta, i amb una persona amb una influència que va més enllà de l’Església, allò que fa temps que molts experts intenten explicar: que la tecnologia no és neutral, que la IA concentra poder, que el treball humà està en risc de degradació i que delegar decisions humanes a sistemes algorítmics té conseqüències profundament polítiques.

Si vols saber-ne més

 

   

Josep M. Ganyet-De Rerum Novarum a Res Novae

En una d’aquestes converses de passadís, una persona em va dir: “Vols dir que això que diu el Papa importa a algú? És important?”. Doncs molt! A la quantitat de gent que fa política sobre la base del que llegeix cada dia al diari, o al LinkedIn, ara se'ls suma el full de ruta del Vaticà pel regnat dels pròxims anys de Lleó XIV. Un text que haurà fet pensar a més d’un a la seva oficina, plantejant-se el futur, i les decisions operacionals dels pròxims anys. Mireu que fins i tot ha fet callar Donald Trump. Cosa que tampoc sé si és bona o dolenta, perquè deu voleu dir que està ocupat fent alguna altra cosa.

L’encíclica és especialment interessant perquè evita el discurs simplista de “la IA és dolenta”. De fet, Lleó XIV reconeix explícitament que la tecnologia no és un mal en si mateix. El problema és qui la construeix, qui la finança, qui la regula i amb quins incentius econòmics opera… exactament el mateix debat que el sector fa anys que intenta explicar.

I aquí arriba una de les cireretes del pastís com a campanya de màrqueting: la presentació de l’encíclica al costat de Christopher Olah, cofundador d’Anthropic. Un detall que és enormement significatiu.

Anthropic fa temps que construeix un relat corporatiu molt concret: ells serien “els responsables”, “els prudents”, “els que sí que es preocupen per la seguretat”. Una narrativa que funciona especialment bé perquè la resta de gegants tecnològics fan coses molt fosques, sempre. Però presentar-se com “els bons” no elimina les contradiccions del model d’Anthropic, que tampoc és perfecte i que s’ha de mirar amb lupa per veure’n les esquerdes.

"Les empreses que més insisteixen que la IA és massa poderosa per deixar-la sense control són exactament les mateixes empreses que competeixen desesperadament per desplegar-la abans que ningú"

Perquè Anthropic continua depenent de macroinfraestructures computacionals amb costos ambientals enormes. Continua entrenant models amb enormes dubtes sobre drets d’autor, on tenen una causa oberta precisament per aquest tema. Segueix participant en una carrera competitiva per dominar mercat, dades, infraestructura i capacitat de càlcul. I continua formant part d’un ecosistema en què el discurs ètic sovint és també una estratègia de posicionament corporatiu. El famós “AI safety” pot ser per convicció sincera si mirem la seva estructura i recerca… i alhora branding premium si entenem el seu discurs i posicionament dins del mercat en què participa.

De fet, és difícil no veure una certa ironia en tot plegat: les empreses que més insisteixen que la IA és massa poderosa per deixar-la sense control són exactament les mateixes empreses que competeixen desesperadament per desplegar-la abans que ningú.

L’encíclica també és rellevant perquè trenca un altre tòpic molt contemporani: la idea que parlar d’ètica és anar en contra del progrés. Lleó XIV connecta directament la IA amb la doctrina social de l’Església i amb la Rerum Novarum de Lleó XIII, publicada durant la revolució industrial. La comparació és molt intel·ligent: igual que les màquines industrials van transformar el treball físic, la IA està transformant el treball cognitiu. I igual que aleshores, el problema no és la màquina en si mateixa, sinó el model econòmic i polític que la governa.

Per això el document insisteix tant en conceptes com dignitat, treball, comunitat, regulació i bé comú. Paraules que semblen revolucionàries només perquè fa massa anys que el debat tecnològic està monopolitzat per gent que parla com si els humans fóssim una externalitat molesta del producte, del capitalisme.

"El relat de 'Magnifica Humanitas' obliga molta gent a escoltar una conversa que fins ara era soroll de fons"

El relat de Magnifica Humanitas obliga molta gent a escoltar una conversa que fins ara era soroll de fons. Quan aquestes alertes les fèiem experts, investigadors, acadèmics o activistes, eren “alarmistes”. Quan les està fent el Papa, obren informatius i generen conversa.

Queda ja palès que el poder tecnològic ja no resideix exclusivament en els estats, sinó en aquestes grans corporacions de les quals parla el Papa. Les hem de desarmar, les hem de posar al poder del poble, del bé comú. Les grans empreses tecnològiques decideixen quins models lingüístics s’entrenen, quines llengües són prioritàries, quins biaixos es corregeixen, quines infraestructures consumeixen recursos hídrics i energètics a escala massiva i fins i tot quina informació és visible o invisible per milions de persones. Durant segles, el poder es mesurava amb exèrcits, petroli o fronteres. Ara també es mesura amb LLM o GPU.

"Durant segles, el poder es mesurava amb exèrcits, petroli o fronteres. Ara també es mesura amb LLM o GPU"

Mentre continuem debatent com regular la IA i la posem al servei de les persones, hi ha empreses que ja tenen prou dimensió econòmica, tècnica i geopolítica per negociar d’igual a igual amb governs de tot el món. Una nova forma de sobirania privada i capitalista amb capacitat d’influir en cultura, economia, llengua i democràcia.

El gran poder no ve de l’eina, sinó de qui la crea. Ja va passar al segle XIX amb la revolució industrial, i està passant al segle XXI amb la revolució digital. Els imperis, tant religiosos com econòmics, fa segles que ho adverteixen. Silicon Valley fa temps que actua com una religió; el més inquietant és que li ha sortit competència.