Estic segur que dilluns al matí, quan el Papa Lleó XIV va presentar l'encíclica Magnifica Humanitas, es va produir un reboot d'aquell acudit de l'Eugenio quan algú de Silicon Valley va preguntar: "Qui és aquell home vestit de blanc que surt al costat d'en Christopher Olah?"
Christopher Olah té 36 anys, és canadenc, enginyer d'intel·ligència artificial especialitzat en ètica. Va treballar a Google i després a OpenAI. En va sortir —ell i uns quants més— perquè les coses no es feien de manera prou ètica. Són els que el 2021 van cofundar Anthropic, l'empresa d'IA que es va negar a cedir els seus sistemes a l'exèrcit dels Estats Units per a sistemes de guerra autònoma i vigilància massiva. Trump els ha vetat als departaments governamentals.
Dilluns passat, davant del Papa i davant del món, Olah va dir: "Necessitem veus morals que els incentius no puguin doblegar." Un enginyer que construeix màquines "de pensar" dient què pensa als que ens diuen com hem de pensar. El món al revés. O potser no.
Dues prèvies
La Magnifica Humanitas és la primera encíclica de Lleó XIV, el Papa elegit el 2025, el primer americà —i el primer agustinià— a ocupar el tron de Pere. Que sigui la primera encíclica i que la dediqui a la intel·ligència artificial vol dir que el tema el preocupa molt al Vaticà —i segurament més amunt— i que vol influir en el debat. No és menor.
Cal entendre els dos constructes en joc. El primer: què és una encíclica. Una encíclica és el document institucional de més pes que pot emetre un Papa. No és un tuit ni una nota de premsa; és un text que es distribueix a tota l'Església i que defineix posició en qüestions que la institució considera centrals. El segon: què és un Papa. Un Papa és algú amb autoritat moral sobre més de 1.400 milions de persones. Entre les quals hi ha gent que farà —fa— molts diners amb la IA i que decideix per on va. I gent que es queda o es quedarà sense feina per culpa, no de la IA, sinó dels d'abans.
El nom fa la cosa
Lleó no és un nom qualsevol. Lleó XIII va ser el Papa de la Revolució Industrial. El 1891 va publicar la Rerum Novarum —Sobre les coses noves— el primer document de l'Església que abordava directament els problemes socials derivats de la industrialització: el treball, el capital i la dignitat de l'obrer. Va ser el text que va obligar una institució de dos mil anys a opinar més que sobre la màquina de vapor, de qui se'n beneficiava.
"135 anys després, el cicle es repeteix. Les tecnologies han canviat, però no les preguntes: qui en decideix els beneficis i qui n'absorbeix els costos"
El nou pontífex va triar el nom de Lleó XIV per continuar la tasca de Lleó XIII de qui se'n reclama hereu. A Magnifica Humanitas hi ha una al·lusió explícita a les Res Novae del nostre temps —les coses noves, de nou. 135 anys després, el cicle es repeteix. Les tecnologies han canviat, però no les preguntes: qui en decideix els beneficis i qui n'absorbeix els costos.
He llegit l'encíclica. Claude, també
Un cop llegida li vaig passar al Claude: que el model de llenguatge d'en Christopher Olah em fes un resum d'un document que parla d'IA em va semblar doblement adequat. El resum que li vaig demanar, emperò, no era una extracció d'informació, sinó una sostracció; concretament de tota la part mitològica del text, que és molta.
El resultat? El 78% del document és retòrica i marc doctrinal cristià. Referències bíbliques, Babel i Jerusalem, Sant Agustí, el Magisterium, la gràcia divina. El Papa és un profund coneixedor de l'obra d'Agustí d'Hipona —va ser Prior General de l'Orde de Sant Agustí a Roma durant dotze anys— i es nota: Magnifica Humanitas parla de la contraposició agustiniana entre la Civitas Dei i la Civitas Terrena, entre construir Jerusalem o construir Babel.
"El 78% del document és retòrica i marc doctrinal cristià; el 22% restant —unes 9.800 paraules— és contingut factual o científic. És el que queda quan treus Déu de l'equació"
El 22% restant —unes 9.800 paraules— és contingut factual o científic. És el que queda quan treus Déu de l'equació. I quan treus la Humanitas? Ho comencem a saber i ho recull l'encíclica, que diu coses com:
Avui el poder tecnològic ja no és dels estats. Els principals motors del desenvolupament d'avui "són actors privats, sovint transnacionals, amb recursos superiors als de molts governs". El control de les plataformes, les infraestructures, les dades i la capacitat de càlcul no és prerrogativa pública: el determinen empreses que defineixen les condicions d'accés, les regles de visibilitat i les oportunitats econòmiques. Les dades no poden ser propietat d'uns pocs: són un bé comú, "fruit de l'aportació de molts, i no es poden vendre ni cedir". Qui controla la IA decidirà els valors que s'hi programen —i no és una decisió tècnica sinó política i moral: "qui controla la IA imposarà la seva pròpia visió moral, que es convertirà en la infraestructura invisible dels sistemes". "La indústria armamentística és un sector econòmic clau en alguns països". La guerra ja és híbrida: informàtica, financera i algorítmica. "Els algoritmes que premien l'enfrontament amplien la polarització i preparen culturalment el conflicte".
Cap cosa que no hagi dit abans Shoshana Zuboff, Daron Acemoglu o l'Electronic Frontier Foundation. Però l'usuari @pontifex té més de 1.400 milions de followers.
Nihil novum
He de confessar (estic en mode Vaticà, avui) que m'he divertit molt llegint l'encíclica. La IA i la història del cristianisme són dues de les meves passions i Magnifica Humanitas les té totes dues (si bé al 22% i al 78% respectivament). També valoro molt positivament que el Papa entri al debat. Valoro molt negativament que hagi de ser ell.
Als qui els tocaria —els fundadors de les plataformes, els CEO de les Big Seven, els inversors que en decideixen la direcció i els reguladors— o no ho fan o ho fan en termes de mercat, mai de bé comú.
"Té sentit que la institució que va ser el poder feudal per excel·lència durant segles se'ls adreci. Pura lògica"
Yanis Varoufakis, a Techno-feudalism: Who Owns the Future? (2023), argumenta que el capitalisme digital ha deixat de ser capitalisme per convertir-se en una nova forma de feudalisme. El poder ha tornat a ser privat, opac i hereditari —en forma de dades, infraestructura i capacitat de càlcul. Els nous senyors feudals es diuen Bezos, Zuckerberg, Musk o Altman. Els serfs som els qui els cedim les dades gratuïtament, treballem sobre les seves plataformes, paguem per fer-ho i vivim sota les seves regles sense haver-les votat.
Té sentit que la institució que va ser el poder feudal per excel·lència durant segles se'ls adreci. Pura lògica. El Vaticà sap parlar a feudals perquè ha estat i segurament continua essent feudal. Coneix el registre, el vocabulari, les palanques de pressió i té una legió de seguidors que ja hauria volgut el mític Ned Ludd a la Revolució Industrial. És l'única institució amb prou memòria institucional i prou autoritat moral per plantar-se davant de qualsevol poder i tocar-li el crostó (Lleó XIV no li ha tremolat el pols alhora d'enfrontar-se a un criminal com Trump). Que la institució més medieval sigui la veu més crítica del present més tecnològic és també un símptoma del problema que ens hauria de fer reflexionar a tots.
La paraula encíclica ve del grec enkyklios: circular. Una carta que passa de mà en mà i torna al punt de partida.
El Papa Lleó XIII va escriure Rerum Novarum el 1891 quan les màquines de vapor destruïen llocs de treball i el poder es concentrava cada vegada més. El problema no era el vapor sinó qui en decidia el model d'aplicació.
Amb la Magnifica Humanitas del 2026 som on érem. La carta ha passat de mà en mà i ha tornat al punt de partida; de Rerum Novarum a Res Novae, que vol dir "coses noves" però que s'assembla massa a "res nou".