El Papa hace tarde

Una de mis (y de muchas) obsesiones cuando estaba en el Govern era mantener estable, y en curva ascendente, la innovación en tecnologías digitales avanzadas en nuestra casa. Dejar a los sabios que hicieran de sabios, y darles el impulso y la plataforma para desarrollar una economía de la investigación y la innovación lo suficientemente potente para tener proyectos atractivos que atrajeran talento extranjero y, a la vez, mantuvieran el talento local arraigado y motivado. 

Catalunya siempre ha tenido un papel relevante en las varias revoluciones tecnológicas, a pesar de que íbamos perdiendo sábanas en cada colada (como el catalán, las cookies o los datos), pero también creando muros de contención que nos hacían avanzar hacia el futuro que queríamos. Proyectos como el dominio puntcat, Softcatalà o la Viquipèdia son legados de un grupo de tecnomotivados que iniciaron una conversación y siguieron avanzando hacia un objetivo común y claro.

"Catalunya siempre ha tenido un papel relevante en las varias revoluciones tecnológicas, a pesar de que íbamos perdiendo sábanas en cada colada (como el catalán, las cookies o los datos)"

Con la llegada de la IA, uno de los proyectos impulsados de la Universitat de Girona fue el Observatori d’Ética en Intel·ligència Artificial de Catalunya, el OEIAC. Un proyecto que marca un poco el paso desde donde hace tiempo que vamos avisando de dónde estamos, hacia dónde vamos y qué se debe tener en cuenta en cada pequeño paso adelante. Además, dentro del Govern, impulsamos también diversos grupos de trabajo para ir coordinados con las diferentes entidades y departamentos y garantizar los derechos de los ciudadanos en relación con la IA. Un puzle hecho de pequeñas piezas, que mucha gente no entendía, especialmente cuando incorporábamos las rúbricas de no dejar a nadie atrás y poder capacitar a todos los estratos de la sociedad. Un reto nada fácil, pero absolutamente necesario para poder avanzar con firmeza hacia el mundo digital que Catalunya necesita.

Esto era el 2022. En 2026, el papa León XIV ha hecho una encíclica que me hubiera venido muy bien para poder explicar la importancia de los derechos digitales a todos aquellos que no lo entendían entonces. Os prometo que cosas que ahora parecen de sentido común leyendo la encíclica, en aquella época formaban parte de conversaciones de pasillo y foros densos de señores vestidos con americana.

"Os prometo que cosas que ahora parecen de sentido común leyendo la encíclica, en aquella época formaban parte de conversaciones de pasillo y foros densos de señores vestidos con americana"

No quiero hundir el relato tecnooptimista, pero parece que a los que se rasgan las vestiduras por hablar de innovación en Silicon Valley les ha salido un crítico que no esperábamos: el Vaticano.

Tal como dijo el Ganyet en su columna de opinión del jueves, la primera encíclica de León XIV, Magnifica Humanitas, es probablemente uno de los documentos políticos y sociales más importantes publicados este año sobre inteligencia artificial. No porque diga nada radicalmente nuevo, sino precisamente porque confirma, desde una de las instituciones con más influencia moral del planeta, y con una persona con una influencia que va más allá de la Iglesia, aquello que hace tiempo que muchos expertos intentan explicar: que la tecnología no es neutral, que la IA concentra poder, que el trabajo humano está en riesgo de degradación y que delegar decisiones humanas a sistemas algorítmicos tiene consecuencias profundamente políticas.

Si quieres saber más

 

   

Josep M. Ganyet-De Rerum Novarum a Res Novae

En una de estas conversaciones de pasillo, una persona me dijo: “¿Quieres decir que esto que dice el Papa le importa a alguien? ¿Es importante?”. ¡Pues mucho! A la cantidad de gente que hace política en base a lo que lee cada día en el diario, o en LinkedIn, ahora se les suma la hoja de ruta del Vaticano para el reinado de los próximos años de León XIV. Un texto que habrá hecho pensar a más de uno en su oficina, planteándose el futuro, y las decisiones operacionales de los próximos años. Mirad que incluso ha hecho callar a Donald Trump. Cosa que tampoco sé si es buena o mala, porque debe querer decir que está ocupado haciendo alguna otra cosa.

La encíclica es especialmente interesante porque evita el discurso simplista de “la IA es mala”. De hecho, León XIV reconoce explícitamente que la tecnología no es un mal en sí mismo. El problema es quién la construye, quién la financia, quién la regula y con qué incentivos económicos opera… exactamente el mismo debate que el sector lleva años intentando explicar.

Y aquí llega una de las guindas del pastel como campaña de marketing: la presentación de la encíclica junto a Christopher Olah, cofundador de Anthropic. Un detalle que es enormemente significativo.

Anthropic lleva tiempo construyendo un relato corporativo muy concreto: ellos serían “los responsables”, “los prudentes”, “los que sí que se preocupan por la seguridad”. Una narrativa que funciona especialmente bien porque el resto de gigantes tecnológicos hacen cosas muy oscuras, siempre. Pero presentarse como “los buenos” no elimina las contradicciones del modelo de Anthropic, que tampoco es perfecto y que se tiene que mirar con lupa para ver sus grietas.

"Las empresas que más insisten en que la IA es demasiado poderosa para dejarla sin control son exactamente las mismas empresas que compiten desesperadamente por desplegarla antes que nadie"

Porque Anthropic sigue dependiendo de macroinfraestructuras computacionales con costes ambientales enormes. Sigue entrenando modelos con enormes dudas sobre derechos de autor, donde tienen una causa abierta precisamente por este tema. Sigue participando en una carrera competitiva para dominar mercado, datos, infraestructura y capacidad de cálculo. Y sigue formando parte de un ecosistema en el que el discurso ético a menudo es también una estrategia de posicionamiento corporativo. El famoso “AI safety” puede ser por convicción sincera si miramos su estructura e investigación… y a la vez branding premium si entendemos su discurso y posicionamiento dentro del mercado en el que participa.

De hecho, es difícil no ver cierta ironía en todo ello: las empresas que más insisten en que la IA es demasiado poderosa para dejarla sin control son exactamente las mismas empresas que compiten desesperadamente por desplegarla antes que nadie.

La encíclica también es relevante porque rompe otro tópico muy contemporáneo: la idea de que hablar de ética es ir en contra del progreso. León XIV conecta directamente la IA con la doctrina social de la Iglesia y con la Rerum Novarum de León XIII, publicada durante la revolución industrial. La comparación es muy inteligente: igual que las máquinas industriales transformaron el trabajo físico, la IA está transformando el trabajo cognitivo. E igual que entonces, el problema no es la máquina en sí misma, sino el modelo económico y político que la gobierna.

Por eso el documento insiste tanto en conceptos como dignidad, trabajo, comunidad, regulación y bien común. Palabras que parecen revolucionarias solo porque hace demasiados años que el debate tecnológico está monopolizado por gente que habla como si los humanos fuéramos una externalidad molesta del producto, del capitalismo.

"El relato de 'Magnifica Humanitas' obliga a mucha gente a escuchar una conversación que hasta ahora era ruido de fondo"

El relato de Magnifica Humanitas obliga a mucha gente a escuchar una conversación que hasta ahora era ruido de fondo. Cuando estas alertas las hacíamos expertos, investigadores, académicos o activistas, eran “alarmistas”. Cuando las está haciendo el Papa, abren informativos y generan conversación.

Queda ya patente que el poder tecnológico ya no reside exclusivamente en los estados, sino en estas grandes corporaciones de las que habla el Papa. Las tenemos que desarmar, las tenemos que poner al poder del pueblo, del bien común. Las grandes empresas tecnológicas deciden qué modelos lingüísticos se entrenan, qué lenguas son prioritarias, qué sesgos se corrigen, qué infraestructuras consumen recursos hídricos y energéticos a escala masiva e incluso qué información es visible o invisible para millones de personas. Durante siglos, el poder se medía con ejércitos, petróleo o fronteras. Ahora también se mide con LLM o GPU.

"Durante siglos, el poder se medía con ejércitos, petróleo o fronteras. Ahora también se mide con LLM o GPU"

Mientras continuamos debatiendo cómo regular la IA y la ponemos al servicio de las personas, hay empresas que ya tienen suficiente dimensión económica, técnica y geopolítica para negociar de igual a igual con gobiernos de todo el mundo. Una nueva forma de soberanía privada y capitalista con capacidad de influir en cultura, economía, lengua y democracia.

El gran poder no viene de la herramienta, sino de quien la crea. Ya pasó en el siglo XIX con la revolución industrial, y está pasando en el siglo XXI con la revolución digital. Los imperios, tanto religiosos como económicos, hace siglos que lo advierten. Silicon Valley hace tiempo que actúa como una religión; lo más inquietante es que le ha salido competencia.