Emprèn ràpid, mor jove i deixa un cadàver bonic

A Silicon Valley hi ha una llei no escrita que diu que "com més dades i més capacitat computacional, més intel·ligència". Em refereixo a la intel·ligència artificial generativa, no a la humana, que, com veurem més endavant, va per una altra via. És una llei que, tot i no estar escrita ni demostrada, ens afecta molt: tecnològiques, inversors, governs i, en última instància, tots nosaltres actuem com si fos de la natura, i com si el que es compleix avui s'hagi de complir sempre.

I com que tant la capacitat computacional —GPU i centres de dades— com les dades tenen un preu, el corol·lari és que "a més diners, més intel·ligència". Per posar-ho en perspectiva: només els cinc grans hiperescaladors —Amazon, Alphabet, Microsoft, Meta i Oracle— preveuen gastar-se entre 775.000 i 800.000 milions de dòlars aquest 2026 en infraestructura d'IA: dues vegades i escaig el PIB de Catalunya.

"Amazon, Alphabet, Microsoft, Meta i Oracle preveuen gastar-se aquest 2026 dues vegades i escaig el PIB de Catalunya en infraestructura d'IA"

Que sigui una qüestió de pressupost fa que, a priori, empreses com Google o Meta, milionaris com els infames Elon Musk o Larry Ellison, economies com la dels EUA o de la Xina siguin cada cop més "intel·ligents". Que només vol dir més eficients, no intel·ligents en el sentit antropomòrfic del terme.

Un exemple d'aquest cicle virtuós el tenim en la programació. Avui, cap programador no pica codi directament sinó que el "genera" amb eines com el Codex d'OpenAI, el Claude Code d'Anthropic o el Copilot de Microsoft. Continua decidint, però a alt nivell, com un arquitecte de programari (el problema és quan un júnior es veu empès a fer d'arquitecte sense tenir-ne la formació; per això tots els "a priori" d'abans). Anthropic explica com cada nova generació del seu Claude s'ha programat amb l'anterior: el maig passat, més del 80% del codi que entrava a producció l'escrivia el Claude. El seu cap de producte ho va resumir en quatre paraules: "Claude ara escriu Claude".

L'únic assaig controlat i aleatoritzat que s'ha fet —el de METR— va donar el contrari: setze programadors experimentats, en repositoris que coneixien de fa cinc anys, van trigar un 19% més amb IA que sense ella. I el millor: en acabar estaven convençuts que havien anat un 20% més ràpids. La productivitat, com la intel·ligència, també va una mica diferent segons qui la mira.

El 2020, Jared Kaplan i la gent d'OpenAI van descobrir unes "lleis d'escala" que obeïen les xarxes neuronals: com més dades els donaves, millor funcionaven. Però que les coses hagin passat sempre no vol dir que sempre hagin de passar. Si li pregunteu al capó que el pagès engreixa pel dia de Nadal si l'endemà al matí rebrà la seva ració de pinso us dirà que sí; i mai no n'estarà tan convençut com el dia de Nadal.

Hi ha dues lleis —aquestes sí que són de la natura— que neguen la major: la capacitat de còmput no pot ser infinita i les dades, tampoc. I una tercera, econòmica: mentre els costos d'entrenament creixen de manera exponencial, les capacitats ho fan de manera lineal. Al seu article de 2022 titulat Deep Learning Is Hitting a Wall, Gary Marcus ho explicava molt bé, tant que és encara vigent quatre anys després.

Del còmput no en parlaré massa. Basti saber que ja som al límit quàntic: el gruix de l'òxid de porta d'un transistor es compta avui en menys d'un nanòmetre, un grapat d'àtoms, i més compressió provocaria interferències que canviarien un zero en u i a l'inrevés. La Llei de Moore, que el 1965 deia que els transistors es doblaven cada any, és, com la de Kaplan, una observació empírica i no una llei universal: el 2022, Jensen Huang, de Nvidia, que no és sospitós de pessimisme tecnològic, ja en va signar la defunció.

"La Llei de Moore, que el 1965 deia que els transistors es doblaven cada any, és, com la de Kaplan, una observació empírica i no una llei universal"

L'altre mur és el de les dades. Aquests models són motors de generació estadística basats en xarxes neuronals, als quals calen molts exemples perquè puguin ser útils. Un nen petit, amb una dotzena, ja aprèn què és una cosa i què és una altra, fins i tot abans que no pugui parlar. A una màquina li cal una quantitat inhumana de dades: el ChatGPT ha processat entre 10.000 i 100.000 vegades més paraules que qualsevol de nosaltres, que en tenim prou amb 20 o 30 milions. El científic cognitiu de Stanford, Michael C. Frank, diu que els LLM ho poden fer, "però encara hem de cremar un bosc i recollir tota la suma de tot el coneixement humà per recrear aquesta fita que passa a les nostres sales d'estar al llarg d'un any".

D'on surten aquestes dades? El 2020, l'any de l'epifania de Kaplan, sortien de la internet oberta. S'agafa tot el que hem publicat, s'alimenta la xarxa neuronal i ale-hop! Màgia. Però aquesta és la fruita madura, la que tothom pot agafar i que no et dona cap avantatge competitiu. Algunes empreses van collir els fruits d'una mica més amunt: els vídeos de YouTube. OpenAI ens regala el model obert Whisper, que transcriu àudio en qualsevol idioma, el català inclòs. Però té un truc: quan el fem servir per transcriure una entrevista o una taula rodona i ho publiquem, estem treballant per a aquestes empreses.

Però no n'hi ha prou. Sabem que Meta no va tenir cap escrúpol a baixar senceres les biblioteques pirates d'Anna's Archive i LibGen —81 terabytes—, que no és el mateix que quan us en baixeu un llibre vosaltres. Ho sabem perquè en correus interns els seus enginyers parlaven de com treure les marques que aquests llocs deixen als arxius. Anthropic, OpenAI i Google també ho han fet. La fruita prohibida.

Però això també es va acabar. I llavors va arribar Panamà, el nom en clau que Anthropic va donar a l'operació: "el nostre esforç per escanejar destructivament tots els llibres del món", diu el memoràndum que va destapar el Washington Post al gener. Certes empreses compraven llibreries senceres de botigues de segona mà, riques en llibres no digitalitzats: fruita fresca.

Si vols saber-ne més

 

   

Josep M. Ganyet-Anthropic 451

I la manera més eficient d'escanejar-los resulta que és tallant-ne el llom, escanejant-ne les pàgines i venent-les per a fer pasta de paper. Anthropic va fitxar Tom Turvey, el cap d'aliances de Google Books, per a aital propòsit. Paradoxalment, també va resultar la manera més legal: el jutge William Alsup va dictaminar el juny del 2025 que, com que es creava un nou producte a partir del llibre i el llibre es destruïa (si no hi ha original, no hi ha duplicat), no contravenia cap llei de propietat intel·lectual. El mateix jutge, la mateixa sentència, va dir que baixar set milions de llibres pirates no colava: això a Anthropic li ha costat 1.500 milions de dòlars. L'incentiu estava servit.

És per això que Panamà s'ha anat apropant. El llibreter de vell Marçal Font Espí, de la llibreria Fènix de Badalona, va rebre aquesta primavera una sèrie de comandes curioses: darrers exemplars de llibres de temàtiques locals catalanes on els costos d'enviament superaven a bastament el preu del producte. Col·legues seus alemanys havien detectat el mateix. En Marçal es va posar a treballar amb l'expert en IA Xavier Vinaixa i, estirant el fil, van veure com la sospita es tornava certesa: la compradora era ZoomBooks, un intermediari canadenc disfressat d'empresa de reciclatge, i els llibres viatjaven a un magatzem als afores de Chicago i d'allà a una empresa que els escanejava destruint-los.

L'afer ha arribat a tots els mitjans internacionals, i fins i tot l'infame Musk en va fer un tuit dient que ordenaria a SpaceXAI que conservés els llibres rars i els escanegés sense tallar-los el llom (un bookwashing en tota regla: no diu què és un llibre rar ni promet res per als altres). El web 404 media va posar un AirTag dins d'una d'aquestes comandes, de mil exemplars: després de sortir de Califòrnia i passar per Milwaukee, els llibres arribaven a un magatzem d'Amazon a Las Vegas. A sobre la porta s'hi veu el logo de la divisió on van a parar: es diu VGT3 i és un tiranosaure que devora un llibre. Un Parenostre per la subtilesa.

Però encara hi ha una altra font: les dades de les empreses difuntes. Fa una setmana vam saber que Google s'havia interessat per Spirit Airlines, l'aerolínia que va plegar al maig. Els rumors que Google muntaria una aerolínia van córrer per xarxes, mar i aire. Al final va resultar que (de moment) no, que només estava interessada en el cadàver exquisit de l'aerolínia: en les seves dades. Ha acabat pagant deu milions de dòlars per 100 milions de correus, 500 milions de missatges de Teams i 30 milions de línies de codi. Aquí hi ha encapsulat el coneixement per crear, operar i enfonsar una aerolínia. El preu demostra que són dades valuoses i, si fem cas de l'experiència de compres de Google, el temps demostrarà que és irrisori.

"Google ha acabat pagant deu milions de dòlars per 100 milions de correus, 500 milions de missatges de Teams i 30 milions de línies de codi de la difunta Spirit Airlines"

Els entrenaments han evolucionat molt des del 2020 de Kaplan. Si llavors el que comptava era el volum de dades, ara la tendència és entrenar models amb simulacions. Agents autònoms prenen decisions en un entorn determinat —posem per cas la gestió d'una aerolínia— i se'ls premia si ho fan bé (el mètode està basat en el que fem servir per potenciar els bons hàbits en els nostres fills). Segons The Information, Anthropic tenia previst gastar-se més de 1.000 milions de dòlars en un any només en aquests entorns.

Seguiré atent a aquestes noves i creatives maneres d'obtenir dades per a entrenar models de llenguatge. He de reconèixer que aquesta darrera, ubicada a la intersecció de l'emprenedoria, el punk i la matança del porc, m'ha sorprès. Emprèn ràpid, mor jove i deixa un cadàver bonic, que ho aprofitarem tot.