L'afer Anthropic

Anthropic publica Fable 5 el dimarts 9 de juny, la setmana passada. Hi fem les proves habituals i de seguida ens adonem que és un salt qualitatiu respecte al model anterior, l'Opus 4.8, que tot just feia quinze dies que estava disponible. Ho provem amb un projecte real: la programació d'un sistema complex de gestió d'informació. Li donem un sol apunt, el posem en mode bucle i que iteri fins que trobi la solució. En una hora i escaig tot programat. Ho revisem, mirem la qualitat del codi, forats de seguretat, funcionalitats. Impecable. Sens dubte és el millor model que hem provat mai.

Fable, de fet, no és un model del tot nou. És la versió que Anthropic obre al públic del seu model més potent, Mythos. Aquest model ja va fer molt soroll fins i tot abans de sortir. Segons Anthropic, el model és tan potent que posa en risc tota la infraestructura de seguretat d'internet. Per això, només hi van donar accés a les grans tecnològiques, bancs, empreses de ciberseguretat i agències estatals de seguretat. Es va especular molt sobre si n'hi havia per tant o si era tot un truc publicitari poques setmanes abans de sortir a borsa. Sigui com sigui, Mythos és el no-llançament comercial de més èxit de la història.

"Mythos és el no-llançament comercial de més èxit de la història"

He sentit enginyers que hi tenen accés i n'he vist algunes mètriques; i les xifres que la mateixa Anthropic va publicar fan venir vertigen. En el test de reproducció de vulnerabilitats CyberGym, el Mythos n'encerta el 83%, quan el millor model de fa uns mesos no arribava al 67%. Deixat anar sobre codi obert, hi va trobar milers de vulnerabilitats inèdites, moltes de crítiques, entre elles un forat de fa 27 anys a OpenBSD que permetia fer caure qualsevol màquina a distància. No és casual que Anthropic ho hagi empaquetat sota el projecte Glasswing, venut com l'escut per blindar el programari crític del món: la mateixa eina que troba els forats per tapar-los també els troba per obrir-los.

Costaria de creure que tot fos màrqueting i que tothom s'hagués conxorxat per aguantar un relat mític. De fet, Fable, tot i les salvaguardes que no té Mythos, és encara més potent. Sembla que Anthropic encerta en aquesta aplicació comercial del principi de prudència. Però, com tot mite, la història d'Anthropic conté traces de veritat. Segurament no és tota la veritat.

Els LLM consumeixen molts recursos de computació, o sigui d'energia i, per tant, d'aigua. I com més potent és el model, més. És obvi que si d'un dia per l'altre tots els usuaris que ara utilitzen Claude de franc o que en paguem la quota mínima de vint euros comencem a utilitzar Mythos, Anthropic té un problema gros que creix exponencialment amb els usuaris. És així com Anthropic va fer de la necessitat campanya de màrqueting. Que setmanes després obrís Fable —el Mythos domesticat— a tothom n'és la prova. Que fos després de tancar un acord amb SpaceX —de l'infame Musk— que li garantia capacitat de càlcul —tot un centre de dades a Memphis— és un detall menor.

Però escolta, si et venen un Ferrari a preu de 600, no preguntis massa. Entra la Ventafocs. Resulta que Fable 5 era temporal: la lletra petita deia que, quan s'acabés el període de prova, hauries de pagar un extra a la subscripció. De fet, als plans de pagament surt de franc només fins al 22 de juny; després, a pagar a part. Si us sona a camell que regala droga a la sortida d'un col·legi per cobrar-vos-la a preu d'or quan hi estigueu enganxats, us passa com a mi.

"Si us sona a camell que regala droga a la sortida d'un col·legi per cobrar-vos-la a preu d'or quan hi estigueu enganxats, us passa com a mi"

I encara més lleig. Aquella “capa de seguretat” que Anthropic va imposar a Mythos per convertir-lo en Fable, en realitat, era per a ells: si detecten que fas coses que ells consideren lletges —fabricar armes biològiques, llançar ciberatacs o destil·lar el model per fer-ne un de teu— et deriven cap a l'Opus 4.8, el model immediatament per sota de Fable en capacitats. De vegades, fins i tot, sense dir-t'ho i alentint les respostes; és a dir, sabotejant-te. Armes biològiques i ciberatacs a banda, imagina't que estàs entrenant el teu propi model i a Fable li sembla que això pot fer la competència a Anthropic: el teu model no acaba de funcionar i tu mai no sabràs que t'han sabotejat. Ara, a final de mes et passen la quota com si res. És com si Microsoft t'alentís el Windows en veure que programes un processador de textos millor que el Word (cosa que pot fer qualsevol nen de la classe dels Dofins). Tot molt estrany.

Molt bastó, per tan poca pastanaga? No ben bé: la pastanaga és orgànica, gustosa i ben madura. I prou barata. Com es guanya la vida el pagès? Doncs no se la guanya; o se la guanya mentre duri la subvenció. El que paguem per la IA no són preus de mercat, sinó preus de captació. El mateix Sam Altman ha admès que OpenAI perd diners amb la subscripció de 200 dòlars al mes perquè “la gent l'usa molt més del que esperàvem”; es calcula que enguany s'hi deixarà uns 14.000 milions de dòlars. El sector sencer crema capital de risc per enganxar-nos abans no arribi el bastó. És, exactament, la fase de catifa vermella de l'enshittification —la “merdificació”— que va descriure Cory Doctorow: primer et tracten de meravella, després et collen i, al final, t'escuren. I ho poden fer perquè el cost de sortir de la plataforma és superior al de romandre-hi.

Si vols saber-ne més

 

   

Josep M. Ganyet-Google Zero

Però el més lleig encara havia d'arribar, i va arribar de la mà del més lleig: Trump. Divendres passat, una ordre dels Estats Units prohibia l'accés a Fable. No només als països estrangers, sinó a qualsevol persona que no tingui passaport americà, fins i tot als programadors d'Anthropic que no siguin nord-americans. I com que mostrar el passaport a Claude no sembla bona idea, l'empresa es va veure obligada a xapar Fable per a tothom. Quina gràcia, gastar-te una milionada entrenant el teu model més capaç que després no pots vendre.

El motiu oficial és que algú havia trobat la manera de saltar-se aquelles salvaguardes i arribar a les capacitats cibercriminals del Mythos de sota. El detall sucós és com ho feia: demanant al model que llegís un programa i n'arreglés els errors. És a dir, exactament allò per a què venen Fable. Anthropic es defensa dient que no és res que no es pugui fer amb models comercials menys capaços, i deu tenir raó. Sigui com sigui, a la decisió hi deu haver una part de revenja: fa mesos que la companyia es nega que els seus models s'utilitzin per a fer seguiment de persones i per a fer la guerra, una negativa que ja li va costar un contracte milionari i que el govern designés Anthropic com a risc per a la cadena de seguretat.

Circula un mem que ho explica millor que cap discurs: una tira de Randall Munroe, a xkcd, que dibuixa tota la infraestructura digital del món —sistemes financers, crítics, de seguretat— aguantant-se en equilibri sobre una peça minúscula de programari lliure que fa anys que manté, sense que ningú li ho agraeixi, un voluntari anònim de Nebraska. Fa riure i fa por alhora, perquè és així.

I sembla que estem construint el nostre futur sobre això. El pitjor, però, és que aquest futur ja no dependrà d'un voluntari rere una pantalla envoltat de bosses de Cheetos en uns baixos, sinó del Cheeto en cap de la Casa Blanca, cosa que ho fa tot molt més perillós. Ens calen models públics i de qualitat.