La dogma de la IA i els nous profetes

Els temes estrella d'aquest estiu han estat, com ja va essent habitual, la xafogor insuportable i la quantitat d'incendis que han cremat els nostres boscos. Tot plegat acompanyat de la febrada col·lectiva per l'eclipsi, que ens va obligar a aixecar el cap de la pantalla durant deu minuts per recordar-nos que hi ha un univers més enllà del nostre mòbil. Arribat el setembre, amb l’inici del nou curs, tenim relleu com a tema estrella: la intel·ligència artificial i el seu poder per acabar amb la humanitat.

El passat 9 de setembre, Jacob Coxon, investigador sènior d’Anthropic i anteriorment d’OpenAI, publicava un fil a X anunciant la seva dimissió. Al comunicat, afirmava que cap d'aquestes dues empreses estava actuant amb responsabilitat i que les persones que estan construint la IA creuen que aquesta podria tenir capacitat per extingir-nos abans d’acabar la dècada. Coxon també assenyalava la necessitat de plantejar mesures de contenció dràstiques, com ara una prohibició temporal de millorar les capacitats dels models per evitar una cursa global potencialment perillosa.

Si vols saber-ne més

 

   

Josep M. Ganyet-Contra l'apocalipsi

Poc més d’una hora després, Evan Hubinger, Alignment Science lead d’Anthropic, hi posava cullerada afirmant que el que deia Coxon era correcte, fins al punt que personalment estimava en més d’un 10% la probabilitat que la IA pogués arribar a matar tots els humans durant els pròxims deu anys. L’endemà, Anthropic publicava el seu “informe d’intel·ligència sobre amenaces més detallat fins ara”, que concloïa, entre altres coses, que els models d’IA ja s’estan incorporant a investigacions científiques amb potencial de doble ús, i que, davant la creixent dificultat de distingir entre usos legítims i maliciosos, els filtres de contingut per si sols ja no són suficients. Dos dies després, el 12 de setembre, Dario Amodei, conseller delegat d'Anthropic, publicava un assaig titulat Hem de marcar el ritme de la frontera (We Must Pace the Frontier), on defensava alentir el desenvolupament de la IA per donar temps a la recerca en seguretat d'anar al ritme de les seves pròpies capacitats. La resposta tampoc no va trigar: Sam Altman, d'OpenAI, i Elon Musk, de xAI, hi donaven suport públicament en qüestió d'hores. Per un moment, semblava que els rivals de la cursa tecnològica es posaven d’acord i fumaven plegats la pipa de la pau i de la prudència.

Que la intel·ligència artificial comporta riscos és evident. En l’àmbit de la ciberseguretat ja hi ha hagut casos en què agents d’IA han piratejat sistemes sense cap intervenció humana i que s’han comportat de maneres que els seus creadors no han previst. Tanmateix, el que és menys evident és perquè aquest advertiment per part dels líders de la IA arriba ara. Les mateixes empreses que durant els darrers anys han promogut l’adopció massiva de la IA, perquè els interessava ampliar-ne l’ús i el consum, són ara les que, de sobte, en subratllen el risc existencial i demanen temps i prudència, gestionats des de dins del mateix sector. Dit d’una altra manera, les companyies que expliquen que la tecnologia que estan desenvolupant podria arribar a escapar-se del control dels seus creadors, són també les que reclamen tenir un paper central a l’hora de decidir com s’ha de controlar. Estan intentant convertir el relat del pànic en una font de legitimitat? Estan dient que, si el problema és tan extraordinari i tan tècnic que pot arribar a posar en risc la supervivència de la humanitat, qui millor per governar-lo que els qui coneixen la tecnologia des de dins? Si només els qui desenvolupen aquesta tecnologia tenen els coneixements necessaris per entendre’n els riscos, també poden acabar presentant-se com els únics capacitats per decidir com gestionar-los. D’això... en paraules senzilles... se’n diu consolidar el poder d’un oligopoli.

Per altra banda, mentre el debat catastrofista es concentra en un hipotètic escenari a deu anys vista, els impactes que la IA ja té avui dia queden en un segon pla. Per començar, els centres de dades que fan possible aquests sistemes tenen una petjada ambiental creixent. Segons un estudi de la Universitat de les Nacions Unides publicat el juny passat, el seu consum d’electricitat podria arribar als 945 TWh anuals el 2030, és a dir, gairebé el triple del consum elèctric anual conjunt del Pakistan, Bangladesh i Nigèria, i la seva petjada hídrica equivaldria a les necessitats domèstiques bàsiques anuals dels 1.300 milions d’habitants de l’Àfrica subsahariana. Paral·lelament, el darrer informe PISA, publicat per l'OCDE el passat 8 de setembre, revela que els alumnes amb millors resultats tendeixen a ser precisament els que menys IA utilitzen. Alhora, la IA generativa facilita noves formes de manipulació de la informació i amplifica la creació i difusió de desinformació, segons el Servei de Recerca del Parlament Europeu. Cap d'aquests efectes, doncs, necessita un escenari de superintel·ligència futura per ser rellevant: passen amb la tecnologia que ja existeix.

El consum d’electricitat dels centres de dades que fan possible aquests sistemes podria arribar als 945 TWh anuals el 2030, és a dir, gairebé el triple del consum elèctric anual conjunt del Pakistan, Bangladesh i Nigèria

Hi ha, encara, una tercera lectura més prosaica que la del control regulatori. Les valoracions d’aquestes empreses depenen, en gran part, de les expectatives en què el seu ritme de creixement es mantindrà. S’han invertit quantitats de capital enormes sobre la premissa que la IA transformarà l’economia i generarà retorns extraordinaris, i alentir voluntàriament el desenvolupament i presentar-se com els garants d’aquesta prudència pot ser també una manera de gestionar les expectatives del mercat per evitar que la bombolla s’infli massa.

La opinió pública, i, per tant, la societat, ha de tenir capacitat crítica per qüestionar-se qui construeix el relat que consumeix. Els grans il·luminats que aquests dies ens adverteixen dels perills de la IA no són actors neutrals. Ans al contrari: són els mateixos que dirigeixen les empreses que la construeixen. Quan expliquen quin futur s’ha de témer i quin ritme de desenvolupament és l'acceptable, cal qüestionar també a qui convé aquest futur.

La cursa de la IA és tant una cursa econòmica com geopolítica. Ara per ara, Washington i Pequín competeixen per liderar una tecnologia que pot tenir efectes profunds en la seguretat i l’equilibri de poder mundial, i, en aquest context, que una geografia en freni el desenvolupament sembla implicar que l’altra continuarà accelerant i acabarà prenent l’avantatge. Té certa similitud amb la lògica que va alimentar la cursa nuclear durant la Guerra Freda, amb la diferència que llavors les armes nuclears estaven sota el control dels estats, i ara la IA més avançada està en mans d’empreses privades que competeixen entre elles. La història nuclear demostra que els riscos d’una competició per una tecnologia d’aquesta magnitud es resolen mitjançant diplomàcia i mecanismes de control. Per tant, en tant que la IA també presenta riscos d’abast global, potser s’hauria d’advocar per una regulació i coordinació intercontinental.

En definitiva, la tecnologia avança més de pressa que la capacitat d’aprendre a conviure-hi, i la distància amb el desenvolupament humà i ètic no deixa de créixer. La IA no s’està creant, en primera instància, per fer una societat més culta, més ètica, més humana; s’està creant amb l’objectiu d’augmentar i accelerar la capacitat productiva, i, per tant, el creixement, que no el desenvolupament, econòmic.

Potser, doncs, més que perdre el temps flirtejant amb la possibilitat que la IA acabi amb la humanitat, el tema estrella d’aquesta tardor hauria de ser quin tipus de societat s’està construint amb ella. Més que res, perquè si es deixa que siguin els seus profetes qui en decideixin el ritme i la direcció, ves que, en comptes d’aspirar a arribar a les estrelles, no acabem tots plegats estrellats.