Molt s'ha escrit des de l'aparició del ChatGPT, sobre l'impacte de la intel·ligència artificial en qualsevol sector. Sense anar més lluny, fa uns dies amb en Josep M. Ganyet reflexionàvem convocats per la fundació .CAT sobre com la IA està generant noves oportunitats i noves amenaces al sector dels registradors de dominis.
Però més enllà d'allò que els humans han escrit sobre el GPT, la realitat quotidiana de moltes indústries els últims mesos ha estat veure com era el propi GPT qui escrivia molt, més i més a cada dia que passava, i que substituïa als humans en alguns redaccionals poc complexos. Ens referim a butlletins electrònics, posts de xarxes socials o respostes en entorns conversacionals. GPT és, ara mateix, un dels autors de contingut amb més ritme de creixement a Internet. I això, que semblaria indicador del seu èxit, podria esdevenir la seva perdició. El risc de col·lapse està a poques passes.
En efecte, existeix un risc real que col·lapsin els models d'intel·ligència artificials, amenaça que ja està documentada. El professor Ross Anderson, de la Universitat de Cambridge, ha liderat un estudi sobre quins efectes tindria la proliferació de contingut generat per intel·ligència artificial a Internet en l'aprenentatge posterior d'aquests tipus de models, que bàsicament s'alimenten de contingut que es troba per Internet. Dit ràpid i de qualsevol manera, la problemàtica seria similar com la de quins efectes té per a un animal que ingereixi aliment provinent de la mateixa espècie.
La problemàtica seria similar com la de quins efectes té per a un animal que ingereixi aliment provinent de la mateixa espècie
El problema l'han batejat com col·lapse de model (model collapse). Pel que comenten, en la versió original de l'article denominaven el fenomen com model dementia, però van suavitzar-ho perquè van pensar que aquest terme estaria trivialitzant la noció mèdica de demència, i que això podria resultar ofensiu.
Què han trobat? Els investigadors demostren que l'aprenentatge a partir de les dades produïdes per altres models provoca el col·lapse del propi model, un procés degeneratiu en què, amb el temps, els models obliden la veritable distribució de dades subjacent. Les dades que recull acostumen a processar-se sobreestimant els casos més freqüents i subestimant els casos més infreqüents, en el benentès que així s'equivocarà menys en les respostes que va servint als usuaris. Què passa quan s'alimenta d'alguna cosa que ja ha passat per aquest processament? Doncs que els matisos es van perdent, i finalment podria acabar resultant amb una erosió de les seves capacitats. No és capaç de tenir memòria, almenys de moment.
Una de les conclusions que semblen intuir-se és que aquestes màquines seguiran necessitant dels humans: si no hi ha contingut original, no hi ha possibilitat d'un progrés substancial. L'ecosistema digital s'ha omplert de textos i imatges generats per models d'IA, això és una obvietat. Ho veiem en el to dels textos, en la seva correcció, en la disminució de les faltes d'ortografia i en l'augment de la predicibilitat. Passat el primer wow, especialment en sectors com el màrqueting digital o l'ecosistema startup, ara començarem a trobar evidències com aquesta i d'altres, on quedaran retratats els punts febles i les limitacions de les noves eines.
El contingut original, doncs, serà essencial. Però no simplement unes novel·les originals o uns assaigs ben entenimentats i raonables, sinó també -i potser més- tindrà molt valor la presència de dades recopilades sobre les interaccions humanes genuïnes. Aquelles que potser estem començant a limitar i a marginar per donar més espai a la interacció amb les dites intel·ligències artificials
El col·lapse del model és el revers d'una oportunitat molt bona per a l’ésser humà que treballa en la creació de continguts. Els que no tinguin capacitat de ser més creatius que les màquines, ho tenen magre, però els que sí superen aquest estàndard de correcció i estructuració correcta del missatge tenen un horitzó de creixement molt prometedor. El futur del marketing digital passa, des d'aquest punt de vista, més per la lectura de clàssics i el coneixement de les humanitats que per la incorporació de noves tècniques. Benvingut col·lapse