La IA en la guerra i la pornografia

La innovació no sempre neix a Silicon Valley. Sovint sorgeix entre les sabanes d’un servei per webcam o els esvorancs d’una trinxera. I això hauria de fer-nos pensar.

Històricament, si vols saber cap on va la innovació, no miris Silicon Valley: Mira un conflicte bèl·lic o el sector de la pornografia.

Comencem amb la pornografia: la videotrucada no la va inventar Skype ni va triomfar per demanar a la gent que apagui el micro a les reunions corporatives, sinó perquè permetia oferir serveis adults en viu. Els pagaments segurs per internet, les plataformes de transmissió en directe o les galeries multimèdia interactives també van fer les primeres passes en aquest sector abans d’exportar-se al comerç electrònic convencional. I no vull deixar de parlar dels deepfakes, on les primeres proves no van ser amb personatges polítics, sinó agressions cap a personatges del món del cinema i la música, despertant els desitjos d’aquells amb les ments més retorçades. I tot sense permís.

"La videotrucada no la va inventar Skype ni va triomfar per demanar a la gent que apagui el micro a les reunions corporatives, sinó perquè permetia oferir serveis adults en viu"

La guerra tampoc es queda enrere. El Bluetooth o el GPS que utilitzes per arribar a casa eren, originalment, eines militars. La mateixa Roomba que et neteja el borrissol del terra va ser desenvolupada amb el mateix algoritme per detectar i desactivar mines antipersones. L’aviació comercial, els primers ordinadors personals, els nanosatèl·lits, la ciberseguretat, i ara la intel·ligència artificial: són tecnologies que sovint tenen el seu primer ús no en el progrés civil, sinó en l’estratègia militar. I l’objectiu no és millorar vides, sinó guanyar batalles.

Palmer Luckey, el jove que va revolucionar la realitat virtual amb les ulleres Oculus Rift en un garatge de casa dels seus pares, ja fa molts anys que va vendre l’empresa a Meta. Ara ha deixat enrere els experiments amb cables i xips per fundar Anduril Industries, una empresa que ven sistemes d’armament autònom a governs com el dels Estats Units.

Els drons d’Anduril, com els Altius-600M, ja s’han desplegat en conflictes actius i tenen capacitat de navegació, identificació d’objectius i atac semiautònom. En paraules planeres: poden decidir a qui disparar, amb supervisió humana… per ara. Però el que es pretén és que no n’hi hagi, i que puguin prendre decisions d'acord amb un algoritme molt ben entrenat.

Al costat de Palmer Luckey hi ha Peter Thiel, l’home que va cofundar PayPal i que va incorporar-hi Elon Musk. En Peter és un conegut inversor que ha finançat projectes com Facebook, OpenAI o Palantir, on la IA s’utilitza per analitzar intel·ligència militar, identificar enemics i recomanar accions tàctiques en temps real. En el fons, és el mateix tipus d’algoritme que et diu quin vídeo mirar després a TikTok… però amb conseqüències mortals per alguna gent.

La gran pregunta és: qui regula tot això? Les Nacions Unides intenten establir normes, però les potències militars prefereixen la llibertat, ja que diuen que la regulació frena la innovació. Us sona, oi? És com posar a volar avions sense protocols internacionals de seguretat aèria.

"Les Nacions Unides intenten establir normes, però les potències militars prefereixen la llibertat, ja que diuen que la regulació frena la innovació. Us sona, oi?"

Per això és important que, tot i l’avançada de la intel·ligència artificial, l’última milla de tots els sistemes on s’implementi sigui humana, especialment en aquells que afecten el present i el futur de les persones. Siguin vulnerables o no.

La por no és només a les màquines que decideixen matar, sinó al precedent. Si la guerra pot ser automatitzada, barata i eficient, estem encaminant-nos cap a un món on iniciar un conflicte serà tan fàcil com prémer un botó? I encara més inquietant: si aquesta tecnologia funciona a cop de talonari, qui la tindrà a les seves mans? I qui en quedarà fora?

Hem deixat que el sexe i la guerra liderin la innovació perquè són sectors on la urgència, la passió, el finançament o la por justifiquen qualsevol experiment. I ja ho hem vist amb les xarxes socials, que quan no es posen límits, els límits els posen els que no busquen les millors intencions d’aquells a qui impacten.

"Si la guerra pot ser automatitzada, barata i eficient, estem encaminant-nos cap a un món on iniciar un conflicte serà tan fàcil com prémer un botó?"

Però potser ha arribat l’hora que altres sectors, com l’educació, la salut o la sostenibilitat, prenguin el relleu com a motors tecnològics. El món en sortiria guanyant. Que idíl·lic, oi? Si no ho fem, seguirem veient com les eines que haurien de millorar vides es transformen en armes de misèria.

La pregunta final és aquesta: si la Roomba neteja casa teva mentre treballes, i el dron de guerra fa neteja en una zona de conflicte mentre prens el cafè… Estem construint un futur més segur i eficient o simplement estem obviant el debat ètic més important del nostre temps, cedint a l’algoritme decisions que hauríem de continuar assumint nosaltres, com a societat, amb consciència, responsabilitat i voluntat de reflexió col·lectiva?