Qui escull els que escullen?

Ja fa temps que no busco a Google: pregunto. I ho faig amb intenció, perquè em salti el quadre d'IA de Gemini i hi pugui continuar la conversa fins a la resposta. Una dada macroeconòmica, els usuaris mensuals de Meta o un text en llatí que no entenc són preguntes que li faig sovint, i poques vegades em cal passar del quadre amb la resposta generada. Ara mateix, ordenant finestres per escriure aquest article, m'adono que al navegador encara hi tinc una pestanya d'ahir amb la cerca “hipèrbaton, significat?”.

> L'hipèrbaton és una figura retòrica que consisteix a alterar l'ordre lògic i gramatical habitual de les paraules en una frase.

La resposta de Google és prou bona, almenys pel que jo recordo de quan a segon de BUP vaig estudiar aquesta figura retòrica. Per si no me n'acabo de refiar, Google em posa al final de la definició un “Wikipedia +2” perquè ho pugui verificar (cosa que no vaig fer). Entenc que l'ha generada a partir de Viquipèdia. Té sentit: és un dels llocs amb més autoritat a la web i, a més de ser llegible pels humans, està estructurada perquè la llegeixin les màquines. Per això els assistents de veu com Siri o Alexa hi recorren.

Si vols saber-ne més

 

   

Josep M. Ganyet-La màquina d'hipòtesis

No acabo d'entendre, però, el +2 de “Wikipedia +2”. Hi passo el punter per sobre i se'm despleguen dues fonts més, una de la Universitat de Barcelona. Enllaça amb una pàgina del Diccionari de Lingüística de la UB en una versió del 2013 a cura d'Elisabet Contreras Barceló i Alejandra de Riquer Permanyer i revisada per Esther Artigas Álvarez. En conec dues de tres. Confiança absoluta.

> En el cas de l'hipèrbaton, a diferència de l'anàstrofe i la tmesi, l'alteració de l'ordre usual de les paraules es deu a la intercalació d'elements que no formen part de la unitat sintàctica, cosa que en disloca els constituents.

Aquí l'explicació ja és més científica, té quatre pàgines i incorpora bibliografia. Hi ha hipèrbatons de Ciceró, Góngora o Verdaguer (sí, també el “Volverán las oscuras golondrinas” de Bécquer).

També inclou enllaços a anàstrofe i tmesi que no em puc estar de clicar: el primer dona una pàgina no trobada i el segon diu que està en preparació.

La tercera font en discòrdia, “Entiende el hipérbaton y su importancia en la literatura”, resulta ser un vídeo de TikTok: un noi amb barba, des de Barcelona, m'ho explica en castellà amb exemples clars: no és el mateix dir “dijous, tu i jo hem quedat” que “tu i jo hem quedat dijous”. No és el que dius, sinó com ho dius; l'ordre importa.

“L'ordre importa” podria ser el lema de Google (us en recordeu, d'aquell “don't be evil”? Fa riure i tot); ho saben bé els que es dediquen al mercadeig en línia. Però tot això s'esvaeix en favor de la IA: en tenim prou amb el text que ens genera Google a partir d'una cerca-pregunta, si no és que ho preguntem directament a Claude o ChatGPT. En tot cas no recuperen la informació en una font qualificada: ens generen una resposta a partir de la codificació de totes les fonts sobre el tema. Val la pena repetir-ho, perquè encara massa gent pensa que els LLM són cercadors avançats: el text es genera, no es recupera.

"'L'ordre importa' podria ser el lema de Google, però tot això s'esvaeix en favor de la IA: en tenim prou amb el text que ens genera Google a partir d'una cerca-pregunta"

Per als incrèduls, aquí us deixo l'entrada d'hipèrbaton de Viquipèdia que podeu comparar amb la del principi de l'article, generada per Gemini:

> L'hipèrbaton és una figura retòrica sintàctica que consisteix a alterar l'ordre dels mots habitual d'una llengua, canviant i fins forçant la posició dels elements d'una frase. És un recurs usat a la poesia per causar estranyesa i remarcar que es tracta d'un registre literari o per raons de rima i mètrica.

No s'assembla del tot a la que m'havia servit la IA. La de Google no apareix literalment a cap de les tres fonts perquè la va generar per respondre'm a mi, en aquell moment i tenint en compte qui soc. De fet, la mateixa pregunta des d'una finestra d'incògnit em dona un altre resultat i unes altres fonts; i si recarrego, un altre cop diferent.

Segurament aquest debat de mestretites sobre la definició d'hipèrbaton i de si Google en genera als seus resultats (reconec que n'hi he buscat) us importa ben poc. Però l'impacte d'aquestes decisions —quines fonts, en quin ordre i quines paraules— és més crític en tasques més delicades. Tendim a pensar que corregir, verificar fonts o traduir un text són feines que la IA ens estalvia sense conseqüències. I en una traducció —penseu en un contracte o en un discurs de Ciceró—, triar una paraula o una altra, un hipèrbaton o un punt i coma, pot canviar el discurs. Per això encara existeixen els advocats i es fan noves traduccions dels clàssics.

"En una traducció , triar una paraula o una altra, un hipèrbaton o un punt i coma, pot canviar el discurs. Per això encara existeixen els advocats i es fan noves traduccions dels clàssics"

Quan un LLM selecciona fonts, les ordena i en genera un text, qui fa aquesta feina d'advocat i de lingüista? Qui n'escull les fonts? Les paraules? Qui escull els que escullen (per nosaltres)? Bad piece on the loom.

I si un contracte o un discurs de Ciceró no us semblen prou importants, què passa quan li preguntem temes amb càrrega ètica o moral —l'avortament, la renda bàsica, la immigració, San Fermín? Quin impacte tenen les respostes de la IA en la societat?

Un estudi presentat aquest maig respon a la pregunta amb números. AI-Mediated Communication Can Steer Collective Opinion, de Tsirtsis i altres (Oxford Internet Institute i Hasso Plattner), és el primer treball que mesura què passa quan la IA no és l'interlocutor sinó el canal: quan LinkedIn et “millora la publicació”, YouTube et resumeix un vídeo o X t'“explica aquest post”. Quan la IA no es veu.

Van demanar a quatre models oberts (Llama, Ministral, Gemma i Qwen) de redactar i “millorar” posts sobre tretze temes controvertits —avortament, armes, canvi climàtic— amb l'ordre explícita de no tocar-ne el sentit. No la van complir: gairebé sempre hi van introduir un biaix mesurable.

A escala individual, l'efecte és baix: un text “millorat” per la IA desplaça l'opinió del qui l'escriu tot just un 2% cap a la posició del model. La cosa canvia quan ho fa mig món alhora. Per demostrar-ho, els investigadors van agafar l'estructura real de la xarxa X —80.000 usuaris i els 1,7 milions de connexions— i hi van simular la conversa: cadascú llegeix el que escriuen els seus contactes i publica al seu torn. Quan sis de cada deu passen el seu text per la IA abans de publicar-lo, aquell 2% s'amplifica fins a gairebé un 20% en l'opinió mitjana de tota la xarxa. Els autors en diuen el “veí invisible”: algú del barri, amic de tothom, que opina sempre el mateix i no canvia mai; sense aixecar la veu, acaba arrossegant tot el veïnat cap al seu terreny. El bucle és quotidià: llegeixes textos que la IA ja ha retocat, escrius el teu amb aquell to encomanat, el passes pel “millora la meva publicació” i la màquina l'esbiaixa una mica més cap als seus “valors”.

"El bucle és quotidià: llegeixes textos que la IA ja ha retocat, escrius el teu amb aquell to encomanat, el passes pel 'millora la meva publicació' i la màquina l'esbiaixa una mica més cap als seus 'valors'"

El mateix estudi demostra que el biaix també pot ser una decisió d'empresa. Els investigadors van auditar “Explain this post”, la funció de X, sobre 78 posts d'avortament: davant d'un de provida, el 54% de les respostes de Grok hi donaven suport i només un 4% s'hi oposaven; davant d'un de proelecció, el suport queia al 35%. D'on ve? Doncs de l'apunt de sistema de xAI, que ordena a Grok donar “truthful and based insights, challenging mainstream narratives” (“respostes veraces i based, qüestionant els relats dominants”). Based és l'antònim de woke en argot de xarxa: una paraula de mem incrustada en un prompt, amb efecte ideològic mesurable sobre centenars de milions d'usuaris. El biaix de Grok no és cap accident del corpus; és una tria feta amb intenció per algú. L'ordre de les paraules importa, i la seva tria, també.

I aquesta tria no només afecta com pensem: també com parlem. El cas paradigmàtic és delve (aprofundir), la paraula comodí de ChatGPT: després d'esclatar als articles científics (ho va detectar Jeremy Nguyen), un estudi de l'Institut Max Planck demostra que ha saltat a la llengua parlada. Hem començat a dir de viva veu les paraules que la IA ens posa per escrit. En castellà, “ahondar”; en català, “aprofundir”. Algú escull què escull la IA; algú que acaba escollint com pensem i com parlem.

Qui també ha escollit és l'editorial Raig Verd, que anunciava aquesta setmana a Bluesky que a partir de setembre els seus llibres duran un segell que acredita que no fan ús d'IA generativa —ni autors, ni traductors, ni il·lustradors, ni correctors: “Volem fer llibres escrits, traduïts, il·lustrats, corregits per persones, no pas per màquines”. No sé com s'ho faran per fer-ho complir als seus col·laboradors. Reblen el fil amb una idea que, després de l'estudi, té més base que mai: “És important que els lectors puguin prendre decisions informades sobre les seves lectures, perquè són eleccions que poden arribar a modelar el nostre món”.

"Qui també ha escollit és l'editorial Raig Verd, que anunciava aquesta setmana a Bluesky que a partir de setembre els seus llibres duran un segell que acredita que no fan ús d'IA generativa"

Per cert, havia de saber què era una anàstrofe. Corro cap a Google —“anàstrofe, què és?”— i sí, me la defineix i m'enllaça al «Diccionario de la lengua española +2». Un dels +2 és, precisament, l'enllaç de la UB que a mi m'ha donat pàgina no trobada. Bona elecció per part de Google.