La intel·ligència artificial ja no es limita a respondre preguntes. Està filtrant currículums, assignant riscos financers, prioritzant clients i condicionant decisions empresarials. No obstant això, quan es representa, quan es ven, quan es comunica, continuem mostrant-la com si fos una assistent. I, en la majoria de casos, amb veu femenina.
Però la intel·ligència artificial no té cara. Tampoc té veu, sinó interfície. I aquesta interfície no és neutra; és una decisió estratègica. Durant anys, la indústria ha entrenat l'usuari per associar l'ajuda amb el femení. Siri, Alexa o Cortana no només van ser productes: van ser un procés d'educació col·lectiva. La veu que respon, que acompanya, que resol, és una veu que no incomoda. I això, en termes d'adopció, és clau.
La IA no entra a les organitzacions només per la seva capacitat tècnica, sinó perquè redueix la percepció d'amenaça. I aquí convé aturar-se, perquè la IA ja no és només una assistent. És, cada vegada més, un sistema de decisió. I, no obstant això, continuem dissenyant la seva interfície com si estigués per ajudar, no per decidir. No és casualitat. És una manera de reduir fricció i accelerar l'adopció. Un disseny que suggereix proximitat redueix la percepció de risc: un to amable suavitza l'autoritat implícita, mentre que una veu empàtica redueix el qüestionament.
No estem descrivint la tecnologia, sinó condicionant la relació amb ella. I això té conseqüències. No és una percepció aïllada, sinó que es tracta d'un patró documentat. La UNESCO va alertar el 2019 que la majoria d'assistents de veu es van dissenyar amb identitat femenina per raons d'adopció i màrqueting.
Investigacions de Stanford i del MIT han demostrat que les veus femenines es perceben com més empàtiques, mentre que les masculines s'associen a autoritat. Però el patró canvia quan canvia el poder. En àmbits com finances, ciberseguretat o sistemes crítics, la tendència és clara: interfícies neutres, identitats abstractes o absència total de trets humans. No és una qüestió estètica. És gestió del risc. Quan la IA ajuda, s'humanitza; en canvi, quan decideix es despersonalitza.
A aquesta capa cultural se n'hi suma una altra menys visible, però igual de determinant: les dades. Els models generatius que avui creen imatges, interfícies o avatars han estat entrenats amb milions d'exemples d'internet. I aquest internet no és neutre: reflecteix patrons històrics, estereotips i desequilibris. Quan es demana a un model que representi un “assistent professional”, respon amb el que més ha vist. No decideix. Reprodueix.
Mentre la interfície genera confiança, el sistema està automatitzant decisions que afecten directament ingressos, riscos i persones
El biaix del dataset es converteix en biaix del disseny, i el biaix del disseny en biaix del mercat. El resultat és coherent: sistemes que automatitzen decisions complexes continuen comunicant-se com a simples assistents.
Perquè mentre la interfície genera confiança, el sistema està automatitzant decisions que afecten directament ingressos, riscos i persones. I aquesta distància entre representació i funció no és estètica. És operativa.
Un exemple real ho demostra: Amazon va desenvolupar un sistema d'IA per filtrar currículums entre 2014 i 2017. El model penalitzava les candidates dones perquè havia estat entrenat amb deu anys de dades internes dominades per perfils masculins. El sistema no només reproduïa el biaix: l'amplificava. Amazon el va retirar després de detectar que la IA degradava termes com “women’s” en expressions com “women’s chess club” o “women’s college”. No és un cas teòric: està documentat per Reuters i recollit per organismes com l'OCDE o el World Economic Forum. El rellevant no és el cas, sinó el que explica: quan la interfície transmet confiança però el sistema decideix sense supervisió, el risc es multiplica. I aquest debat ja no és teòric.
Segons Eurostat, el 20% de les empreses europees ja utilitzaven tecnologies d'IA el 2025, enfront del 13,5% de l'any anterior. Precisament per això, algunes administracions comencen a entendre que el debat ja no és només tecnològic, sinó de governança. Catalunya és un d'aquests casos. Ha apostat per una intel·ligència artificial ètica, segura i responsable. L'estratègia pública incorpora principis de transparència, no discriminació i supervisió, i promou mecanismes com el registre d'algorismes o la traçabilitat de decisions en l'administració.
L'objectiu és clar: evitar biaixos. Però aquí apareix la veritable complexitat. Perquè els biaixos no neixen només en l'algorisme. Neixen en com es dissenyen, es comuniquen i s'utilitzen aquests sistemes dins de les organitzacions. Pots tenir una IA auditada, traçable i alineada amb l'AI Act europeu i, tot i així, mal governada en la pràctica.
Perquè si la interfície genera confiança sense qüestionament, l'organització deixa de supervisar. I quan deixa de supervisar, delega. I quan delega sense entendre, assumeix riscos que no està mesurant. Aquí és on la conversa deixa de ser tecnològica per a ser empresarial.
Els sistemes que filtren candidats, assignen riscos financers o segmenten clients no són eines neutres. Són infraestructures de decisió. I, com a tals, han de ser gestionades amb el mateix rigor que qualsevol altre element crític del negoci.
Catalunya pot dissenyar una IA tècnicament ètica. Però la pregunta real no està en el codi, sinó en les empreses
Això implica un canvi profund en els Consells d'Administració. Ja no n'hi ha prou amb preguntar quina tecnologia s'està implementant. La pregunta és una altra: quines decisions està prenent i sota quins criteris.
Governar la intel·ligència artificial no és auditar codi. És entendre dependències: de dades, de models, de proveïdors i de dissenys que condicionen la confiança sense que l'organització sigui plenament conscient. I aquesta és, probablement, una de les majors vulnerabilitats actuals: la de sistemes que influeixen sense ser percebuts com a tals. Per això, l'avantatge competitiu ja no estarà en qui adopta abans la IA. Estarà en qui la governa millor. I governar-la implica assumir una cosa incòmoda: la intel·ligència artificial no és objectiva. És una amplificació estadística de decisions humanes passades.
No és que la IA tingui biaixos. És que estem automatitzant els nostres. Catalunya pot dissenyar una IA tècnicament ètica. Però la pregunta real no està en el codi, sinó en les empreses. Si la intel·ligència artificial ja està decidint, la qüestió no és com usar-la. És si estem preparats per a continuar sent els qui decideixen.