Quan la IA ens entén, però no ens comprèn

L’altre dia escoltava una entrevista a Lucía Halty, psicòloga especialitzada en psicopatia, i em va cridar l’atenció una comparació que feia entre el funcionament de la intel·ligència artificial i determinades conductes psicopàtiques. D'entrada pot semblar exagerada, però, a mesura que l'escoltava, em vaig adonar que la seva reflexió obria una qüestió que va molt més enllà de la tecnologia.

La seva idea és que una persona amb trets psicopàtics pot reconèixer què sent l'altre, deduir què necessita sentir i respondre-hi de manera que sembli empàtica, sense sentir res d'això per dins. I per fer-ho entenedor posava l'exemple de la IA. Li dius que estàs enfadat i et diu que entén la teva frustració. Li dius que t'ha decebut i et demana disculpes. S'ajusta al teu estat d'ànim, troba les paraules i moltes vegades te'n vas amb la sensació que t'han entès. Però no sent res del que tu sents.

Això no vol dir que la IA sigui psicòpata, és clar. La psicopatia és un tret de personalitat humana i la IA és una tecnologia. La comparació serveix per veure una diferència que em sembla important: comprendre una emoció i viure-la no són el mateix.

Si vols saber-ne més

 

   

Aida Jurado-Créixer sense ser cap

Nosaltres tenim empatia cognitiva, que ens deixa reconèixer i entendre què li passa a l'altre, i empatia afectiva, que fa que el que viu l'altre ens remogui per dins. La IA pot imitar la primera i donar respostes que sonen a la segona. Ho sabem, i, tot i això, ens hi relacionem com si a l'altra banda hi hagués algú que de debò ens comprèn.

Aquí entra el vincle. Tothom necessita sentir-se escoltat, i més quan dubtem o estem preocupats o ens sentim fràgils. La IA hi és a qualsevol hora, ens dedica tota l'atenció, no es cansa si repetim la pregunta i ens respon amb una amabilitat que a les converses de cada dia no sempre trobem. És molt fàcil acostumar-s'hi.

Halty deia que hi ha gent per a qui la IA ja s'ha convertit en la seva font de seguretat. Li consulten gairebé tot, hi passen les decisions abans de prendre-les, i alguns hi arriben a tenir un lligam afectiu. I aquí hi ha el desajust: la confiança que sentim pot ser real, però no és mútua. Nosaltres podem notar proximitat, afecte, agraïment. Ella no. Et pot respondre com si li importessis, però no li importes, almenys no en el sentit que nosaltres donem a aquesta paraula.

"La IA hi és a qualsevol hora, ens dedica tota l'atenció, no es cansa si repetim la pregunta i ens respon amb una amabilitat que a les converses de cada dia no sempre trobem"

El que em preocupa és què passa quan aquesta confiança comença a pesar en com pensem i com decidim. Confiar en algú és donar valor al seu criteri. Escoltem amb més ganes qui ens inspira confiança, i el qüestionem menys. Ens passa amb les persones des de sempre. Amb la IA, a més, les respostes arriben molt ben armades, amb arguments que lliguen i un to ferm, i costa distingir una bona explicació d'una bona decisió.

Portem-ho a l'empresa. Un directiu acaba de tenir una topada amb algú del seu equip. Està emprenyat, creu que l’altre s’ha passat de la ratlla, i quan torna al despatx ho explica tot a la IA, o tot el que ell troba rellevant, i li pregunta què hauria de fer.

La resposta pot ser molt bona, li ordena els fets, li apunta possibles causes, li proposa una conversa i fins i tot l'ajuda a preparar-la. Això serveix, i molt. Però també pot confirmar-li la lectura que ja portava feta, sobretot si el sistema és massa complaent. Aquesta tendència a donar la raó a qui pregunta té nom, sycophancy, i ja s'ha estudiat. No és un detall menor quan qui consulta arriba amb la idea ja fixada.

La IA no era a la reunió, no ha sentit l'altra persona, no sap com és la relació entre ells des de fa anys i no té tots els elements del conflicte. Només té el que li expliquen i com s'ho expliquen. El directiu, en canvi, pot sortir de la conversa més convençut que mai, i ara amb uns arguments molt ben escrits que li donen la raó.

"La IA no era a la reunió, no ha sentit l'altra persona, no sap com és la relació entre ells des de fa anys i no té tots els elements del conflicte"

Això em fa pensar en el que hem treballat durant anys a les organitzacions perquè els líders es coneguin, detectin els seus biaixos, escoltin punts de vista diferents i siguin capaços de dubtar de la seva pròpia interpretació. Els hem repetit que abans de jutjar cal entendre, que un fet no és una opinió, i que una decisió pot semblar raonable des d'un cantó i profundament injusta des de l'altre. Ara tenim una eina que ens pot ajudar amb tot això però també amb el contrari.

Podem fer-la servir per buscar altres explicacions, per veure què se'ns havia passat per alt, per posar a prova el que pensem o per preparar millor una conversa difícil. O per tenir una resposta ràpida que ens calmi i ens digui que teníem raó. I no sempre sabem quina de les dues coses estem fent.

Potser el risc no és només que la IA acabi decidint per nosaltres, sinó que, sense adonar-nos-en, anem deixant que pensi per nosaltres i que busquem la resposta abans d’haver-hi donat prou voltes. Que acabem necessitant que algú de fora ens doni el vistiplau per sentir-nos segurs, i que ens quedem tranquils només perquè la recomanació sona bé.

"En el lideratge, decidir també implica conviure amb el dubte, escoltar allò que ens incomoda i assumir que podem estar equivocats"

Pot ser una bona companya per pensar, mentre no oblidem què tenim al davant: una eina que analitza informació, proposa alternatives i detecta contradiccions, però que no coneix les persones com les coneixem nosaltres, no viu les conseqüències de cap decisió i no n'assumeix la responsabilitat.

Tornant a Halty, potser el que ens hauria d'inquietar no és que una màquina pugui semblar empàtica sense sentir empatia, sinó la facilitat amb què nosaltres podem arribar a atribuir-li una comprensió, una confiança i fins i tot autoritat.

En el lideratge, decidir també implica conviure amb el dubte, escoltar allò que ens incomoda i assumir que podem estar equivocats. Perquè sentir-nos segurs d'una decisió no significa necessàriament haver decidit bé.