Cuando la IA nos entiende, pero no nos comprende

El otro día escuchaba una entrevista a Lucía Halty, psicóloga especializada en psicopatía, y me llamó la atención una comparación que hacía entre el funcionamiento de la inteligencia artificial y determinadas conductas psicopáticas. De entrada puede parecer exagerada, pero, a medida que la escuchaba, me di cuenta de que su reflexión abría una cuestión que va mucho más allá de la tecnología.

Su idea es que una persona con rasgos psicopáticos puede reconocer qué siente el otro, deducir qué necesita sentir y responderle de manera que parezca empática, sin sentir nada de eso por dentro. Y para hacerlo entendible ponía el ejemplo de la IA. Le dices que estás enfadado y te dice que entiende tu frustración. Le dices que te ha decepcionado y te pide disculpas. Se ajusta a tu estado de ánimo, encuentra las palabras y muchas veces te vas con la sensación de que te han entendido. Pero no siente nada de lo que tú sientes.

Esto no quiere decir que la IA sea psicópata, claro. La psicopatía es un rasgo de personalidad humana y la IA es una tecnología. La comparación sirve para ver una diferencia que me parece importante: comprender una emoción y vivirla no son lo mismo.

Si quieres saber más

 

   

Aida Jurado-Crecer sin ser ninguno

Nosotros tenemos empatía cognitiva, que nos deja reconocer y entender qué le pasa al otro, y empatía afectiva, que hace que lo que vive el otro nos remueva por dentro. La IA puede imitar la primera y dar respuestas que suenan a la segunda. Lo sabemos, y, aun así, nos relacionamos con ella como si al otro lado hubiera alguien que de verdad nos comprende.

Aquí entra el vínculo. Todo el mundo necesita sentirse escuchado, y más cuando dudamos o estamos preocupados o nos sentimos frágiles. La IA está a cualquier hora, nos dedica toda la atención, no se cansa si repetimos la pregunta y nos responde con una amabilidad que en las conversaciones de cada día no siempre encontramos. Es muy fácil acostumbrarse a ella.

Halty decía que hay gente para quien la IA ya se ha convertido en su fuente de seguridad. Le consultan casi todo, le pasan las decisiones antes de tomarlas, y algunos llegan a tener un vínculo afectivo con ella. Y aquí está el desajuste: la confianza que sentimos puede ser real, pero no es mutua. Nosotros podemos notar proximidad, afecto, agradecimiento. Ella no. Te puede responder como si le importaras, pero no le importas, al menos no en el sentido que nosotros damos a esa palabra.

"La IA está a cualquier hora, nos dedica toda la atención, no se cansa si repetimos la pregunta y nos responde con una amabilidad que en las conversaciones de cada día no siempre encontramos"

Lo que me preocupa es qué pasa cuando esta confianza empieza a pesar en cómo pensamos y cómo decidimos. Confiar en alguien es dar valor a su criterio. Escuchamos con más ganas a quien nos inspira confianza, y lo cuestionamos menos. Nos pasa con las personas desde siempre. Con la IA, además, las respuestas llegan muy bien armadas, con argumentos que ligan y un tono firme, y cuesta distinguir una buena explicación de una buena decisión.

Llevémoslo a la empresa. Un directivo acaba de tener un encontronazo con alguien de su equipo. Está enfadado, cree que el otro se ha pasado de la raya, y cuando vuelve al despacho lo explica todo a la IA, o todo lo que él encuentra relevante, y le pregunta qué debería hacer.

La respuesta puede ser muy buena, le ordena los hechos, le apunta posibles causas, le propone una conversación e incluso le ayuda a prepararla. Esto sirve, y mucho. Pero también puede confirmarle la lectura que ya traía hecha, sobre todo si el sistema es demasiado complaciente. Esta tendencia a dar la razón a quien pregunta tiene nombre, sycophancy, y ya se ha estudiado. No es un detalle menor cuando quien consulta llega con la idea ya fijada.

La IA no estaba en la reunión, no ha oído a la otra persona, no sabe cómo es la relación entre ellos desde hace años y no tiene todos los elementos del conflicto. Solo tiene lo que le explican y cómo se lo explican. El directivo, en cambio, puede salir de la conversación más convencido que nunca, y ahora con unos argumentos muy bien escritos que le dan la razón.

"La IA no estaba en la reunión, no ha oído a la otra persona, no sabe cómo es la relación entre ellos desde hace años y no tiene todos los elementos del conflicto"

Esto me hace pensar en lo que hemos trabajado durante años en las organizaciones para que los líderes se conozcan, detecten sus sesgos, escuchen puntos de vista diferentes y sean capaces de dudar de su propia interpretación. Les hemos repetido que antes de juzgar hay que entender, que un hecho no es una opinión, y que una decisión puede parecer razonable desde un lado y profundamente injusta desde el otro. Ahora tenemos una herramienta que nos puede ayudar con todo esto pero también con lo contrario.

Podemos usarla para buscar otras explicaciones, para ver qué se nos había pasado por alto, para poner a prueba lo que pensamos o para preparar mejor una conversación difícil. O para tener una respuesta rápida que nos calme y nos diga que teníamos razón. Y no siempre sabemos cuál de las dos cosas estamos haciendo.

Quizás el riesgo no es solo que la IA acabe decidiendo por nosotros, sino que, sin darnos cuenta, vayamos dejando que piense por nosotros y que busquemos la respuesta antes de haberle dado suficientes vueltas. Que acabemos necesitando que alguien de fuera nos dé el visto bueno para sentirnos seguros, y que nos quedemos tranquilos solo porque la recomendación suena bien.

"En el liderazgo, decidir también implica convivir con la duda, escuchar aquello que nos incomoda y asumir que podemos estar equivocados"

Puede ser una buena compañera para pensar, mientras no olvidemos qué tenemos delante: una herramienta que analiza información, propone alternativas y detecta contradicciones, pero que no conoce a las personas como las conocemos nosotros, no vive las consecuencias de ninguna decisión y no asume la responsabilidad.

Volviendo a Halty, quizás lo que nos debería inquietar no es que una máquina pueda parecer empática sin sentir empatía, sino la facilidad con que nosotros podemos llegar a atribuirle una comprensión, una confianza e incluso autoridad.

En el liderazgo, decidir también implica convivir con la duda, escuchar aquello que nos incomoda y asumir que podemos estar equivocados. Porque sentirnos seguros de una decisión no significa necesariamente haber decidido bien.