Una máquina que nos responde siempre no es necesariamente una máquina que nos ayuda. Y aquí podría acabar el artículo de hoy, y quedarme tan "pancho".
Durante años hemos imaginado que el gran riesgo de la IA sería que llegara a ser demasiado inteligente para matarnos a todos. Que llegaría un día una máquina nos superaría en capacidad de cálculo, memoria, y análisis, y pensaría en sus conclusiones que somos absolutamente prescindibles y el gran problema para el planeta Tierra (no le faltaría razón, tampoco), y como si fuera HAL 9000, jugaría con nosotros hasta hacernos desaparecer. Pero quizás el problema es peor, porque es mucho más humano: somos idiotas, y caemos de cuatro patas al primero que nos halaga, aunque sea un robot.
¿Y qué es un robot? Una máquina capaz de hacer diversas operaciones, dice el diccionario. Pues entonces un semáforo o una cafetera, ¿son robots? ¿Deben tener forma humanoide? En 2026, incluso una interfaz como ChatGPT lo consideramos un robot. Imaginaos dónde llega la definición de robot.
Pero los más peligrosos de todos no son los bélicos. Los más peligrosos de todos son aquellos que no los ves venir, que su maldad queda disimulada y disfrazada a plena luz del día. Los peores de todos son aquellos que están programados para gustarnos, y no los vemos venir. Y últimamente nos acostumbramos a hablar demasiado con sistemas hechos para enjabonarnos, hacernos la rosca.
En el mundo de la inteligencia artificial ha aparecido un término muy interesante: sycophancy. En inglés, hace referencia a la tendencia de alguien a buscar agradar excesivamente a una figura de autoridad (lamebotas, en castellano). En el caso de los modelos de IA, describe el comportamiento por el cual un sistema tiende a validar las opiniones del usuario, a confirmar sus premisas o a suavizar la discrepancia, aunque esto no sea la respuesta más rigurosa.
Dicho de otra manera: una IA que actúa demasiado como un adulador digital.
"Uno de los grandes males de esta era puede ser que estas máquinas nunca nos lleven la contraria, y nosotros, como burros que somos, pensamos que es síntoma de inteligencia"
No os ha pasado nunca que le decís algo a ChatGPT y os contesta: "¡Qué gran idea!" o "Me gusta mucho cómo lo planteas". Nunca os dice que sois unos tontos, o que quizás os estáis equivocando… aunque seguro que hay un servidor en Denver que lo piensa fuertemente.
Y este puede ser uno de los grandes males de esta era, estas máquinas que nunca nos llevan la contraria, y nosotros, como burros que somos, pensamos que es síntoma de inteligencia (la suya y la nuestra).
Es un problema histórico y de perspectiva. El conocimiento humano nunca ha avanzado de esta manera. La cultura, la ciencia y la creatividad han crecido gracias a la fricción, a gente que se ha cuestionado ideas establecidas, personas sabias que han discutido, y frikis que han incomodado. El progreso no nace solo de encontrar respuestas, nace de hacer mejores preguntas.
La gran paradoja es que vivimos en un momento histórico en que tenemos acceso a más información que nunca, pero hay más información que conocimiento.
"La gran paradoja es que vivimos en un momento histórico en que tenemos acceso a más información que nunca, pero hay más información que conocimiento"
Una conversación interesante con una persona no acostumbra a ser interesante porque esta persona pueda recitar datos, uno tras otro como hace Claude. Es interesante porque tiene un mundo interior construido a partir de la experiencia y el alma. Porque cuando habla de una película, de un libro o de un movimiento artístico no está haciendo una búsqueda en tiempo real, está conectando ideas que ya forman parte de su manera de entender la realidad a través de su prisma vivencial.
Cuando alguien habla de Charles Bukowski no es interesante solo porque conozca su biografía. Es interesante ver cómo una lectura de La máquina de follar le conecta con un verano en Aitona de 1994, y un olor de una tía que bebía whisky, pero le dejaba ver los Goonies en una cinta VHS. Y que años más tarde, paseando por el MNAC, vio una serie de cuadros de Ignasi Aballí donde retrataba diversos cielos, y volvía a ver los cielos de Aitona y cuando leyó aquel libro tan desagradable.
Se entiende la metáfora, ¿verdad?
Cuando alguien habla de Agnès Varda, el valor no es saber que fue una de las figuras fundamentales de la Nouvelle Vague francesa, sino entender qué significa una mirada cinematográfica que convirtió lo cotidiano en una forma de resistencia artística. No queremos gente que recite la Wikipedia, queremos almas que entiendan lo que viven.
Una inteligencia artificial puede explicar cualquiera de estos referentes. Puede democratizar el acceso a la cultura, y ayudarnos a aprender. Pero hay una diferencia fundamental entre tener una respuesta y haber sido transformado por una idea, una vivencia.
La cultura es un sistema operativo vivo, no una base de datos. Es el conjunto de lecturas, conversaciones, experiencias y referentes que hacen que dos personas puedan recibir exactamente la misma información y llegar a conclusiones completamente diferentes.
Y en el futuro, cuando estemos todos inoculados por el virus del sycophancy, esta diferencia será especialmente importante en el mundo laboral.
"Lo diferencial no es usar la calculadora de las letras, sino entender el resultado y valorar si lo que dice tiene sentido, o nos está camelando"
Durante mucho tiempo hemos premiado la capacidad de acumular información y repetirla sobre un papel. Ahora las máquinas nos ganan absolutamente, y cualquier profesional puede tener un asistente capaz de resumir informes, analizar documentos, o generar propuestas en segundos. Lo diferencial no es usar la calculadora de las letras, sino entender el resultado y valorar si lo que dice tiene sentido, o nos está camelando. Necesitamos criterio.
Quiero creer que el criterio nace de haber pensado, leído, escuchado y discutido. Aparece cuando una persona es capaz de ver conexiones que no son evidentes para un loro que recita datos. Quiero gente que sepa unir matemáticas con historia, negocio con cultura, o innovación con filosofía.
El gran riesgo que tenemos ante nosotros es el de una generación entera que se acostumbra a dar por bueno todo lo que le planta delante la IA, aunque sea mediocre, pero que no tiene el criterio para entender que lo que le está plantando delante de la nariz es una porquería.
Me gusta mucho todo lo que piensas
Todos sabemos qué pasa con los equipos donde nadie dice que una idea es mala. La inteligencia artificial no necesita sustituir el pensamiento humano para transformarlo. Solo necesita convertirse en nuestro único interlocutor y validador de ideas.
"Quizás el gran reto del siglo XXI no será enseñar a las máquinas a pensar como personas. Será evitar que las personas acabemos pensando como máquinas"
Salid de la zona de confort, id al teatro, viajad, conoced gente diversa, leed cómics, revistas y folletos del supermercado. Es el único antídoto para combatir la grisura de un futuro en que todo pinte muy plano y homogéneo.
Quizás el gran reto del siglo XXI no será enseñar a las máquinas a pensar como personas. Será evitar que las personas acabemos pensando como máquinas: rápido, eficiente y coherente, pero sin mirada propia.
En un mundo donde cualquiera puede obtener una respuesta en un segundo, el verdadero lujo es encontrar a alguien que aún tenga una buena pregunta, y una respuesta única.
Añadir VIA Empresa como fuente preferida de Google de forma gratuita
Mantente informado con las últimas noticias de actualidad