De “el ordenador no me deja” a “la IA me engaña”

15 de Marzo de 2026

Durante muchos años desarrollé software de gestión empresarial. Facturación, contabilidad, ERP: todo eso que hace que las empresas funcionen sin que nadie piense mucho en la parte más aburrida de todo ello.

En aquel mundo había una frase que todo el mundo aceptaba con absoluta naturalidad: “El ordenador no me deja”. La decían administrativos, contables, directivos. Nadie se rebelaba mucho. El programa tenía unas reglas y, si intentabas hacer una operación que no encajaba con la lógica del sistema, simplemente no te dejaba continuar.

La conversación terminaba aquí. Nadie exigía empatía al ordenador. Nadie se preguntaba si la máquina era moral o inmoral. Era una herramienta que aplicaba reglas pensadas por directivos. A mí me pagaban para que el ordenador hiciera exactamente aquello.

Y basta.

El ordenador era una pieza más de la maquinaria de la empresa. Podía ser molesto, podía ser limitador, pero nadie le atribuía intenciones. Nadie creía que tuviera una agenda propia. Era una máquina, y las máquinas hacen lo que están diseñadas para hacer.

No más misterio.

Ahora, en cambio, parece que hemos entrado en otra fase cultural digital notablemente alocada. Las frases que empiezan a circular son otras: “la IA me engaña”, “la IA miente” o “la IA manipula”. Cuando escucho estas afirmaciones tengo la sensación de que estamos proyectando categorías humanas sobre algo que no es humano.

"El modelo de una IA no tiene un mapa del mundo ni un concepto de 'verdad'; solo calcula qué combinación de piezas de lenguaje es la más verosímil según sus cálculos"

Una IA no tiene conciencia, voluntad ni intención. Técnicamente, es una arquitectura de redes neuronales que opera en un espacio matemático de miles de dimensiones, donde su único objetivo es encontrar la respuesta más probable. Esto no es una metáfora; es literalmente un proceso de optimización estadística. El modelo no tiene un mapa del mundo ni un concepto de 'verdad'; solo calcula qué combinación de piezas de lenguaje es la más verosímil según sus cálculos.

Cuando 'alucina', no te engaña: simplemente prioriza la coherencia del texto por encima de la certeza de los hechos.

Si la realidad no está ahí, manda la gramática.

Son máquinas de hacer frases que “suenen bien”, sean o no verdad –veinte de cada diez populistas lo comprarían con los ojos cerrados.

"La trampa consiste en confundir la capacidad de simular el lenguaje –cosa que hace la IA– con la capacidad de tener una experiencia interna"

Mientras tanto, la trampa consiste en confundir la capacidad de simular el lenguaje –cosa que hace la IA– con la capacidad de tener una experiencia interna. Atribuir un 'alma defectuosa' a un modelo digital estadístico es un error enorme; significa confundir la partitura con el músico. La máquina puede reproducir la sinfonía a la perfección, pero no hay nadie dentro que la esté escuchando.

Todo ello son escenas más propias de la música, y el cine, que de la tecnología digital. Los humanos somos así de teatrales.

También hay cierta amnesia en este debate cargado de superioridad moral. Durante dos décadas, internet se ha llenado de textos escritos para manipular los algoritmos de los buscadores; millones de artículos producidos en masa para capturar tráfico, sin experiencia ni responsabilidad intelectual. Era un engaño deliberado para salir en la primera página de Google, y lo producían personas.

En los medios —así en general— los festivales de fake news son diarios. Populismo a raudales para llamar la atención, sin mucha ética ni miramientos. Casi dos millones de españoles creen que la tierra es plana.

Pero ahora, de repente, ¿el problema son los textos hechos con IA? Porque nos engaña.

¿Estamos de broma?

La IA no tiene voluntad de engañar a nadie. Si genera una falsedad es porque el sistema estadístico ha producido una respuesta plausible, no porque haya decidido manipular al lector. Un estafador humano sí que tiene esta intención. Y esta diferencia es colosal.

Los humanos, muy pagados de nosotros mismos y bastante miedosos, ahora nos asustamos porque la IA puede reproducir nuestra autoridad y nuestras estafas con una productividad enorme. Y le echamos la culpa.

Si nos lo miramos con un poco de perspectiva histórica, las sociedades siempre han tenido una instancia abstracta a la cual atribuir nuestras limitaciones incómodas. Hace siglos era “Dios no lo quiere”, o “es pecado”. Más tarde fue “la normativa no lo permite”. En la empresa moderna se convirtió en “el ordenador no me deja”.

"La IA no tiene voluntad de engañar a nadie. Si genera una falsedad es porque el sistema estadístico ha producido una respuesta plausible, no porque haya decidido manipular al lector"

El mecanismo psicológico es siempre el mismo: proyectarnos sobre una entidad abstracta y dejar de mirar nuestras decisiones humanas erróneas que hay detrás.

Venga, ¡resuelto!

Pero ningún algoritmo se escribe solo, ni ningún modelo de lenguaje decide cómo se utilizará.

Cuando alguien usa IA para escalar una estafa, el problema no es la IA. El problema es el estafador. La misma persona podría usar el correo postal, el teléfono, un póster colgado en una farola, el correo electrónico o una página web. La tecnología cambia; la naturaleza humana, ay.

"La IA nos da miedo porque reproduce nuestras miserias y lo hace 'a lo bestia', con un ritmo exponencial que probablemente nos hará caer de culo a todos en los próximos cinco años"

La tecnología amplifica las intenciones humanas; no las crea. La IA nos da miedo porque reproduce nuestras miserias y lo hace a lo bestia, con un ritmo exponencial que probablemente nos hará caer de culo a todos en los próximos cinco años.

Desde hace un tiempo, he adoptado una regla: cuando alguien habla de la IA con una superioridad moral marcada, prefiero no tomar ni un café con esa persona. Posiblemente ha pasado que la IA amplifica sus propias miserias y, de repente, se le ha girado una competencia enorme. No quiero estar en su bando.

Hemos pasado del ordenador que “no nos deja” a la IA que “nos engaña”. Pero no nos confundamos de género: esto no es ciencia ficción, es verismo como el de Puccini o Verdi. La tecnología es solo la escenografía, cada vez más sofisticada, para nuestro drama de siempre. La máquina ha mejorado el decorado; la miseria sigue siendo nuestra.