Los nuevos escribas

“Dicen que lo que no sale en Google no existe”. Una frase que tenía mucho sentido en 2006, pero que ahora ha quedado antigua. Era la versión moderna de una verdad medieval: lo que no copiaban los monjes en sus pergaminos tampoco existía. Así es como hemos construido nuestra cultura: a base de silencios selectivos y de ausencias deliberadas.

En su nuevo libro sobre inteligencia artificial, Genís Roca (un volumen breve y básico, pero que tiene el mérito de poner los puntos sobre las íes de la IA) recuerda que, en la Edad Media, los únicos que sabían leer y escribir eran los monjes. Y eran ellos, y solo ellos, quienes decidían qué historias valía la pena preservar. El resultado es nuestra memoria colectiva actual: una biblioteca sesgada, hecha a medida de los intereses de una minoría y que ha omitido históricamente a gran parte de nuestra historia.

Imaginemos, pues, todo lo que no se copió en aquellos scriptoriums. Las historias de las mujeres, las brujas, las listas, las matemáticas, las artistas, sus hierbas curativas. Las leyendas populares que nunca saltaron del relato oral al manuscrito porque no encajaban en el discurso mental de una minoría privilegiada. Quién sabe si incluso conocimiento científico que no gustaba al canon religioso del momento quedó en el olvido y aún está esperando que alguien lo redescubra.

La historia de la humanidad es también la historia de lo que se ha perdido porque alguien decidió que no era relevante para dejar su huella.

Y jode, pero este patrón se repite cada vez que la tecnología cambia las reglas del juego:

• Con Google, el SEO estableció que si no estabas en la primera página, quedabas enterrado en vida.
• Con las redes sociales, si no lo publicabas en Twitter o Instagram, era como si no hubiera pasado nunca.
• Y ahora, con la inteligencia artificial, el riesgo es que todo aquello que no se utiliza para entrenar los algoritmos desaparezca de nuestro futuro digital. Una IA no puede recuperar aquello que nunca le hemos enseñado.  

El problema es que los nuevos copistas no son más neutrales ni puros que los antiguos. Los monjes medievales no eran especialmente feministas, ni pluralistas, y los algoritmos de hoy tampoco son imparciales: reflejan los sesgos de quienes los programan, de los datos que leen, de quienes eligen qué leen, y de quienes deciden qué es relevante, qué tiene prioridad, y qué no.

"Con la inteligencia artificial, el riesgo es que todo aquello que no se utiliza para entrenar los algoritmos desaparezca de nuestro futuro digital"

De aquí a unos siglos, cuando alguien le pregunte a una IA del futuro algo sobre la cultura catalana y la historia empresarial de nuestro país, la respuesta puede ser tan incompleta y sesgada como nuestros libros y medios. Las nuevas “brujas” digitales (las científicas, hackers, maestras, o activistas) pueden acabar igual de invisibles que las de antes, simplemente porque el algoritmo (y la empresa de detrás) no las consideró dignas de memoria.

El verdadero problema de la inteligencia artificial no es que olvide. Es que recuerda selectivamente. Y si no queremos que la historia se vuelva a escribir solo con la caligrafía de los poderosos, quizás ya va siendo hora de vigilar quiénes son los nuevos amos de los amanuenses de nuestro tiempo.