Alguien dijo un día que como el resultado de las elecciones americanas afecta a todo el mundo, todo el mundo tendría que votar. La tesis tiene fundamento pero me temo que si la damos por buena tendríamos que empezar a votar en muchos países; Rusia, Israel y la India son buenos candidatos. Está claro que lo que pasa en la primera economía del mundo tiene impacto en el resto, más todavía cuando la supremacía también es cultural. Que me perdonen los lectores sensibles pero esto me recuerda el mítico tema En Londres de la Polla Records, que en los 80 ya cantaba aquello de "Si en Londres les pica un huevo, aquí todo el mundo se rasca". Sus temas son, desgraciadamente, todavía vigentes.
Lo estamos viendo estos días con el empacho de información de las previas de las previas de las presidenciales norteamericanas de noviembre. Trump acapara odio, y esto da clics. Biden genera vídeos virales, y también. A los caucus, súpermartes, y convenciones de cada cuatro años, hemos añadido a nuestra dieta informativa todas las instancias judiciales donde Trump se juega la prisión. Ya nos podemos preparar para la invasión por radio, tele y Twitter, más ahora que con la IA generativa cualquiera puede generar textos, imágenes y vídeos capaces de incidir en la opinión pública.
"Trump acapara odio, y esto da clics. Biden genera vídeos virales, y también"
A todos nos hicieron mucha gracia las imágenes del Papa Francisco vestido de Balenciaga y las de Trump siendo detenido por la policía (a mí estas, más). Sirvieron para abrir unos cuantos debates alrededor de la IA generativa: la regulación de los grandes modelos de lenguaje, el impacto en el discurso público, la mala utilización en el ámbito político, la ética de su utilización y la violación de derechos de propiedad intelectual. Todos estos debates los hemos visto en la práctica esta misma semana con la aparición de imágenes de Trump haciendo campaña rodeado de jóvenes negros. Generadas por partidarios de Trump, forman parte de una de una campaña de desinformación dirigida a las comunidades negras y están diseñadas para sugerir falsamente que Trump tiene un apoyo importante entre estos votantes.
A pesar de que son muy verosímiles y realistas, las imágenes contienen errores, como por ejemplo brazos adicionales o dedos perdidos, que revelan su naturaleza sintética. A pesar de estos defectos, las imágenes se han compartido ampliamente en las redes sociales y muchos usuarios las han dado por genuinas; no hace falta que sean perfectas para engañar a todo el mundo, solo hace falta que sean suficientemente buenas para engañar a bastante gente. Esto genera preocupación sobre el impacto potencial de esta desinformación sobre las percepciones de los votantes y la integridad del proceso electoral. Recordemos que la democracia se basa en las decisiones libres de sus ciudadanos en base a información libre y de calidad. Y si la prensa quiere continuar siendo un pilar de la democracia tiene que garantizar que aquello que encontremos sea de calidad y hecho en libertad.
"No hace falta que las imágenes sean perfectas para engañar a todo el mundo, solo hace falta que sean suficientemente buenas para engañar a bastante gente"
En esta línea, la BBC —siempre y todavía la BBC— ha lanzado el Content credentials, una nueva herramienta destinada a mejorar la credibilidad del contenido en linea y combatir la propagación de la desinformación. Esta herramienta permite al público ver información sobre el proceso de creación y edición del contenido que consumen en linea. Al hacer click en las "Credenciales de contenido" de las imágenes u otros contenidos, los usuarios pueden acceder a detalles sobre la fuente y el historial del material, ayudándolos a verificar la autenticidad. Con esta iniciativa la BBC muestra el camino de cómo los medios pueden ayudar a sus audiencias para que tomen decisiones más informadas sobre todo aquello que ven en linea. Haciendo esto se aseguran seguir siendo relevantes en un mar de desinformación.
¿Y los reguladores qué pueden hacer? Europa está trabajando en una IA act que regule los usos de la IA de acuerdo con el riesgo que comporte su despliegue en la sociedad. Reconocimiento facial en espacios públicos y juguetes con IA para los niños: no; chatbots, reconocimiento de emociones y deepfakes : obligación de especificarlo.
La India, el país con más población del mundo (¿tendríamos que votar?), ha decidido avanzar por su cuenta y requiere que las empresas tecnológicas obtengan la aprobación oficial antes de lanzar herramientas de IA que se consideran "poco fiables" o que todavía están en prueba. Hablando en plata, lo que ha hecho OpenAI con ChatGPT, de usar el mundo como un laboratorio de pruebas para un servicio que no deja de ser un prototipo: no. El requerimiento se dirige específicamente a las grandes plataformas y no se aplica a empresas emergentes. Uno de los objetivos es el de evitar que estas herramientas deterioren la integridad de los procesos electorales en general y en particular las de mayo-abril de este año. La regulación ha recibido reacciones diversas de expertos del sector y líderes tecnológicos, algunos de los cuales la ven como un obstáculo para el progreso de la IA en la India.
El debate es tecnológico, político, filosófico y cultural. Y no se me ocurre nadie mejor que un tecnólogo, político (breve) y filósofo catalán de ascendencia India para que nos ayude a encontrarle el sentido. Salvador Pàniker (1927 - 2017), hijo de madre catalana y padre indio, fue escritor, editor, filósofo y doctor en ingeniería industrial. Profesor de Filosofía y Metafísica en la Universitat de Barcelona, creó el concepto filosófico de la "retroprogresión": "ir simultáneamente hacia aquello nuevo y hacia lo antiguo, hacia la complejidad y hacia el origen".
En un ensayo de nombre Lo retroprogresivo recogido en el libro Ensayos Retroprogresivos de la editorial Kairós escribe:
"La idea fundamental es que hay que sustituir el mito canceroso del progreso por la noción más sutil de retroprogreso; cobrar conciencia que ahí donde el adelanto no es retroprogresivo, los costes del progreso exceden sus ventajas y, en consecuencia, se produce una disminución de la calidad de vida. Ya se sabe, los indicadores de esta calidad de vida no tienen que ser exclusivamente económicos ni tecnológicos. Importan la salud, la autorealización, la libertad interior, la libertad política, la capacidad de vivir el presente. Importa escapar a la inflación de signos que preside nuestra civilización, trascender la blablaosfera, el ambiente ruidoso donde la gente se mantiene derecha exclusivamente a base de banales redundancias: bla-bla-bla."
El libro es de 1987.