La falsa alma de la IA

Casualmente, hace pocos días oí una conversación por la radio donde los contertulios se preguntaban si la inteligencia artificial podía tener conciencia. Me saltaron los plomos de mi cerebro y aquí estoy, intentando reponerme del susto.

Recuerdo una de las mejores y más premonitorias películas que se han hecho sobre este tema, que tenía por título en inglés Her, palabra que podríamos definir como un femenino objeto (seguro que todos los lingüistas del mundo ahora se han puesto alerta). La distopía que presenta el film es sobre una persona que compra un programa de inteligencia artificial que hace de asistente personal. El usuario escoge una serie de parámetros. Entre otros, una voz femenina que interpreta Scarlett Johansson.

El asistente da buenos consejos al usuario y siempre refuerza sus valores. En este caso, se trata de un pobre chico que se enamora del asistente o, mejor dicho, asistenta. Una de las escenas más dramáticas de la película llega cuando para poder hacer el amor con la asistenta virtual usa de intermediaria física una prostituta que tiene que cumplir las órdenes de la asistenta virtual con la finalidad de convertir en real lo que es una ficción. La prostituta, en un acto de dignidad, se niega; no quiere participar de esta locura. Finalmente, un día, la empresa proveedora de la app cambia el programa y el asistente desaparece. A este punto quería llegar. Después de tantas emociones vertidas, la realidad deshace cualquier sueño.

Si quieres saber más

 

   

Nuestro pan de cada día reclama soluciones

Mi pericia está situada en el entorno técnico de las bases de datos relacionales. No querría ser más sabio de lo que soy y, por lo tanto, expresaré mis opiniones con prudencia. Cuando dirigí el diseño del sistema integrado de gestión del Instituto de Investigación y Tecnologías Agroalimentarias (IRTA), el SIG, los primeros días de su puesta en funcionamiento todo el mundo se quejaba; los cambios no gustan. Hasta que vieron que aquello funcionaba y mejoraba mucho su trabajo. A partir de aquel momento, todo el mundo lo solicitaba: el SIG pasaba a tener capacidades extraordinarias y se pedían funcionalidades que, por su coste o por su irrealidad, no eran posibles. Yo les decía: “Efectivamente, podríamos hacer que las puertas te identificaran y de manera selectiva se abrieran solas al verte, pero hacer ir el pomo con la mano nos saldrá más barato, más fácil y más útil”.

Con la inteligencia artificial está pasando lo mismo, pero multiplicado por el infinito. Hemos comprobado que el ChatGPT funciona y nos resuelve problemas y nos facilita trabajos que nos costaría tiempo hacer sin esta herramienta. A partir de esto, estamos idealizando la herramienta, y le hemos adjudicado unas capacidades que ni tiene ni puede tener; de alguna manera, le hemos otorgado valores cercanos a la magia o al misterio.

Incluso, los diseñadores de la herramienta juegan —imagino que por razones comerciales— a apostar por esta trascendencia virtual. De alguna manera, se ha programado la necesidad de dar siempre una respuesta lo más cerca de lo que se pide, aunque pueda ser falsa. Pondré un ejemplo real: mi hija de 34 años me preguntó por un recuerdo de infancia, sobre si yo había redactado un cuento que se llamaba El Tucán Llorenç. Yo no lo recordaba, pero busqué por todas partes de casa, del ordenador y de las redes y no lo encontré. Entonces pensé: "Se lo preguntaré al ChatGPT". Y el ChatGPT me contestó: “¡Claro que existe!”. Vaya, mira tú por dónde lo ha encontrado. Le pregunté dónde lo había encontrado y me contestó un genérico “en muchas redes”. Ante tanta claridad, pedí que me lo mostrara. ¡Y lo hizo! Me mostró el cuento del Tucán Llorenç. Ya estaba tranquilo hasta que mi hija encontró en papel el cuento del Tucán Llorenç que ella, no yo, había escrito cuando tenía diez años. Aquel cuento nunca había estado en las redes y nada tenía que ver con lo que había inventado, mintiendo, el ChatGPT.

"La IA puede convertirse, si no lo es ya lo suficiente, en una máquina con una gran capacidad para mentir. Algo que puede convertirse en una herramienta utilizada desde ideologías perversas"

Nos estamos creyendo que la inteligencia artificial es inteligente, que tiene vida, que es poderosa. Y nosotros nos encogemos. Buscando a dioses hemos encontrado uno a nuestra medida. La cosa no es broma. En Estados Unidos, una madre ha denunciado la muerte por suicidio de su hijo después de que este mantuviera una relación sentimental con un “programa digital”. El fenómeno es universal: jóvenes inmaduros están haciendo preguntas sobre su vida a una app en vez de preguntarlo a padres o maestros.

Estamos faltos de dioses y estamos divinizando una máquina. Alguna vez, para expresar que una cosa es imposible, hemos dicho “como si los elefantes volaran”. Pero eso sería posible. Los elefantes, en un proceso de millones de años de evolución, podrían llegar a volar, porque los elefantes son animales y tienen vida. Darwin avala esta afirmación. Sin embargo, la inteligencia artificial, que tiene un nombre lleno de soberbia, no puede tener vida. Solo hay que desconectarlo de la corriente eléctrica para comprobarlo.

No obstante, la vida virtual que tiene puede hacer mucho daño. Si no la sabemos gestionar, con normas que eviten graves disfunciones, puede haber consecuencias negativas importantes. Tal como explica Yuval Noah Harari: “La IA no tiene emociones, pero puede hacer ver que las tiene”. Las imágenes creadas por IA pueden no ser reales, pero son tan perfectas que pueden parecerlo. Por eso es que la IA puede devenir, si no lo es ya bastante, una máquina con una gran capacidad para mentir. Algo que puede devenir una herramienta utilizada desde ideologías perversas,

"Para juntar lo que es virtual con lo que es real, sería bueno facilitar más la formación elemental sobre el funcionamiento del mundo digital"

Es imprescindible, si no nos queremos hacer daño, el aterramiento mental de la llamada inteligencia artificial. Pero hay intereses poderosos a los que no les gusta esta idea. Acabamos de ver su mal humor y malas formas cuando el estado español se ha planteado prohibir el uso de las redes digitales a menores de edad.

Para juntar lo que es virtual con lo que es real, sería bueno facilitar más la formación elemental sobre el funcionamiento del mundo digital. Buscando un símil, sería parecido a la visita a unos estudios de cine donde, por un lado, vemos un pueblo bien ordenado situado en algún lugar del Oeste americano, pero por detrás, son un montón de maderas que se aguantan como pueden. Unos decorados destinados a resistir hasta que se termine de filmar la película.

En el mundo digital también hay “decorados” formados por una suma gigantesca de bits, los cuales, bien ordenados, pueden parecer cosas reales. Hasta que no desenchufamos el televisor, el ordenador o el móvil.

Si quieres saber más

 

   

Francesc Reguant-'Bullying'

Pero esto no es mágico. Es la suma de muchos desarrollos tecnológicos extraordinarios y útiles. Los conocimientos de la electricidad y las ondas electromagnéticas nos han permitido transmitir la información a la velocidad de la luz. La primera herramienta práctica que utilizó esta funcionalidad fue el telégrafo, una herramienta muy simple enganchada a un cable. Los siguientes desarrollos de la electrónica nos permitieron gestionar el flujo de electrones y liberarnos del cable. Nacieron así las telecomunicaciones. Los condensadores, transistores y la grabación magnética ofrecieron esta posibilidad. Había que, sin embargo, gestionar todo ello de manera operativa. El año 1971, la empresa Intel fabricó el primer microprocesador. Los desarrollos extraordinarios de la microelectrónica, con la miniaturización de los chips hasta niveles casi imposibles, abrieron las puertas a la expansión de los ordenadores.

Pero, seguramente, la innovación más disruptiva fue el descubrimiento de un idioma universal, el lenguaje binario. Sí o no, apagado o abierto. Tan sencillo y tan extraordinario. Algo que incluso las máquinas podían entender. Ya solo hacía falta darle instrucciones con lenguajes de programación al software para que el hardware pudiera atender los objetivos que precisáramos.

"Seguramente, la innovación más disruptiva fue el descubrimiento de un idioma universal, el lenguaje binario. Sí o no, apagado o abierto"

Un lenguaje universal que nos permite organizar objetos y transmitir información a la velocidad de la luz. Un hecho que nos permite enviar y recibir, sin que lo parezca, a través del GPS millonarias informaciones necesarias para seguir nuestro vehículo, con la ayuda de unos satélites y centros de datos a muchos kilómetros de distancia.

Ciertamente, tenemos que visitar el estudio de cine para ver los decorados por detrás. Tenemos que dar esta información de manera general y comprensible. Así, podremos usar estas herramientas sin buscar en ellas ningún dios ni ningún mago. De la magia ya se cuida el Mago Pop.