La IA y las tribulaciones del auriga

Para hablar de inteligencia artificial y su, que será nuestro, futuro, deberíamos tomar un impulso paradójico e irnos unos 10.000 o 12.000 años atrás... por aquello de que todo está inventado, y, con permiso de Nietzsche, aquello del eterno retorno.

Neolítico: la gran revolución de la humanidad y a la vez punto de inflexión en el que empezaron a surgir algunas de las desigualdades que perduran en la actualidad. La transición de sociedades predadoras a productoras, derivó en la aparición de riqueza, de propiedad privada… lo que fue la gran innovación dejó atrás a las mujeres y a los pobres. En el monte Olimpo no fue mejor: el titán Prometeo, enamorado de la humanidad, se enfrenta a los dioses al ofrecer el fuego a la humanidad; pero el uso que la humanidad hace de esta innovación implica riesgos de los cuales Prometeo no nos dijo nada.

"Para que una IA pueda ser considerada fiable, debe ser lícita, robusta y ética; y para que la IA signifique progreso, la innovación tecnológica debe ir acompañada del respeto a los derechos fundamentales"

Platón y su alegoría del carro alado (Diálogo de Fedro), debidamente retorcido y adaptado, nos sirve para llegar a una conclusión: dos caballos deben intentar ir a un ritmo similar para que el carro no se vuelque y deje de avanzar. Y nuestros dos caballos son innovación uno, respeto a los derechos fundamentales, el otro; el carro lo guía un auriga: el progreso, pero el de verdad, el progreso de la humanidad.

Los datos que la IA utiliza en su entrenamiento incorporan los sesgos que tiene -tenemos- la sociedad, que son prejuicios por razón de sexo, raza, edad… y que derivan en perjuicios para las personas a quienes los aplicamos. En la medida en que no se intervenga, el proceso de entrenamiento puede dar como resultado algoritmos sesgados, que perpetúan e institucionalizan un sesgo, dando lugar a una especie de legitimación algorítmica de la injusticia. De acuerdo con estos algoritmos se toman decisiones sobre las personas, decisiones que incorporan la injusticia del sesgo que ha viajado de la humanidad -recolección de datos producidos por la sociedad- y ha vuelto a la humanidad -aplicación del algoritmo en decisiones sobre personas- sin poder culpar a la IA, y provocando una desigualdad que, posiblemente, se perpetúe sin marcha atrás: ¿Neolítico reloaded?

Si quieres saber más

 

   

Datos, soberanía, nube y las preguntas que nos tenemos que hacer sobre la IA

Para que una IA pueda ser considerada fiable, debe ser lícita, robusta y ética; y para que la IA signifique progreso, la innovación tecnológica debe ir acompañada del respeto a los derechos fundamentales. Es decir, los dos caballos a galope tirando del carro alado guiado por el auriga progreso, hacia una sociedad mejor.

El reglamento UE 2024/1689, de la IA, se centra en el criterio del riesgo (Prometeo... ¡se te pasó por alto hacernos un reglamento!) que puede provocar el uso de un determinado sistema de IA, y califica de “riesgo alto”, todo aquel uso que pueda causar perjuicios para la salud, la seguridad y los derechos fundamentales. Lo óptimo, sin embargo, sería tener el tema claro en el ámbito internacional, proveernos de una gobernanza internacional que, actualmente, parece más lejos que cerca; especialmente si tenemos en cuenta la decepcionante y muy preocupante geopolítica actual (¡qué lejos el poema de Schiller que inspiró a Beethoven!) y el hecho de que, hoy por hoy, la soberanía sobre la tecnología está en manos privadas.

El Premio Nobel de Economía, Phillippe Aghion, participa de la idea: la innovación puede ser un motor de prosperidad o una fuerza de desigualdad y destrucción si no se acompaña de buenas políticas.

"La innovación puede ser un motor de prosperidad o una fuerza de desigualdad y destrucción si no se acompaña de buenas políticas"

El principal problema es perder aquello que, como humanidad, aún no hemos conseguido: el respeto real a los derechos fundamentales. Pero, de hecho, no deberíamos quedarnos aquí, el principal reto ahora es aprovechar este verdadero cambio de era, y hacer que la IA actúe como un motor de prosperidad, de progreso para la humanidad. La innovación es condición necesaria para el progreso, y está claro que tenemos un caballo pura sangre de carreras, pero parece que para el respeto a los derechos fundamentales tenemos un caballo percherón. Seguro que no hace falta ser Platón para ver los problemas que tendrá el auriga, es decir, el progreso, para conducir esta biga.

Otro tema importantísimo, digno de mucha más larga reflexión y que nos tiene que interpelar: la factura en sostenibilidad que la IA y sus centros de datos nos presentará. La ONU ya ha enviado un mensaje sin paliativos: “Nos hemos embarcado en un suicidio anunciado”... y no parece que vaya del suspense y del misterio en que nos deleitó Gabo.