La inteligencia artificial está impactando de múltiples formas en nuestra vida cotidiana. De su presencia, están surgiendo cuestiones complejas, relacionadas con la sostenibilidad, la ética, el papel de los medios de comunicación, la justicia social o perspectivas más transversales. Algunos de estos interrogantes son los que se afrontan en el Máster en Diseño por una inteligencia artificial responsable, impartido por la escuela de diseño Elisava y dirigido por Andrés Colmenares.
¿Qué posibilidades ofrece el Máster in Design for Responsible IA?
El programa del Máster in Design for Responsible IA, creado por el laboratorio de investigación creativa IAM y la escuela Elisava, busca ofrecer a profesionales en áreas como el periodismo, la comunicación, la producción cultural, la ingeniería y la investigación o que trabajan en organizaciones y empresas especializadas en diseño de interacción, experiencias, servicios, productos y estrategias digitales, un contexto ideal para desarrollar habilidades en investigación creativa, análisis de contextos complejos, pensamiento crítico y diseño de narrativas para tomar decisiones estratégicas a través de investigar las múltiples formas en que los sistemas de Inteligencia Artificial (IA) están impactando a nuestra vida diaria.
Al aprender colectivamente a identificar, analizar y descodificar la relación entre sistemas sociotècnicos y su impacto ambiental, cultural, social y ético, el máster ofrece la posibilidad a perfiles no-técnicos de convertirse en especialistas en diseño responsable de tecnologías relacionadas con la Inteligencia Artificial y así desarrollar las capacidades necesarias para crear metodologías, guía, servicios y otras herramientas para que organizaciones y ciudadanos tomemos decisiones más responsables respecto a la automatización y la digitalización de nuestras vidas.
También estamos creando alrededor del máster una red internacional de especialistas, expertos, investigadores y divulgadores que desde varios campos y perspectivas están liderando proyectos en diseño responsable de Inteligencia Artificial, por lo cual los participantes tendrán la oportunidad de conectar y participar activamente en esta red.
¿Cómo se puede hacer responsable el uso de la inteligencia artificial?
El Master in Design for Responsible IA nace en parte por la urgente necesidad de desconstruir, analizar y reformular este tipo de preguntas que reflejan una narrativa dominante y errónea en los medios de comunicación al referirse a la Inteligencia Artificial cómo una tecnología, herramienta o entidad única.
"La IA tiene más que ver con la estadística aplicada y la adopción masiva de procesos como la automatización y la digitalización que con la idea de una tecnología singular e innovadora"
Por eso, en la definición del programa nos referimos a sistemas de Inteligencia Artificial y aclaramos que esta antes que nada se refiere a un campo de estudio creado hace 70 años y más recientemente se asocia a un sector empresarial y a una amplia y diversa categoría de productos, servicios e investigación relacionada con el incremento exponencial de la capacidad de computación y el volumen de datos disponible para calcular probabilidades y hacer todo tipos de predicciones. Se podría decir que la IA tiene más que ver con la estadística aplicada y la adopción masiva de procesos como la automatización y la digitalización que con la idea de una tecnología singular e innovadora.
Menciono esto porque para usar (y diseñar, implementar o desarrollar) sistemas de Inteligencia Artificial de manera responsable es fundamental desmitificar su significado, y realmente entender la materialidad de estos sistemas, es decir entender que el boom de la IA es posible porque hay miles de centros de datos que usan procesadores hechos a base de minerales escasos y en muchos casos explotados en lugares donde no se respetan los derechos humanos. Estos centros de datos también consumen enormes cantidades de agua y energía, contribuyendo de manera significativa a la emisión de gases. Por otro lado, está la mano de obra barata necesaria para etiquetar y procesar los datos que alimentan estos sistemas y otros muchos temas relacionados con el uso indebido de todo tipo de información, textos, imágenes y sueños digitales. Después están todas la cuestiones y conflictos éticos a la hora de analizar los contextos de uso, los riesgos de delegar decisiones a sistemas automatizados, los sesgos de los datos usados en estos sistemas que reflejan y multiplican la discriminación y el racismo tan presente en las sociedades actuales.
Desde hace unos años, está emergiendo una área de investigación desde varias universidades denominada 'Responsible IA' o 'Trustworthy IA', que ha sido adoptada en varios proyectos alrededor del mundo para diseñar conjuntos de principios, marcos éticos y reguladores desde el sector público y privado. Por ejemplo, la Comisión Europea ha sido trabajando en un marco jurídico sobre la IA que parte de una serie de directrices basadas en principios éticos como el respecto de la autonomía humana, prevención de daños y riesgos, la equidad y hacerla explicable, particularmente importante en usos de herramientas basadas en IA para automatizar la toma de decisiones. Incluye también requisitos como la supervisión humana, la solidez y seguridad técnica, transparencia, privacidad en el uso de datos, evitar la discriminación en estos datos y medir el impacto ambiental que el uso de estas herramientas puede tener antes de usarlas.
Así que, la responsabilidad tendría que empezar antes de normalizar el uso de este tipo de sistemas. Para hacer responsable el uso de sistemas de IA, tenemos que preguntarnos primero si es responsable usar este tipo de soluciones en según qué contexto. Este aspecto me parece particularmente fascinante puesto que a través de relacionarnos de manera responsable con las tecnologías digitales también tenemos que cuestionar las relaciones de poder que existen entre las corporaciones y los gobiernos, entre el denominado Norte y Sur Global, entre millonarios y trabajadores precarios.
"Las empresas necesitan profesionales que puedan anticipar los riesgos para que nos relacionemos con las tecnologías digitales de maneras más sanas y constructivas"
¿Qué demanda existe en Europa y en los EEUU para profesionales especialistas en el diseño para una inteligencia artificial responsable?
La demanda por parte de empresas en muchos sectores (no solo el tecnológico) y también organizaciones en el sector público, está creciendo cada vez más en parte por la gran cobertura mediática que están teniendo los usos (en muchos casos irresponsable) de productos como ChatGPT, y las voces alertando por los peligros de la IA. Uno de los hitos más recientes en esta línea fue el anuncio en la cumbre del G7 sobre la imperante necesidad de hacer un uso responsable de la IA generativa, poniendo este tema como una prioridad en la agenda de gobiernos y corporaciones.
Grandes empresas cómo IKEA, H&M, Nokia o el mismo Google tienen departamentos enteros dedicados a la IA Responsable, donde trabajan equipos multidisciplinarios de científicos, investigadores, diseñadores y expertos en ética junto a los ingenieros que desarrollan sus productos y servicios. También existen empresas más pequeñas, algunas startups también están desarrollando consultorías, metodologías y algunos productos enfocados a usos responsables de las tecnologías en sectores concretos cómo el sector salud, medios de comunicación o incluso en el sector de la moda.
Con el auge de la digitalización y la automatización, las empresas de prácticamente todos los sectores económicos necesitan profesionales que puedan identificar y anticipar los riesgos de usar unas ciertas tecnologías así como diseñar guía de uso, metodologías, servicios relacionados y sobre todo formar a otros profesionales, directivos y la sociedad en general para que nos relacionemos con las tecnologías digitales de maneras más sanas y constructivas.
¿Qué impacto tendrá a medio y largo plazo la inteligencia artificial en el diseño?
Depende de a que nos refiramos por diseño. Si por diseño hablamos del impacto en los profesionales de varias áreas del diseño en las industrias creativas particularmente (diseño gráfico, industrial, interacción, etc.) la adopción de herramientas de IA ya está causando un impacto significativo puesto que la velocidad a la cual se están integrando varios productos que se utilizan para automatizar procesos es muy acelerada. Esto no quiere decir que la IA está reemplazando a los humanos, quiere decir que para algunas empresas puede llegar a ser más rentable integrar herramientas avanzadas para automatizar algunas tareas que la demanda equipos de trabajo diferentes. Empresas del sector en España, como Domestika, ya están haciendo despidos masivos, excusándose en la adopción de este tipo de herramientas. Creo que este impacto tiene más que ver con cambios en las estrategias de los inversores y el capital riesgo que manda en el sector tecnológico, que se resumen en reducir costes y algunos excesos propios del capital riesgo y el modelo de startups.
La apuesta por la IA por parte de las grandes corporaciones es absoluta, por lo cual podemos anticipar que varios de estos productos estarán en el próximo Microsoft Office, es decir que serán usados por millones de empresas y miles de millones de personas. Muchos tendremos que aprender a usar estas herramientas. Se están creando nuevos ecosistemas de startups alrededor de estas herramientas, con productos que crean nuevas necesidades a la hora de diseñar procesos, interfaces, productos digitales, etc.
"La gran novedad que hace posible el actual boom alrededor de la Inteligencia Artificial es el incremento exponencial de la capacidad computacional interconectada disponible"
También se abren múltiples posibilidades a la hora de diseñar, entendiendo diseñar por la práctica de tomar decisiones, ya sea a la hora de imaginar y fabricar una silla o un coche o a la hora de tomar decisiones complejas basadas en datos, por ejemplo de diseñar la governanza de una empresa. Pero esto no ocurre ni ocurrirá en un mundo virtual. Cada vez más enfrentaremos los límites de las tecnologías digitales debido a la aceleración de las implicaciones del cambio climático y la emergencia social ambiental derivada de este. Las recientes crisis de suministros y de energía son una muestra de estos límites. Hoy en día ya son frecuentes los fallos de servicios de productos de corporaciones como Google debido a incendios o inundaciones que afectan sus centros de datos. Por esta razón, creo que la filosofía del diseño, en buena parte el arte de aprender a tomar decisiones creativas, innovadoras y sobre todo responsables, tendrá un impacto enorme en el sector de la Inteligencia Artificial.
¿Qué ejemplos existen de un uso responsable de la IA?
La mayoría de ejemplos de implementaciones de IA responsable hacen referencia al diseño de guía o principios y al establecimiento de equipos de trabajo especializados en evaluar riesgos y posibles impactos. Por ejemplo desde 2018, el grupo H&M diseña todos sus productos relacionados con IA en linea con nuevo principios que incluyen conceptos como la transparencia, governanza, seguridad o privacidad y cualquier uso de herramientas tiene que ser revisado por el departamento de IA responsable.
Otro buen ejemplo de prácticas responsables es el de la mpresa Hugging Face, que desarrolla herramientas para crear aplicaciones utilizando el aprendizaje automático siguiendo los principios del código abierto, que está creando herramientas para calcular las emisiones de carbono relacionadas con el uso de sus modelo y trabajando activamente para reducirlos.
¿Qué conocimientos adquirirá el estudiante que realice el máster?
La propuesta del máster es posicionar a los estudiantes como investigadores creativos y está más centrado en el desarrollo de habilidades y pensamiento crítico que a tener acceso o adquirir conocimientos. Por esta razón, proponemos una hoja de ruta establecida a partir de un marco teórico que empieza con establecer un colaboratorio entre los participantes, profesores y colaboradores para investigar y debatir qué es la Inteligencia Artificial, cómo funcionan los sistemas de redes neuronales, Machine Learning, herramientas generativas como ChatGPT, así como la historia de la IA, las narrativas y aspectos filosóficos de este campo. También investigaremos cómo se están usando estas herramientas en varios sectores, así como los usos más creativos de la IA desde perspectivas artísticas.
Después, entramos a contextualizar la IA como sistemas sociotécnicos, la dimensión de justicia social, las estructuras de poder que replica, su impacto medioambiental, la dimensión ética, su impacto cultural y el uso de IA en la emergencia climática. En la segunda parte del programa, entramos de pleno en la IA Responsable, investigando las diversas iniciativas públicas y privadas para regular el sector, los principios, directrices y normativas desde perspectivas críticas, filosóficas y creativas. Esto nos permite conectar con el diseño de un proyecto final orientado a proponer metodologías, narrativas y herramientas para identificar y analizar riesgos o implementar estrategias de IA Responsable con un enfoque a explicar a otros ciudadanos como funcionan estos sistemas de manera creativa, colectiva y colaborativa.
¿Qué novedad aporta la IA en relación en otras tecnologías recientes?
Es importante resaltar que la IA no es una tecnología, aunque el término se use para referirse a la implementación de un amplio abanico de tecnologías algunas emergentes y otras más establecidas. La IA como campo de estudio e investigación tampoco es reciente, puesto que tiene sus orígenes alrededor de 1950. La gran novedad que hace posible el actual boom alrededor de la Inteligencia Artificial es el incremento exponencial de la capacidad computacional interconectada disponible. En resumen, se puede extraer, analizar, procesar y generar un volumen de datos inimaginable en muy poco tiempo. Esto es lo que hace posible técnicas cómo el aprendizaje automático (Machine Learning) o el Procesamiento de Lenguaje Natural (NLP por sus siglas en inglés). Se podría decir que son tecnologías recientes como 5G o avances técnicos en la fabricación de microprocesadores las que aportan al campo de la IA.