La inteligencia artificial ya no se limita a responder preguntas. Está filtrando currículums, asignando riesgos financieros, priorizando clientes y condicionando decisiones empresariales. Sin embargo, cuando se representa, cuando se vende, cuando se comunica, seguimos mostrándola como si fuera una asistente. Y, en la mayoría de casos, con voz femenina.
Pero la inteligencia artificial no tiene cara. Tampoco tiene voz, sino interfaz. Y esa interfaz no es neutra; es una decisión estratégica. Durante años, la industria ha entrenado al usuario para asociar la ayuda con lo femenino. Siri, Alexa o Cortana no solo fueron productos: fueron un proceso de educación colectiva. La voz que responde, que acompaña, que resuelve, es una voz que no incomoda. Y eso, en términos de adopción, es clave.
La IA no entra en las organizaciones solo por su capacidad técnica, sino porque reduce la percepción de amenaza. Y aquí conviene detenerse, porque la IA ya no es solo una asistente. Es, cada vez más, un sistema de decisión. Y, sin embargo, seguimos diseñando su interfaz como si estuviera para ayudar, no para decidir. No es casualidad. Es una forma de reducir fricción y acelerar adopción. Un diseño que sugiere cercanía reduce la percepción de riesgo: un tono amable suaviza la autoridad implícita, mientras que una voz empática reduce el cuestionamiento.
No estamos describiendo la tecnología, sino condicionando la relación con ella. Y eso tiene consecuencias. No es una percepción aislada, sino que se trata de un patrón documentado. La UNESCO alertó en 2019 que la mayoría de asistentes de voz se diseñaron con identidad femenina por razones de adopción y marketing.
Investigaciones de Stanford y del MIT han demostrado que las voces femeninas se perciben como más empáticas, mientras que las masculinas se asocian a autoridad. Pero el patrón cambia cuando cambia el poder. En ámbitos como finanzas, ciberseguridad o sistemas críticos, la tendencia es clara: interfaces neutras, identidades abstractas o ausencia total de rasgos humanos. No es una cuestión estética. Es gestión del riesgo. Cuando la IA ayuda, se humaniza; en cambio, cuando decide se despersonaliza.
A esa capa cultural se suma otra menos visible, pero igual de determinante: los datos. Los modelos generativos que hoy crean imágenes, interfaces o avatares han sido entrenados con millones de ejemplos de internet. Y ese internet no es neutro: refleja patrones históricos, estereotipos y desequilibrios. Cuando se pide a un modelo que represente a un “asistente profesional”, responde con lo que más ha visto. No decide. Reproduce.
Mientras la interfaz genera confianza, el sistema está automatizando decisiones que afectan directamente a ingresos, riesgos y personas
El sesgo del dataset se convierte en sesgo del diseño, y el sesgo del diseño en sesgo del mercado. El resultado es coherente: sistemas que automatizan decisiones complejas siguen comunicándose como simples asistentes.
Porque mientras la interfaz genera confianza, el sistema está automatizando decisiones que afectan directamente a ingresos, riesgos y personas. Y esa distancia entre representación y función no es estética. Es operativa.
Un ejemplo real lo demuestra: Amazon desarrolló un sistema de IA para filtrar currículums entre 2014 y 2017. El modelo penalizaba a las candidatas mujeres porque había sido entrenado con diez años de datos internos dominados por perfiles masculinos. El sistema no solo reproducía el sesgo: lo amplificaba. Amazon lo retiró tras detectar que la IA degradaba términos como “women’s” en expresiones como “women’s chess club” o “women’s college”. No es un caso teórico: está documentado por Reuters y recogido por organismos como la OCDE o el World Economic Forum. Lo relevante no es el caso, sino lo que cuenta: cuando la interfaz transmite confianza pero el sistema decide sin supervisión, el riesgo se multiplica. Y este debate ya no es teórico.
Según Eurostat, el 20% de las empresas europeas ya utilizaban tecnologías de IA en 2025, frente al 13,5% del año anterior. Precisamente por eso, algunas administraciones empiezan a entender que el debate ya no es solo tecnológico, sino de gobernanza. Catalunya es uno de esos casos. Ha apostado por una inteligencia artificial ética, segura y responsable. La estrategia pública incorpora principios de transparencia, no discriminación y supervisión, y promueve mecanismos como el registro de algoritmos o la trazabilidad de decisiones en la administración.
El objetivo es claro: evitar sesgos. Pero aquí aparece la verdadera complejidad. Porque los sesgos no nacen solo en el algoritmo. Nacen en cómo se diseñan, se comunican y se utilizan estos sistemas dentro de las organizaciones. Puedes tener una IA auditada, trazable y alineada con el AI Act europeo y, aun así, mal gobernada en la práctica.
Porque si la interfaz genera confianza sin cuestionamiento, la organización deja de supervisar. Y cuando deja de supervisar, delega. Y cuando delega sin entender, asume riesgos que no está midiendo. Aquí es donde la conversación deja de ser tecnológica para ser empresarial.
Los sistemas que filtran candidatos, asignan riesgos financieros o segmentan clientes no son herramientas neutras. Son infraestructuras de decisión. Y, como tales, deben ser gestionadas con el mismo rigor que cualquier otro elemento crítico del negocio.
Catalunya puede diseñar una IA técnicamente ética. Pero la pregunta real no está en el código, sino en las empresas
Esto implica un cambio profundo en los Consejos de Administración. Ya no basta con preguntar qué tecnología se está implementando. La pregunta es otra: qué decisiones está tomando y bajo qué criterios.
Gobernar la inteligencia artificial no es auditar código. Es entender dependencias: de datos, de modelos, de proveedores y de diseños que condicionan la confianza sin que la organización sea plenamente consciente. Y esa es, probablemente, una de las mayores vulnerabilidades actuales: la de sistemas que influyen sin ser percibidos como tales. Por eso, la ventaja competitiva ya no estará en quién adopta antes la IA. Estará en quién la gobierna mejor. Y gobernarla implica asumir algo incómodo: la inteligencia artificial no es objetiva. Es una amplificación estadística de decisiones humanas pasadas.
No es que la IA tenga sesgos. Es que estamos automatizando los nuestros. Catalunya puede diseñar una IA técnicamente ética. Pero la pregunta real no está en el código, sino en las empresas. Si la inteligencia artificial ya está decidiendo, la cuestión no es cómo usarla. Es si estamos preparados para seguir siendo quienes deciden.