La importancia de la ética en la Data Governance y la inteligencia artificial

Los grandes avances en Inteligencia Artificial y el enorme volumen de datos acumulado en la actualidad ponen sobre la mesa una cuestión… ¿Qué deberíamos hacer con ellos?

La AI es un elemento clave para entender el moderno desarrollo empresarial | Cedida La AI es un elemento clave para entender el moderno desarrollo empresarial | Cedida

Los datos son, sin lugar a dudas, un importante activo para las empresas. Su captación, integración y gestión para extraer valor y nuevos modelos de negocio son clave y ocupan las mentes de estrategas del negocio, la innovación y el marketing. No todas las organizaciones son efectivamente data-driven, pero sin duda trabajan con datos a diferentes niveles. El uso de big data se incrementa gracias a la proliferación de herramientas y tecnologías (siempre más accesibles) que permiten gestionar grandes volúmenes y variedades de fuentes de datos a gran velocidad.

Aún con todo, esta integración sigue suponiendo un desafío considerable, y lo es especialmente cuando se trata de salvaguardar la privacidad de los datos y la seguridad en entornos con datos dispersos. Por ello, existen dos retos en particular que nos deberían preocupar: la gestión de datos, la Data Governance y la ética en el uso de la inteligencia artificial (artificial intelligence o AI).

Data Management y Data Governance

Considerando que los datos son en la actualidad la base para generar nuevas oportunidades (de negocio y de innovación en la creación, gestión y personalización de productos y servicios…) o predecir tendencias, es evidente que es clave saber trabajar con ellos de forma apropiada (Data Management). De esta gestión adecuada (sumada a las normativas corporativas y de mercado) surge el concepto de Data Governance. Podemos definir este término como los roles, responsabilidades y procesos dirigidos a garantizar la integridad, seguridad, propiedad, usabilidad y disponibilidad de los datos utilizados en una organización. Un programa de Data Governance eficaz debe incluir un Consejo de Gobierno, un responsable (normalmente llamado Chief Data Officer o CDO), una serie de políticas bien definidas y un plan para ejecutar dichas políticas.

La sostenibilidad de negocio pasa, precisamente, por aportar valor a todos los stakeholders de la organización

No se trata únicamente de cumplir las normas, sino de integrar estos procesos a la estrategia de negocio e innovación de la empresa. Debemos alinearlos con los objetivos estratégicos de la organización, así como con los objetivos en sostenibilidad y responsabilidad social corporativa, y, por lo tanto, enfocar la generación de valor a los stakeholders.

La sostenibilidad de negocio pasa, precisamente, por aportar valor a todos los stakeholders de la organización. Estos están formados por clientes, empleados, proveedores, inversores, e incluso la sociedad en su conjunto. Esta última, siendo nuestro mercado de referencia, nos permitirá generar valor a largo plazo. Pongamos un ejemplo concreto de integración de datos como modelo de negocio, privatización y explotación del análisis de datos: si integramos un conjunto de datos (dataset) proveniente de datos abiertos (open data) publicados por una entidad pública… ¿podemos integrarlos a un modelo de negocio privado que genere riqueza únicamente a la compañía? ¿O deberíamos considerar de qué forma esta devuelve valor a la sociedad? Una visión cortoplacista, enfocada únicamente en la parte económica y el mero cumplimiento normativo, quema recursos. Supone vender más ahora para luego tener que gestionar crisis reputacionales.

Usemos el símil de la gestión de la sostenibilidad ambiental y el carbon footprint. Al ser una preocupación creciente en la sociedad, más y más empresas la integran a su estrategia. Aunque no siempre lo hacen del mismo modo, ya que podemos encontrar empresas que realizan únicamente estrategias de greenwashing. De la misma manera, la responsabilidad y buena gestión de los datos por parte de las empresas es tan importante como la responsabilidad y gestión ética de los recursos y su huella de carbono. Aportando información y claridad en lo que podríamos llamar el data footprint de cada persona, stakeholder y organización, ¿podemos identificar con claridad qué datos tenemos y cómo los usamos para cada uno de nuestros clientes? ¿Cómo los protegemos? ¿Cómo los enriquecemos?

Ética y AI

Los algoritmos de inteligencia artificial y aprendizaje automático superan actualmente la capacidad humana en áreas como la identificación de patrones, la categorización o la detección de anomalías. Es un hecho. Una de las áreas más prometedoras en las que estos avances pueden ayudarnos a nivel de negocio y marketing es la mejora de la calidad de los datos, en la que se incluye la elaboración de perfiles de datos y modelización predictiva para optimizar y personalizar las relaciones con el cliente. Es por ello que su uso se extiende de forma cada vez mayor. No obstante, según el vicepresidente y experto en analítica digital de Gartner Mark Beyer, debemos enseñar a las máquinas las tareas en las que no son tan buenas: la improvisación, la adaptación a cambios de patrones y la sensibilidad al contexto. Por esta razón, resulta complejo integrar la ética en los algoritmos de inteligencia artificial. Se podría dar una situación, por ejemplo, en la que los algoritmos perpetuaran un elemento que generara discriminación en la sociedad o diferentes tipos de sesgo como las burbujas de información.

Los algoritmos podrían perpetuar un elemento que generara discriminación en la sociedad o sesgos como las burbujas de información

Otro factor relevante a tener en cuenta es que la AI necesita una gran cantidad de datos para poder adiestrar los modelos y permitir así que incrementen su fiabilidad. Varias muestras de ello son la llamada función feed client service bots (que guarda datos de búsquedas de voz correctas e incorrectas que hacen los usuarios), la información recibida de los clics que hacemos en anuncios que nos interesan, el feedback sobre contenido que consideramos relevante o no o los datos anonimizados de comportamiento y perfilación para descubrir tendencias o patrones de comportamiento. De estos datos, necesarios para el adiestramiento de la inteligencia artificial, surge la pregunta: ¿qué huella de datos permanece y cómo se gestiona?

Antoni Garrell, presidente de HM Hospitales de Catalunya, ya subrayaba la necesidad de gestionar y regular el uso de la inteligencia artificial a raíz del incremento en su uso a causa de la pandemia de la Covid-19. Y no es el único, pues Luciano Floridi, profesor de Filosofía y Ética de la Información en la Oxford University, también ha discutido estas cuestiones en su artículo The ethics of algorithms. En este advierte, además, de que “las brechas entre el diseño y el funcionamiento de los algoritmos y nuestra comprensión de sus implicaciones éticas pueden tener graves consecuencias que afecten tanto a individuos como a grupos y sociedades enteras”.

Así pues, las empresas que gestionen correctamente, con transparencia, ética y seguridad los datos e integren estos valores en sus objetivos estratégicos conseguirán generar sostenibilidad de negocio y aportar valor a sus stakeholders. No se trata únicamente de entender lo que podemos llegar a hacer con los datos, sino de saber qué deberíamos hacer con ellos y cómo los podemos aplicar para gestionar empresas conectadas a la generación de valor y sensibles al riesgo y a la oportunidad.

Més informació
Las rutas del litio, cobalto, cobre, coltán y datos: la fiebre de oro
Por fin, decisiones políticas basadas en datos
Los retos de la nueva era de la gestión de datos: el 'big data' y la transformación empresarial
Hoy Destacamos
Lo más leido