Mucho se ha escrito desde la aparición del ChatGPT, sobre el impacto de la inteligencia artificial en cualquier sector. Sin ir más lejos, hace unos días con Josep M. Ganyet reflexionábamos convocados por la fundación .CAT sobre cómo la IA está generando nuevas oportunidades y nuevas amenazas en el sector de los registradores de dominios.
Pero más allá de aquello que los humanos han escrito sobre el GPT, la realidad cotidiana de muchas industrias los últimos meses ha sido ver cómo era el propio GPT, que escribía mucho, más y más a cada día que pasaba, y que sustituía a los humanos en algunos redaccionales poco complejos. Nos referimos a boletines electrónicos, publicaciones de redes sociales o respuestas en entornos conversacionales. GPT es, ahora mismo, uno de los autores de contenido con más ritmo de crecimiento en Internet. Y esto, que parecería indicador de su éxito, podría acontecer su perdición. El riesgo de colapso está a pocos pasos.
En efecto, existe un riesgo real que colapsen los modelos de inteligencia artificiales, amenaza que ya está documentada. El profesor Ross Anderson, de la Universidad de Cambridge, ha liderado un estudio sobre qué efectos tendría la proliferación de contenido generado por inteligencia artificial en Internet en el aprendizaje posterior de estos tipos de modelo, que básicamente se alimentan de contenido que se encuentra por Internet. Dicho rápido y de cualquier manera, la problemática sería similar a la de qué efectos tiene para un animal que ingiera alimento proveniente de la misma especie.
La problemática sería similar a la de qué efectos tiene para un animal que ingiera alimento proveniente de la misma especie
El problema lo han bautizado como colapso de modelo (modelo collapse). Por lo que comentan, en la versión original del artículo denominaban el fenómeno como modelo dementia, pero lo suavizaron porque pensaron que este término estaría trivializando la noción médica de demencia, y que esto podría resultar ofensivo.
¿Qué han encontrado? Los investigadores demuestran que el aprendizaje a partir de los datos producidos por otros modelos provoca el colapso del propio modelo, un proceso degenerativo en el que, con el tiempo, los modelos olvidan la verdadera distribución de datos subyacente. Los datos que recoge acostumbran a procesarse sobrestimando los casos más frecuentes y subestimando los casos más infrecuentes, entendiendo que así se equivocará menos en las respuestas que va sirviendo a los usuarios. ¿Qué pasa cuando se alimenta de algo que ya ha pasado por este procesamiento? Pues que los matices se van perdiendo, y finalmente podría acabar resultando en una erosión de sus capacidades. No es capaz de tener memoria, al menos de momento.
Una de las conclusiones que parecen intuirse es que estas máquinas seguirán necesitando de los humanos: si no hay contenido original, no hay posibilidad de un progreso sustancial. El ecosistema digital se ha llenado de textos e imágenes generados por el modelo de IA, esto es una obviedad. Lo vemos en el tono de los textos, en su corrección, en la disminución de las faltas de ortografía y en el aumento de la predicibilidad. Pasado el primer wow, especialmente en sectores como el marketing digital o el ecosistema startup, ahora empezaremos a encontrar evidencias como ésta y otras, donde quedarán retratados los puntos débiles y las limitaciones de las nuevas herramientas.
El contenido original, pues, será esencial. Pero no simplemente unas novelas originales o unos ensayos muy cuerdos y razonables, sino también -y quizás más- tendrá mucho valor la presencia de datos recopilados sobre las interacciones humanas genuinas. Aquellas que quizás estamos empezando a limitar y a marginar para dar más espacio a la interacción con las dichas inteligencias artificiales
El colapso del modelo es el reverso de una oportunidad muy buena para el ser humano que trabaja en la creación de contenidos. Los que no tengan capacidad de ser más creativos que las máquinas, lo tienen negro, pero los que sí superan este estándar de corrección y estructuración correcta del mensaje tienen un horizonte de crecimiento muy prometedor. El futuro del marketing digital pasa, desde este punto de vista, más por la lectura de clásicos y el conocimiento de las humanidades que por la incorporación de nuevas técnicas. Bienvenido colapso