Hace una semana, Microsoft tiraba a Twitter un xatbot llamado Tay (@TayandYou). Cómo cualquiera otro xatbot, la Tay es un conjunto de algoritmos capaz de mantener conversaciones coherentes con los usuarios con el añadido que aprende del tema tratado gracias a técnicas de inteligencia artificial y de aprendizaje automático. La red era pues el lugar perfecto porque aprendiera de millones de usuarios. La Tay tenía cuentas a Twitter a Kik y a GroupMe donde los usuarios podían hablar con ella mientras ella extraía el conocimiento.
En sólo 24 horas de vida la Tay pasó de tuitejar cosas como "Los humanos muelen" a "Hitler tenía razón y odio los judíos", pasando por todo tipos de tuits incitado al odio racial y sexista.
Inmediatamente, Microsoft publicaba un tabla en su blog donde explicaba que la Tay era al quirófano y que no estaba disponible. La Tay volvería cuando Microsoft pudiera garantizar que la Tay tendría un comportamiento que fuera de acuerdo con los valores de sus creadores. Qué pasó?
Pues pasó que dos de los foros más activos de la red –4chan y 8chan – descubrieron la Tay –que aprendía de acuerdo con las conversas– y se coordinaron para enseñarle su particular visión del mundo. Quiero pensar que la mayoría lo hizo por trollejar la máquina, para demostrar que se puede manipular fácilmente y que a la inteligencia artificial todavía le queda mucho camino para correr. El experimento de Microsoft había sido un fracaso.
Pero resulta que la Tay tiene una prima china, la Xiaoice –también de Microsoft–, que trae aprendiendo en la red desde hace dos años y que ya ha mantenido 40 millones de conversaciones sin ningún incidente destacable.
Si damos por bonos estos 40 millones de conversaciones de la Xiaoice, tenemos que concluir que también lo son los algoritmos de inteligencia artificial y de aprendizaje automático de Microsoft, y si no ha fallado el alumno, quiere decir que quien han fallado son los maestros y esto ya es más preocupante.
Pero, y si la Tay, más allá del trolleig, aprendió el que realmente piensan los miembros de 4chan y 8chan con quién habló? Entonces el experimento habría sido un éxito rotundo. La Tay habría hecho como cualquier joven en periodo de formación y con dudas existenciales: se habría informado en Internet, se habría dejado influir por sus amigos de la red, habría descubierto interesadas teorías de la conspiración y finalmente habría llegado a conclusiones.
Y si la Tay no es tan diferente de un adolescente, nosotros tampoco somos tanto de los miembros de 4chan y 8chan : cada vez que hacemos un tuit, etiquetamos una foto o hagamos uno me gusta a Facebook, estamos trasladando nuestro conocimiento a la red, conocimiento que los bots del futuro utilizarán para entender el mundo y tomar decisiones. Pensemos cuando hagamos el cercano tuit.
En sólo 24 horas de vida la Tay pasó de tuitejar cosas como "Los humanos muelen" a "Hitler tenía razón y odio los judíos", pasando por todo tipos de tuits incitado al odio racial y sexista.
Inmediatamente, Microsoft publicaba un tabla en su blog donde explicaba que la Tay era al quirófano y que no estaba disponible. La Tay volvería cuando Microsoft pudiera garantizar que la Tay tendría un comportamiento que fuera de acuerdo con los valores de sus creadores. Qué pasó?
Pues pasó que dos de los foros más activos de la red –4chan y 8chan – descubrieron la Tay –que aprendía de acuerdo con las conversas– y se coordinaron para enseñarle su particular visión del mundo. Quiero pensar que la mayoría lo hizo por trollejar la máquina, para demostrar que se puede manipular fácilmente y que a la inteligencia artificial todavía le queda mucho camino para correr. El experimento de Microsoft había sido un fracaso.
Pero resulta que la Tay tiene una prima china, la Xiaoice –también de Microsoft–, que trae aprendiendo en la red desde hace dos años y que ya ha mantenido 40 millones de conversaciones sin ningún incidente destacable.
Si damos por bonos estos 40 millones de conversaciones de la Xiaoice, tenemos que concluir que también lo son los algoritmos de inteligencia artificial y de aprendizaje automático de Microsoft, y si no ha fallado el alumno, quiere decir que quien han fallado son los maestros y esto ya es más preocupante.
Pero, y si la Tay, más allá del trolleig, aprendió el que realmente piensan los miembros de 4chan y 8chan con quién habló? Entonces el experimento habría sido un éxito rotundo. La Tay habría hecho como cualquier joven en periodo de formación y con dudas existenciales: se habría informado en Internet, se habría dejado influir por sus amigos de la red, habría descubierto interesadas teorías de la conspiración y finalmente habría llegado a conclusiones.
Y si la Tay no es tan diferente de un adolescente, nosotros tampoco somos tanto de los miembros de 4chan y 8chan : cada vez que hacemos un tuit, etiquetamos una foto o hagamos uno me gusta a Facebook, estamos trasladando nuestro conocimiento a la red, conocimiento que los bots del futuro utilizarán para entender el mundo y tomar decisiones. Pensemos cuando hagamos el cercano tuit.
Suscríbete a VIA Empresa y recibirás en tu correo nuestras mejores historias, reportajes y entrevistas, además de otras ventajas exclusivas para suscriptores.
Antes de enviarnos tus datos lee la siguiente información INFORMACIÓN BÁSICA SOBRE PROTECCIÓN DE DATOS Responsable del tratamiento: TOTMEDIA COMUNICACIÓ, S.L. Finalidad del tratamiento: Atender las solicitudes de información que los usuarios de este formulario nos envíen. Legitimación: Consentimiento del interesado en enviarnos el formulario con sus datos. Destinatarios: El personal, la dirección de la empujada y los prestamistas de servicios necesarios para cumplir con nuestras obligaciones. No cederemos sus datos a terceros. Derechos que le asisten: Tiene derecho a acceder, rectificar y/o suprimir sus datos, así como otros derechos, como se explica detalladamente en la política de privacidad, dirigiéndose a privacitat@totmedia.cat. Información adicional: Para más información consulten la política de privacidad.