L'educació dels bots és cosa de tots

Fa una setmana, Microsoft llençava a Twitter un xatbot anomenat Tay (@TayandYou). Com qualsevol altre xatbot, la Tay és un conjunt d'algorismes capaç de mantenir converses coherents amb els usuaris amb l'afegit que aprèn del tema tractat gràcies a tècniques d'intel·ligència artificial i d'aprenentatge automàtic. La xarxa era doncs el lloc perfecte perquè aprengués de milions d'usuaris. La Tay tenia comptes a Twitter a Kik i a GroupMe on els usuaris podien parlar amb ella mentre ella n'extreia el coneixement.

En només 24 hores de vida la Tay va passar de tuitejar coses com "Els humans molen" a "Hitler tenia raó i odio els jueus", passant per tot tipus de tuits incitat a l'odi racial i sexista.

Immediatament, Microsoft publicava un post al seu blog on explicava que la Tay era al quiròfan i que no estava disponible. La Tay tornaria quan Microsoft pogués garantir que la Tay tindria un comportament que anés d'acord amb els valors dels seus creadors. Què va passar?

Doncs va passar que dos dels fòrums més actius de la xarxa –4chan i 8chan– van descobrir la Tay –que aprenia d'acord amb les converses– i es van coordinar per ensenyar-li la seva particular visió del món. Vull pensar que la majoria ho va fer per trollejar la màquina, per demostrar que es pot manipular fàcilment i que a la intel·ligència artificial encara li queda molt camí per córrer. L'experiment de Microsoft havia estat un fracàs.

Però resulta que la Tay té una cosina xinesa, la Xiaoice –també de Microsoft–, que porta aprenent a la xarxa des de fa dos anys i que ja ha mantingut 40 milions de converses sense cap incident destacable.

Si donem per bons aquests 40 milions de converses de la Xiaoice, hem de concloure que també ho són els algorismes d'intel·ligència artificial i d'aprenentatge automàtic de Microsoft, i si no ha fallat l'alumne, vol dir que qui han fallat són els mestres i això ja és més preocupant.

Però, i si la Tay, més enllà del trolleig, va aprendre el que realment pensen els membres de 4chan i 8chan amb qui va parlar? Llavors l'experiment hauria estat un èxit rotund. La Tay hauria fet com qualsevol jove en període de formació i amb dubtes existencials: s'hauria informat a Internet, s'hauria deixat influir pels seus amics de la xarxa, hauria descobert interessades teories de la conspiració i finalment hauria arribat a conclusions.

I si la Tay no és tan diferent d'un adolescent, nosaltres tampoc no en som tant dels membres de 4chan i 8chan: cada cop que fem un tuit, etiquetem una foto o fem un m'agrada a Facebook, estem traslladant el nostre coneixement a la xarxa, coneixement que els bots del futur utilitzaran per entendre el món i prendre decisions. Pensem-hi quan fem el proper tuit.
Avui et destaquem
El més llegit