Aquest passat cap de setmana el diari britànic The Guardian publicava al seu web documents interns de Facebook sobre la política de filtratge de continguts ofensius. Més de cent documents en total sobre com la popular xarxa social gestiona continguts com la pornografia infantil, la incitació a l'odi, les amenaces, la pornorevenja, l'assetjament, el maltractament animal, el suïcidi, el racisme i el terrorisme. Sembla que Facebook està assumint el seu rol de mitjà d'informació global, una responsabilitat que Zuckerberg sempre havia defugit, i que a poc a poc va posant en marxa mesures de control de què es publica a la plataforma.
Després de negar la seva influència directa en les eleccions presidencials nord-americanes via la distribució d'informació falsa, més fàcil de compartir que de verificar, Facebook va programar un sistema de marcatge d'informació que permet als usuaris assenyalar possibles informacions falses. Casualment aquesta mateixa setmana Evan Williams (@ev), un dels co-fundadors de Twitter, demanava disculpes per la influència de Twitter també en la distribució d'informació falsa que hauria facilitat la victòria de Trump.
"2.000 milions d'usuaris connectats (gairebé un terç de la humanitat) donen per molt"
A Facebook hi podem trobar el millor i el pitjor de l'espècie humana. 2.000 milions d'usuaris connectats (gairebé un terç de la humanitat) donen per molt. No faré la llista per no espantar-me a mi mateix, però darrerament hem pogut assistir a maltractaments i assassinats en directe via Facebook Live (el servei de vídeo en directe de Facebook). Per lluitar contra tot això la xarxa social ––el gran mitjà–– disposa de potents algorismes capaços de detectar un contingut ofensiu en una foto en només pitjar el botó de publicar-la.
Però els algorismes per molt intel·ligents que siguin no tenen el coneixement del món que es necessita per saber si un contingut és ofensiu o no o, si tot i sent-ho, el fet d'exposar-lo ajuda a visibilitzar un problema. Va passar en el cas de la icònica fotografia Vietnam Girl on surt una nena nua escapant d'un bombardeig al Vietnam que va ser marcada com a pornografia infantil. La foto és un premi Pulitzer i el seu valor en contra de la barbàrie és molt superior a qualsevol consideració pornogràfica.
"Facebook té un exèrcit de 4.500 moderadors humans que treballa junt amb els algorismes per filtrar els continguts ofensius de la xarxa"
És per això que Facebook continua comptant amb les persones. Un exèrcit de 4.500 moderadors humans treballa junt amb els algorismes per filtrar els continguts ofensius de la xarxa als que segons informacions oficials de l'empresa se n'hi afegiran en breu 3.000 més, als que ens hi hem de sumar els 2.000 milions d'usuaris: encara que activament no marquem continguts com a ofensius, a cada clic que fem, cada compartició de continguts o cada pàgina o usuari que seguim estem fent d'editors i validant allò que llegim. Pensem-hi abans de fer clic en segons quines merdes.