L'orwellià sistema xinès de control social

Aquesta setmana s'ha publicat la notícia que un estudiant xinès ha estat refusat en una universitat xinesa a causa de la "baixa puntuació social" del seu pare. Fa temps que la Xina està construint un rànquing digital dinàmic que avalua l'individu, en funció del seu comportament social, polític i econòmic. Comportament que és contínuament monitoritzat mitjançant un desplegament massiu d'indicadors gestionats amb tecnologia big data i intel·ligència artificial. La internet de les coses per a un ús de control social.

Quelcom que sembla esgarrifós, i que podia haver estat extret d'un dels episodis de la sèrie de ciència-ficció Black Mirror. De fet, en un d'aquests, en una hipotètica societat futura, els individus puntuen als seus congèneres amb un sistema similar al dels "likes" de Facebook. La protagonista de l'episodi lluita desesperadament per agradar als que l'envolten, per tal de pujar la seva puntuació social i aconseguir l'accés a un apartament de luxe, al qual només poden accedir aquells que acumulen més "likes".

La ficció s'està fent realitat a la Xina, on s'està construint per directriu governamental un immens sistema de vigilància i puntuació del ciutadà que ha d'estar totalment implementat el 2020. Allaus de dades individuals, provinents de múltiples fonts, s'acumulen i es processen per obtenir una puntuació personal. Dades provinents de les converses de WeChat (el WhatsApp xinès) rastrejades amb tecnologia d'intel·ligència artificial de darrera generació; de les relacions a les xarxes socials (qui són els seus amics?); de registres administratius (té vostè multes de trànsit?); de registres mèdics (ha tingut problemes d'alcohol?); de compres online a empreses digitals com Alibabá, l'Amazon xinès (consumeix vostè molts videojocs? Compra tabac? És addicte a algun tipus de producte? Fa dispendis amb productes intranscendents?); d'expedients acadèmics; de valoracions dels seus caps en el seu lloc de treball; del seu historial de navegació per internet (quin tipus de websites visita?); dels diaris que llegeix; o de la seva solvència bancària (estalvia? Paga els deutes a temps?). Algoritmes secrets ponderaran totes les dades que el sistema té sobre vostè, i li assignaran una posició en el rànquing. Un sistema digne del Gran Germà d'Orwell.

"A la Xina s'està construint per directriu governamental un immens sistema de vigilància i puntuació del ciutadà que ha d'estar totalment implementat el 2020"

En cas de no tenir la puntuació adequada, un ciutadà pot ser rebutjat en agafar un avió o un tren (11 milions de xinesos han vist bloquejat el seu accés a vols domèstics per aquest motiu). També pot ser castigat amb una reducció de la seva velocitat de connexió a internet. Prohibint el seu accés o el dels seus fills a les millors escoles, impedint l'accés als millors hotels, limitant la possibilitat de trobar una bona feina, o publicant el seu nom en llistes de "mals ciutadans". Com a l'episodi de Black Mirror, és d'esperar que els bons ciutadans es relacionin només amb bons ciutadans, així que aquells que puntuïn baix poden quedar exclosos de les seves relacions socials i convertir-se en quelcom com pàries repudiats pels seus conciutadans.

La Xina progressa exponencialment en digitalització i intel·ligència artificial. Fa poc, un fugitiu va ser identificat automàticament per un sistema de reconeixement facial basat en intel·ligència artificial, entre 60.000 persones que s'aplegaven per escoltar un concert. El país del Dragó s'està convertint en una disciplinada i digitalitzada societat dirigida top-down amb aspiracions de liderar tecnològicament i econòmica el planeta abans que ens adonem.

Europa no ho té fàcil, emparedada entre quatre realitats complexes: uns EUA que han trencat l'Aliança Atlàntica i han declarat la guerra comercial a Europa; una Rússia sotmesa a un lideratge autoritari, que expandeix els seus interessos estratègics cap a l'Est Europeu i somnia amb una Europa fragmentada; una Xina disciplinada i digitalitzada que esdevindrà líder tecnològic absolut; i una Àfrica que vol desbordar les seves fronteres demogràfiques cap al Nord. És el moment de consolidar el projecte europeu, el millor sistema organitzatiu, democràtic i de qualitat de vida del món. Ara o mai!

Més informació
Depredadors digitals
Clústers 3T: talent, tecnologia i treball
Democratitzant la intel·ligència artificial
Avui et destaquem
El més llegit