Fa aproximadament mig any, Google va anunciar la posada en marxa del projecte Jigsaw, un sistema basat en la intel·ligència artificial i l'aprenentatge automàtic dissenyat per combatre tot tipus de violència a la xarxa, des dels continguts ofensius fins als serveis de reclutament de terroristes de l'ISIS.
Ara Alphabet, l'empresa matriu de Google juntament amb la Wikipedia, el New York Times, The Economist i The Guardian, acaben d'anunciar que la base sobre la que funciona el projecte Jigsaw, anomenada Perspective, ha estat posada a l'abast de tothom en forma d'API, un servei per tal que desenvolupadors de tot el món el puguin integrar a les seves aplicacions de manera programàtica.
Veure Perspective en funcionament és realment sorprenent. El servei fa servir algorismes d'aprenentatge automàtic per ser capaç d'identificar insults, amenaces i altres tipus d'abús en qualsevol text que processi. De fet, accedint a la pàgina web del projecte, hi ha una secció on qualsevol usuari pot introduir una frase –o tot un text– i el sistema en resoldrà el percentatge de "toxicitat" basat en els seus coneixements previs. Això sí, de moment Perspective només funciona sobre textos en anglès.
Les aplicacions d'aquests sistemes poden ser infinites. Us imagineu una opció a Twitter per amagar tot el contingut ofensiu? O una extensió a Google Chrome que permeti llegir els articles de qualsevol diari o navegar per fòrums de discussió obviant els insults?
Però com s'ho fa el sistema per determinar si un comentari és "tòxic" o inofensiu? D'entrada, els responsables de Perspective van analitzar milions de missatges extrets de les discussions editorials de la Wikpedia, a més d'informació del New York Times, entre d'altres. A partir d'aquí, alguns resultats extrets del sistema de procés es mostraven a grups de 10 persones que havien de validar el grau de toxicitat de cada comentari.
Els resultats d'aquesta anàlisi i posterior validació per humans ha estat processat per un sistema d'aprenentatge automàtic per tal d'identificar-ne els patrons que permeten que Perpective funcioni de manera autònoma i fiable.
Ara Alphabet, l'empresa matriu de Google juntament amb la Wikipedia, el New York Times, The Economist i The Guardian, acaben d'anunciar que la base sobre la que funciona el projecte Jigsaw, anomenada Perspective, ha estat posada a l'abast de tothom en forma d'API, un servei per tal que desenvolupadors de tot el món el puguin integrar a les seves aplicacions de manera programàtica.
Veure Perspective en funcionament és realment sorprenent. El servei fa servir algorismes d'aprenentatge automàtic per ser capaç d'identificar insults, amenaces i altres tipus d'abús en qualsevol text que processi. De fet, accedint a la pàgina web del projecte, hi ha una secció on qualsevol usuari pot introduir una frase –o tot un text– i el sistema en resoldrà el percentatge de "toxicitat" basat en els seus coneixements previs. Això sí, de moment Perspective només funciona sobre textos en anglès.
Les aplicacions d'aquests sistemes poden ser infinites. Us imagineu una opció a Twitter per amagar tot el contingut ofensiu? O una extensió a Google Chrome que permeti llegir els articles de qualsevol diari o navegar per fòrums de discussió obviant els insults?
Però com s'ho fa el sistema per determinar si un comentari és "tòxic" o inofensiu? D'entrada, els responsables de Perspective van analitzar milions de missatges extrets de les discussions editorials de la Wikpedia, a més d'informació del New York Times, entre d'altres. A partir d'aquí, alguns resultats extrets del sistema de procés es mostraven a grups de 10 persones que havien de validar el grau de toxicitat de cada comentari.
Els resultats d'aquesta anàlisi i posterior validació per humans ha estat processat per un sistema d'aprenentatge automàtic per tal d'identificar-ne els patrons que permeten que Perpective funcioni de manera autònoma i fiable.
Subscriu-te de franc a VIA Empresa i rebràs al teu correu les nostres millors històries, reportatges i entrevistes, a més d’altres avantatges exclusius per a subscriptors.
Abans d'enviar-nos les teves dades llegeix la següent informació INFORMACIÓ BÀSICA SOBRE PROTECCIÓ DE DADES Responsable del tractament: TOTMEDIA COMUNICACIÓ, S.L. Finalitat del tractament: Atendre les sol·licituds d'informació que els usuaris d'aquest formulari ens enviïn. Legitimació: Consentiment de l'interessat en enviar-nos el formulari amb les seves dades. Destinataris: El personal, la direcció de l'empesa i els prestadors de serveis necessaris per complir amb les nostres obligacions. No cedirem les seves dades a tercers. Drets que l'assisteixen: Té dret a accedir, rectificar i/o suprimir les seves dades, així com altres drets, com s'explica detalladament a la política de privacitat, dirigint-se a privacitat@totmedia.cat. Informació addicional: Per a més informació consultin la política de privacitat.