Perspective google, al bando i commenti tossici

Perspective google, al bando i commenti tossici

9 aprile 2017 0 Di seo staff

‘Perspective’, il programma che individua gli insulti sul web

Sviluppato da Jigsaw per Google, il programma ‘Perspective’ ha il compito di individuare gli insulti online che compaiono sotto gli articoli online. Ecco come funziona

Il tema degli insulti on line e di quelli che si sentono protetti dall’anonimato permettendosi di scrivere tutto quello che vogliono è delicatissimo, ma da qualche mese Google grazie alla collaborazione con Jigsaw (il settore all’interno di Alphabet che sviluppa tecnologie per rendere la Rete più sicura) ha al suo attivo la tecnologia ‘Perspective’.

Non si tratta di un filtro e non ha il potere nemmeno di bloccare le espressioni con insulti scritte sotto le notizie che compaiono on line ma è un avviso: scova gli insulti e avverte gli editori della presenza di commenti offensivi e frasi violente in corrispondenza delle news che vengono pubblicate sul web.

I primi test sono stati effettuati con il New York Times, redazione nella quale è già presente un team specifico per controllare e moderare ogni commento prima della sua pubblicazione.

Perspective‘ revisionerà tutti i commenti assegnando loro un punteggio da 1 a 100 in base ad una scala determinata da algoritmi di machine learning di Google per confrontare ogni frase con un enorme database iniziale di contenuti simili.

Tutti quelli che sono considerati dannosi o comunque tali da costringere un utente ad abbandonare una conversazione online se li legge riceveranno un punteggio basso. Il programma ha esaminato decine di migliaia di commenti passati in rassegna da uomini e non da macchine e ogni volta si arricchisce di elementi nuovi.

Toccherà poi agli editori decidere cosa fare con le informazioni ottenute da ‘Perspective‘.

Potrebbero decidere di segnalare i commenti ai loro moderatori in modo che questi li esaminino di nuovo e decidano se includerli o meno in una conversazione oppure utilizzare questo strumento per fa capire agli utenti quanto possa essere pericoloso quello che viene scritto da alcuni di loro.

I primi risultati sono incoraggianti anche se il fenomeno è ben lontano dall’essere scomparso.


Chiarimenti e info :

The following two tabs change content below.
seo staff

seo staff

Seo staff, cyber crime legal team