Google censura i commenti cattivi con Perspective

Il web e i social non scendono in campo soltanto contro le bufale, ma anche contro gli ‘haters’ e i commenti violenti che possono portare a conseguenze tragiche. Il primo passo concreti si chiama Perspective, una nuova tecnologia sviluppata da Google e che l’azienda di Mountain View ha testato nei mesi scorsi insieme a Wikipedia e New York Times.

Lo scopo principale di Perspective è quello di aiutare i media ad individuare immediatamente i commenti violenti degli utenti alle notizie online. Attraverso una forma di intelligenza artificiale detta ‘machine learning’ si analizzano i commenti degli utenti e viene attribuito un punteggio di dannosità per gli altro e poi saranno i singoli responsabili dei siti a decidere se quei commenti e quelle frasi possono continuare a rimanere oppure se devono essere eliminati. Fino alle scorse settimane il programma è rimasto in fase Beta e soprattutto si può utilizzare soltanto per le frasi in inglese.

In realtà però Google si è già detta disposta a collaborare per creare nuovi modelli che funzionino con lingue diverse rispetto a quella originale. Ma l’applicazione potrebbe allargare anche il suo campo d’azione, arrivando ad identificare commenti che vengono riconosciuti come attacchi personali oppure quelli che non c’entrano niente con l’argomento, diventando così una specie di antispam.