Filtro de odio
Redacción Oxígeno
23/02/2017 - 18:57

Google creó Perspective, el dispositivo anti trolls para medios de comunicación

Se trata de un detector de odio online que podrá localiza "toxicidad" en sitios de prensa de acuerdo a una base de datos elaborada por humanos.

Dispositivo anti trolls.

"Perspective" es un dispositivo creado por Jigsaw, la división creativa tecnológica de Google, estará disponible para los medios de comunicación, sirve para filtrar comentarios de odio en las noticias online.

Los insultos y los trolls (usuarios falsos, en ocasiones pagados) alteran la navegación en internet, publican comentarios tóxicos e interfieren las conversaciones. Para combatir este mal, Perspective detecta y elimina los comentarios, aprovecha el "machine learning" o aprendizaje automático, para reconocer los insultos explícitos y las ofensas más sutiles.

Jared Cohen, presidente de Jigsaw, explica que el dispositivo analiza los comentarios y les asigna un puntaje de "toxicidad" de uno a cien. El New York Times y Wikipedia participaron en el proyecto.

Perspective no opera como una "lista negra", no juzga los comentarios, sino que confronta las frases a través de una enorme base de datos inicial, comenzada con al menos cinco millones de comentarios etiquetados manualmente por revisores humanos. La base de datos se "afina" cada vez que encuentra nuevos ejemplos de comentarios potencialmente ofensivos, cuya valoración es evaluada por las personas.

Por el momento solamente funciona para el inglés, pero se prepara el funcionamiento en otros idiomas. Será de código abierto, es decir que estara disponible de manera gratuita. Los datos permanecerán disponibles para los editores que pueden elegir si le permiten a Google salvarlos.

El problema es tan serio que muchos sitios de información decidieron cerrar sus plataformas a los comentarios, para no transformar sus páginas en sitios de lenguaje agresivo y ordinario.

Las plataformas también han hecho esfuerzos para evitarlos, Instagram introdujo filtros "anti-acoso". Facebook tiene una política de condena de la incitación al odio y los usuarios pueden denunciar contenidos.

El Periódico Digital OXIGENO.BO, es desarrollado y administrado por Gen Film & Crossmedia Ltda. Teléfono: 591-2-2445455. Correo: info@gen.com.bo