Jared Cohen, CEO de Jigsaw
Jared Cohen, CEO de Jigsaw —mejor conocido como Google Ideas— fue uno de los presentadores de la sesión titulada Machine Learning for Everyone, que se realizó en el marco del Festival Cannes Lions, donde habló sobre las herramientas que están usando para monitorear obscenidades y ataques a comentarios online, y combatir así el ambiente tóxico que crean los trolls. “Solo porque una conversación sea civilizada, no significa que todos quieran participar. Queremos asegurarnos de que la conversación sea coherente” dijo Cohen.
Una de estas herramientas es Perceptive, que usa aprendizaje automatizado para calificar comentarios de texto en una escala de toxicidad de 0 a 100. Esta medición se logra mediante la comparación de estos comentarios contra datos de cientos de miles ya catalogados. Los editores son los que deciden la censura al fijar los límites de la toxicidad que toleren, y cuando estos son sobrepasados reciben una notificación.
“Muchos de los comentarios tóxicos solo carecen de conciencia social o están teniendo un mal día” explico Cohen. Ahora cuando los trolls entran en la conversación, generalmente lo que se hace es cortar los comentarios totalmente y la gente sensible abandona la charla, y lo que se obtiene es “una persona tóxica hablando con otra persona tóxica”.
Cohen explicó que Perceptive es una herramienta API lanzada en febrero con Wikipedia y The New York Times. Esta usa 10 empleados a tiempo completo que monitorean 10.000 comentarios al día. Esta herramienta se ha extendido ahora a los usuarios que pueden ajustar una alerta de toxicidad específica para monitorear sus propios mensajes.
