A Thomson Reuters Foundation lançou o TRFilter, um aplicativo que permite aos jornalistas cortar, documentar e gerenciar assédio e abuso online, para que possam assumir o controle de suas redes sociais e se concentrar em suas atividades profissionais. A ferramenta possibilita aumentar a capacidade de moderação da própria conta do Twitter com recursos que não existem fora desse novo aplicativo.
Embora tenha sido lançado apenas em inglês até agora, os modelos de aprendizado de máquina por trás do TRFilter podem detectar conteúdo prejudicial em vários idiomas, informa o Laboratorio de Periodismo. A ideia, de qualquer forma, é expandir a ferramenta para incluir mais idiomas.
O TRFilter sincroniza com a conta do usuário no Twitter e usa a tecnologia de aprendizado de máquina para identificar comentários abusivos, fornecer pontuações de toxicidade e permitir que o usuário execute ações, silenciando ou bloqueando contas em escala, sem revisar o conteúdo. Os usuários têm a capacidade de exibir comentários, se desejarem.
Dentro do TRFilter também há a opção de criar logs de assédio e baixar um relatório, para compartilhar com terceiros. Os usuários podem optar por incluir na denúncia todo o conteúdo e contas abusivos que a ferramenta identificou como prejudiciais ou personalizar sua seleção.
As contas que estão assediando jornalistas não saberão que apareceram em um relatório e nenhum terceiro, incluindo a Thomson Reuters Foundation, Twitter e Jigsaw, acessará o relatório gerado na ferramenta. Os rascunhos de relatório são armazenados temporariamente na ferramenta. Uma vez baixado ou abandonado, o relatório será removido do TRFilter.
A ferramenta é baseada no Harassment Manager do Google. Ele usa a API Perspective do Jigsaw, que permite aos usuários classificar comentários potencialmente abusivos em plataformas de mídia social.
A Perspective verifica o idioma das mensagens para níveis de “toxicidade” com base em coisas como ameaças, insultos e palavrões. Ele classifica as mensagens em filas em um quadro, onde os usuários podem abordá-las em lotes, em vez de individualmente, por meio das ferramentas de moderação padrão do Twitter.