O GLOBO – 04/06/2019
MAX FISHER E AMANDA TAUB – The New York Times
Pesquisa de Harvard diz que algoritmo do YouTube recomendou vídeo de menina carioca em piscina a usuários de conteúdos de cunho sexual.
“Fiquei assustada com o número de visualizações”, disse Christiane C., moradora de um subúrbio do Rio cuja filha postou um vídeo no YouTube brincando na piscina, no quintal de casa, com uma amiga. “O vídeo é inocente”, disse a mãe.
Alguns dias depois, a filha voltou com a notícia: o vídeo tinha milhares de visualizações. Não demorou para que chegasse a 400 mil.
Christiane tinha razão em se preocupar. O sistema de recomendação automatizado do YouTube — que impulsiona a maioria das bilhões de visualizações da plataforma, sugerindo o que os usuários devem ver em seguida—começou a oferecer ovídeo para usuários que assistiram a conteúdos de crianças pré-adolescentes e parcialmente vestidas.
Segundo pesquisadores de Harvard,o YouTube fez a curadoria dos vídeos a partir de todos os seus arquivos, às vezes pinçando inofensivos filmes domésticos. Em muitos casos, o algoritmo encaminhava os usuários a alguns desses vídeos depois que eles assistiam a conteúdo com tema sexual.
O resultado foi um catálogo de vídeos que os especialistas dizem sexualizar as crianças.
—É o algoritmo que conecta esses canais—disse Jonas Kaiser, um dos três pesquisadores do Centro Berkman Klein para Internet e Sociedade, de Harvard, que tropeçou nos vídeos enquanto analisava o impacto do YouTube no Brasil.
O vídeo da filha de Christiane foi promovido meses depois de o YouTube ser alertado de que tinha um problema de pedofilia. Em fevereiro, agências de notícias informaram que usuários estavam usando a seção de comentários de vídeos com crianças para orientar outros pedófilos.
Naquele mês, chamando o problema de “profundamente preocupante”, a empresa desativou os comentários em muitos vídeos com crianças. Mas o sistema de recomendação, que permanece em vigor, reuniu dezenas de vídeos desse tipo em um repositório novo e facilmente visível, e os empurrou para um vasto público.
O YouTube nunca se propôs a atender usuários com interesses sexuais em crianças —mas, no fim das contas, segundo Kaiser, o sistema automatizado os mantém conectados, e os usuários não precisam procurar vídeos de crianças para assisti-los. A plataforma pode levá-los até lá por meio de uma progressão de recomendações.
Assim, um usuário que assiste a vídeos eróticos pode ser recomendado para vídeos de mulheres mais jovens e, em seguida, para mulheres que posam provocativamente em roupas de crianças. Eventualmente, usuários podem receber vídeos de meninas de 5 ou 6 anos usando roupas de banho ou se vestindo.
Sozinho, cada vídeo pode ser inocente. Mas, agrupados, seus recursos compartilhados se tornam inconfundíveis.
— Estou com muito medo — disse Christiane. — Com medo pelo fato de que um vídeo como esse possa ter caído em tal categoria.
Quando a reportagem alertou o YouTube de que o sistema estava fazendo circularem vídeos de família para pessoas aparentemente motivadas por interesse sexual em crianças, a empresa removeu vários deles, mas deixou outros.
‘EFEITO BURACO DE COELHO’
O próprio sistema de recomendação mudou, não conectando mais alguns dos vídeos eróticos. O YouTube disse que isso provavelmente foi resultado de ajustes de rotina em seus algoritmos.
Jennifer O’Connor, diretora de produtos do YouTube, disse que a empresa está comprometida a erradicar a exploração de crianças em sua plataforma e que trabalha desde o início de fevereiro para melhorar a fiscalização:
— Proteger as crianças está no topo da nossa lista.
O YouTube, porém, não colocou em prática a única mudança que os pesquisadores de Harvard dizem que impediria que isso acontecesse: desativar o sistema de recomendação em vídeos de crianças.
A empresa informou que, co moas recomendações são o maior direcionador de tráfego, removê-las prejudicaria os “criadores” que dependem desses cliques. E afirmou que limitaria as recomendações sobre vídeos que considera colocar em risco as crianças.
O YouTube descreveu seu sistema como inteligência artificial que constantemente aprende quais sugestões manterão os usuários observando. Essas recomendações, dizem, conduzem 70% das visualizações, masa empresa não revela detalhes de como o sistema faz suas escolhas.
Alguns estudos descobriram o que os pesquisadores chamam de “efeito buraco de coelho”: a plataforma, dizem eles, leva os espectadores a vídeos ou tópicos mais extremos, pensados para atraí-los. O YouTube nega que exista tal mecanismo.
Kaiser e seus colegas pesquisadores Yasodara Córdova e Adrian Rauchfleisch decidiram testar o efeito no Brasil. Um servidor abriu vídeos e seguiu as principais recomendações do YouTube sobre o que assistir em seguida.
Quando seguiam recomendações sobre vídeos com temas sexuais, notaram que, em muitos casos, os vídeos se tornaram mais bizarros ou extremos e davam mais ênfase à juventude. Algumas mulheres insinuavam o caminho para vídeos em que posavam nuas.
Depois de alguns cliques, algumas tocavam mais abertamente na pré-puberdade, posando em roupas infantis. A partir daí, o YouTube começaria de repente a recomendar vídeos de crianças parcialmente vestidas, depois um fluxo quase interminável de crianças provenientes principalmente da América Latina e da Europa Oriental.