A decisão de empresas como Facebook e Youtube (do Google) de remover de forma atabalhoada conteúdos ofensivos, desinformação e perfis falsos deixou claro o quanto perigoso é depender dos algoritmos para exercer a moderação de conteúdo nas plataformas. Para fazer esse trabalho, uma responsabilidade das empresas de tecnologia que elas procuram evitar ao máximo, é necessária a atuação de seres humanos capacitados. Do contrário, os problemas que se acumulam nas redes sociais, incluindo aberrações como a censura a obras de arte e, em contrapartida, a permissão de apologia a crimes, continuarão. A análise é do jornalista Carlos Müller, Doutor em Estudos Comparados em Ciências Sociais pela Universidade de Brasília (UNB), especializado nas implicações da tecnologia ao jornalismo.
Müller diz que a remoção em massa de conteúdos duvidosos por parte das mídias sociais irritou os afetados pelos cortes e, também, os defensores da liberdade de expressão. No segundo caso, a preocupação é com o fato de que, subitamente, quem sempre tolerou conteúdos falsos e odiosos agora passou a censurá-los em grandes doses. O jornalista lembra que as empresas se apoiaram, ao longo dos anos, na defesa de seus algoritmos, o que facilita justificar mediações e supressões bizarras de textos e imagens, e também em um exército de pessoas despreparadas para fazer a correta curadoria de milhares de publicações.
Durante muito tempo, afirma o jornalista, a razão invocada pelas gigantes de tecnologia para eximirem-se de responsabilidade pelos conteúdos de terceiros que publicavam e indexavam sempre foi a de que são empresas de tecnologia, plataformas, e que a responsabilidade é de quem gera os conteúdos. “A distribuição, a hierarquização e a exclusão dos poucos conteúdos que violassem suas obscuras regras seria responsabilidade de uma entidade chamada algoritmo”.
Os algoritmos, entretanto, ressalta Müller, existem há milênios e são um conjunto de instruções aplicadas sistematicamente a dados com o objetivo de resolver um problema por meio de um determinado número de passos simples. “Não é raro que os algoritmos sejam associados a ‘inteligência artificial’. Na verdade, algoritmos não são nem inteligência, nem artificial porque fazem o que foram programados para fazer”, diz o jornalista.
O problema real, destaca Müller, é que somente humanos podem discernir o que algoritmos e sistemas são incapazes de detectar, e as redes sociais, buscadores e congêneres têm se negado a reconhecer que algoritmos não são uma “panaceia”. O resultado da aplicação de um algoritmo, lembra. pode ser terrivelmente diferente do pretendido, supondo que as intenções fossem as melhores. “As empresas de tecnologia, além arrogantemente desprezarem esse risco, costumam se comportar como quem só dispõem do martelo como ferramenta e, em consequência, trata tudo a marteladas. Para elas, a única forma de enfrentar problemas tecnológicos é usar mais tecnologia”, lamenta o jornalista.
Soterradas em problemas causados pela interpretação dos seus algoritmos, programados elas mesmas, a empresas de tecnologia têm sido obrigados a contratar um número crescente de “moderadores”, como chamam as pessoas que verificam o “trabalho” dos algoritmos. “Aqui, porém, subsistem dois problemas: O primeiro é que, embora já sejam milhares (em geral mal preparadas e submetidas a condições de trabalho excessivo) essas pessoas não conseguem dar conta das milhões de novas postagens que escapam ao algoritmo. O segundo é que as correções (quando ocorrem e a empresa não usa de subterfúgios para esquivar-se de suas responsabilidades), demoram e só o fazem quando alertadas por algum (muitos) internauta(s)”.
O problema não é apenas tecnológico ou de pessoal insuficiente ou despreparado, diz Müller, que também é consultor da Associação Nacional de Jornais (ANJ). Como reconheceu Andrés Leonardo Martínez Ortiz, gerente do Grupo de Desenvolvedores do Google, em matéria disponível no site do jornal espanhol El País: “Um algoritmo não é uma caixa preta e seus resultados não devem ser assumidos sem questioná-los”.
Enfrentar o desafio, reforça o jornalista, implica para as empresas admitir que não são plataformas neutras como alegam. “Isso tem imensas consequências, inclusive jurídicas. Implica, também, num tremendo desafio ao seu “modelo de negócio”, a começar por um aumento estratosférico de seus custos. É preciso humanos (muitos e capacitados) para fazer uma curadoria adequada do conteúdo de uma rede social, evitando que crimes sejam praticados e exibidos sem restrições”.
O problema se manifesta também em relação à publicidade, a principal fonte de renda de empresas como Google e Facebook. A publicidade neles veiculada, afirma Müller, é gerida essencialmente de forma automática, por meio de softwares (‘publicidade programática’). Em consequência, o anúncio de um órgão público britânico pode acabar aparecendo num site de um grupo terrorista ou o de uma grande empresa, como a Mercedes, patrocinando um site ligado ao Estado Islâmico, como revelou o jornal The Sun.
“Evitar que a publicidade tenha um destino indesejado, até pelas empresas e instituições por ela responsáveis, exige mais que algoritmos e outras ferramentas digitais. É preciso seres humanos habilitados para pelo menos supervisioná-los. E é preciso que a sociedade seja educada e tenha senso crítico para entender a importância dessas diferenças e não aceitar o que o algoritmo amoral lhe oferece”, enfatiza o o especialista.
Leia mais em:
http://www.palavraaberta.org.br/noticias/sua-majestade-o-algoritmo-amoral-e-ganancioso.html