O ESTADO DE S.PAULO – 21/06/2020
Bruno Romani
Um desdobramento inesperado dos protestos iniciados nos EUA, após o assassinato de George Floyd, foi o reconhecimento facial ser posto em xeque. A tecnologia, em crescente desenvolvimento, levanta dúvidas sobre sua eficácia e temores sobre o perigo quando usada por agências de segurança. Na esteira das manifestações antirracistas, três das principais companhias de tecnologia do mundo decidiram mudar a forma como pesquisam e vendem a tecnologia, pondo interrogações sobre seu futuro e limites.
A fila foi puxada pela IBM, que no último dia 9 anunciou que encerrará sua divisão de reconhecimento facial. “A IBM se opõe firmemente e não tolerará o uso de nenhuma tecnologia, incluindo o reconhecimento facial, para vigilância em massa, elaboração de perfis raciais, violação dos direitos humanos e liberdades básicas”, escreveu Arvind Krishna, presidente executivo da companhia. Indiano, Krishna é o primeiro líder não branco da IBM – algo visto por analistas como crucial para a decisão.
Na sequência, Amazon e Microsoft tomaram medidas mais brandas. A Amazon disse que congelará por um ano a comercialização do seu programa Rekognition para departamentos de polícia dos EUA, enquanto aguarda legislação específica sobre a tecnologia. A empresa não revelou, porém, o que acontecerá com agências de segurança que já usam o software.
Ao jornal Washington Post, a Microsoft afirmou que não vende a tecnologia para agências de segurança e se comprometeu a não fazê-lo por mais um ano, até que uma legislação federal seja criada nos EUA. A empresa já havia sido a primeira a pedir regulação sobre o tema, em 2018.
Falhas.
“Todo sistema de biometria tem falhas que geram falsos positivos. No reconhecimento facial isso pode resultar em problemas gravíssimos”, explica Sérgio Amadeu, professor da Universidade Federal do ABC (UFABC).
Isso já foi provado, por exemplo, em um experimento da União Americana de Liberdades Civis (Aclu, na sigla em inglês). Em 2018, a entidade enviou fotos de congressistas americanos ao Rekognition, que erroneamente identificou 28 deles como procurados pela polícia.
Outros experimentos da Aclu, por sua vez, demonstram que algoritmos de reconhecimento facial tendem a ter desempenho pior quando analisam rostos de negros e mulheres. “Sistemas de inteligência artificial aprendem o que se ensina a eles. O perigo é colocar nos dados usados por esses sistemas valores preexistentes, que prejudicam grupos específicos”, diz Yasodara Córdova, programadora e pesquisadora da Universidade Harvard.
Sistemas de inteligência artificial, como os que identificam rostos, aprendem por meio de grandes bancos de dados. A partir disso, identificam padrões e tomam suas decisões. O problema é que nem sempre os dados são bons o suficiente para que qualquer pessoa seja tratada de maneira similar – de fato, essas informações
podem acentuar problemas da sociedade. “Esses sistemas foram construídos com base em grupos de teste sem diversidade suficiente”, diz Yasodara.
É por isso que as decisões das gigantes estão profundamente ligadas ao Black Lives Matter. “Esses algoritmos estão inseridos num contexto racista nas agências de segurança, o que tende a reforçar a discriminação”, avalia Veridiana Alimonti, analista de políticas públicas da Electronic Frontier Foundation, entidade de defesa de direitos digitais.
Dentro do contexto das manifestações, há também temores de que o monitoramento estava sendo aplicado indiscriminadamente contra os cidadãos, o que pode levar a abusos e à violação da privacidade. “A utilização
de reconhecimento facial
de forma massiva viola uma série de direitos. Ela monitora movimentos nas cidades, que podem ser cruzados com outros dados e que revelam demais sobre as pessoas”, diz Veridiana. Para Amadeu, “isso coloca a sociedade numa situação totalitária, com vigilância ubíqua”.
Gota no oceano.
À primeira vista, a atitude da IBM e das outras gigantes pode parecer um passo à frente para a tecnologia. Mas também pode representar um empurrão do reconhecimento facial para pesquisas feitas às sombras. “Existem outras empresas médias e pequenas que desenvolvem soluções parecidas”, diz Amadeu.
Na semana passada, o Wall Street Journal publicou que empresas que vendem sistemas de reconhecimento facial para forças policiais dos EUA, como a japonesa NEC, a Ayonix e a startup Clearview AI, não vão se afastar do mercado. Há motivos: é um setor que pode valer US$ 8 bilhões em 2022, segundo a consultoria Market Research Future. Com o recuo das gigantes, o perigo é que seu vácuo seja preenchido por nomes obscuros e, portanto, mais difíceis de serem fiscalizados.
Por outro lado, o rechaço ao uso da tecnologia não é consenso. “Qualquer software pode ter erro. Desde que eles sejam solucionados e o uso da tecnologia seja responsável e legal, não tem por que não usar”, diz o advogado Renato Opice Blum, coordenador dos cursos de proteção de dados e direito digital do Insper. “O benefício se sobrepõe a eventuais hipóteses de problemas. Se o reconhecimento facial está tirando criminosos das ruas, isso é positivo.”
Como lidar.
Para evitar a ação de empresas suspeitas, Blum imagina requisitos mínimos sobre empresas que possam atuar nesse mercado. “Aqui no Brasil a Autoridade Nacional de Proteção de Dados (ANPD) poderia determinar regras garantindo quem pode participar. A diferença entre uma gigante e uma empresa pequena é a sua capacidade de reparo”, diz. Vale, porém, lembrar: a ANPD, que deve zelar pelo cumprimento da Lei Geral de Proteção de Dados, é um órgão que ainda não existe.
Já que a tecnologia não será parada nem pelas gigantes, as sociedades terão de encontrar maneiras de lidar com ela. “É preciso regulação, claro, mas só ela não vai dar conta, pois as leis ficam obsoletas muito rápido. É preciso ter novas instituições que sejam capazes de tomar conta. Há decisões técnicas que precisam ser tomadas”, explica Yasodara.
“Sem dúvida, o caminho é uma regulação, mas que precisará passar por caminhos democráticos. Não é possível que uma parte do Estado tenha aparatos de vigilância sem controle”, afirma Amadeu. Assim, a questão que paira sobre o reconhecimento facial é, ao mesmo tempo, antiga e atual: “quem vigia os vigilantes?”