O ESTADO DE S.PAULO – 26/05/2019
Bruno Romani
Michal Kosinski sabe que causa controvérsia. Psicólogo e professor assistente da Universidade Stanford, o polonês de 37 anos descreveu, anos antes de ser descoberto, o mecanismo por trás da maior crise da história do Facebook. Em artigo de 2013, ele chamou atenção para o uso de curtidas e testes para decifrar a personalidade de uma pessoa. A estratégia foi usada pela consultoria política Cambridge Analytica (CA) para influenciar a opinião pública em episódios como as eleições americanas de 2016. De profeta, Kosinski passou a ser considerado cúmplice na manobra. Agora, faz novo alerta: abusos no uso de inteligência artificial (IA) para reconhecimento de rostos humanos.
“Empresas e governos estão usando tecnologia para identificar não só as pessoas, mas também características e estados psicológicos, causando riscos sérios à privacidade”, diz o pesquisador, em entrevista exclusiva ao Estado. Nos últimos anos, ele tem dedicado seus estudos a mostrar como a tecnologia de reconhecimento facial pode ser usada para discriminar pessoas. Para exemplificar, escolheu uma abordagem espinhosa: mostrar que um algoritmo pode olhar para fotos de pessoas em redes sociais e adivinhar sua orientação sexual com precisão maior do que humanos fariam.
Cara a cara. No estudo, o polonês utilizou um algoritmo de reconhecimento facial disponível de graça na internet, o VGG Face. O sistema foi alimentado com 35 mil fotos de rostos encontradas em redes sociais. A máquina tinha um desafio: ao ser apresentada a um par de fotos, com uma imagem de um heterossexual e uma de um homossexual, ela deveria ser capaz de apontar qual das pessoas tinha a maior probabilidade de ser gay.
A máquina teve taxa de acerto de 81% no caso de homens e 71% no caso de mulheres – já julgadores humanos tiveram 61% e 54%, respectivamente. Ao analisar cinco fotos das mesmas pessoas, a precisão da máquina subiu para 91% (homens) e 83% (mulheres).
“O estudo não tenta entender o que causa diferenças entre gays e héteros, mas mostrar que há mecanismos que trabalham para isso, como o fato de que características psicológicas e sociais afetam nossa aparência”, explica Kosinski. “Para os humanos, é difícil detectá-las, mas os algoritmos são muito sensíveis e podem fazer previsões precisas.”
Publicado em 2017 na revista The Economist, os resultados da pesquisa provocaram polêmica. Dois grupos LGBTQ+ dos EUA, o Human Rights Campaign e o Glaad, consideraram o estudo falho e perigoso, enquanto pesquisadores questionaram seu método, linguagem e propósito.
Para Kosinski, há paralelos na reação das pessoas entre seu estudo sobre o Facebook e sobre reconhecimento facial. “Quando alertei para o monitoramento de curtidas, as pessoas riram dos meus resultados. Ao descobrir sobre a Cambridge Analytica, passaram a me levar a sério”, conta. “De repente, começaram a me culpar por alertar sobre o problema, mesmo não sendo o autor dessa tecnologia.” Mas é difícil ignorar sua conexão com o caso (leia mais no texto abaixo).
A mudança de foco do pesquisador acompanha as tendências da internet, como o crescimento da interação baseada em imagens. Um exemplo é o Instagram, maior rede social de fotos e vídeos do mundo. Entre 2013 e 2018, a plataforma, que também é do Facebook, cresceu mais de dez vezes e hoje tem mais de 1 bilhão de usuários compartilhando selfies e fotos de amigos em todo o mundo.
Perdas e danos. O polonês não se importa com as reações e crê ter atingido seu objetivo: mostrar a facilidade de se construir um algoritmo capaz de estabelecer conclusões como a orientação sexual, religiosa ou política de uma pessoa.
Independentemente de estarem certos ou errados, sistemas com essa missão podem gerar danos à sociedade se forem usados. “Há startups e companhias que oferecem previsões básicas gratuitas na internet. É uma tecnologia acessível – e pode estar em aeroportos ou postos de fiscalização de imigrantes”, diz.
Há até lugares em que isso já está sendo posto em prática: na China, há relatos de que o governo usa reconhecimento facial para catalogar e vigiar os uighurs, uma minoria étnica muçulmana. Já cidadãos chineses são monitorados para a obtenção de crédito pessoal.
“Não dá para a sociedade se transformar numa sociedade preditiva, na qual não posso ter um emprego por ter 72% de chance de ter determinado comportamento”, avalia Sérgio Amadeu, professor da Universidade Federal do Grande ABC (UFABC). “Isso retira das pessoas, bem como da sociedade, a capacidade de livre arbítrio.”
Ética. Para especialistas em IA ouvidos pelo Estado, o nível de apuro tecnológico da pesquisa de Kosinski não surpreende. “São resultados preliminares. É possível até melhorar a precisão do algoritmo”, diz Alexandre Chiavegatto Filho, professor da USP e especialista em tecnologia na saúde. Não é algo que está nos planos do polonês: para ele, o que fez foi suficiente para jogar luz no problema. A discussão do trabalho, porém, está longe de ser enterrada.
“Escolher estudar padrões ligados a assuntos íntimos, como orientação sexual, com base no rostos das pessoas parece bastante assustador”, diz Walter Carnielli, diretor do Centro de Lógica, Epistemologia e História da Ciência da Unicamp. Para Chiavegatto, da USP, o tiro do polonês pode sair pela culatra. “É uma pesquisa que mostra para o Irã e outros governos totalitários que é possível e simples aplicar essa tecnologia. É preciso pensar nas consequências.”
Lá fora a questão é bem discutida: antevendo cenários distópicos, a cidade de São Francisco (EUA) proibiu, há duas semanas, o uso governamental de reconhecimento facial em locais públicos. Kosinski concorda que a proibição não é um bom caminho para a tecnologia. Aqui no Brasil, o mais próximo disso são audiências públicas sobre o uso de reconhecimento facial e de inteligência artificial.
Enquanto isso, Kosinski se prepara para tocar as trombetas de um novo apocalipse tecnológico. Hoje, ele trabalha em novo artigo sobre reconhecimento facial. Desta vez, tenta demonstrar como a tecnologia pode ser usada para estimar visões políticas. A expectativa é publicar o trabalho até o final do ano, antes de uma nova corrida presidencial começar nos EUA. Ele sabe que deve gerar controvérsia – de novo. “Se as pessoas entenderem os riscos, tudo bem: meu trabalho terá sido bem feito.” Para Michal Kosinski, “defender sua tese” não é uma mera descrição de atividade acadêmica. Desde a eclosão do caso Cambridge Analytica, ele tenta se esquivar de críticas sobre a ética e a qualidade de suas pesquisas. Na conversa, ele explicou seus estudos em tom defensivo e admitiu que o reconhecimento facial também pode ter usos positivos.
• Por que fazer uma pesquisa envolvendo reconhecimento facial e características tão íntimas, como orientação sexual?
Sou psicólogo, mas meu interesse acadêmico é sobre riscos à privacidade. Já demonstrei isso antes: se você olhar as curtidas de alguém no Facebook é possível determinar personalidade, inteligência, orientação sexual, visões políticas etc. Quando alertei sobre esses riscos, as pessoas riram dos meus resultados. Estamos numa situação parecida aqui. Há patentes de startups em todo o mundo descrevendo como pegar fotos de pessoas e inseri-las em algoritmos para detecção de características íntimas.
• Como é possível usar um algoritmo para determinar as semelhanças faciais no mesmo grupo demográfico?
Não tento entender o que causa semelhanças entre os gays ou entre os héteros. Mas há pelo menos três mecanismos que trabalham paralelamente para isso. O primeiro é o fato de que características psicológicas, como a orientação sexual, afetam a nossa aparência. O exemplo mais simples é o que vestimos. Quando saímos com o mesmo grupo, desenvolvemos um estilo. O segundo é que há alguns fatores profundos (mentais, hormonais, genéticos) que afetam tanto as características psicológicas quanto as nossas faces. Sabemos que pessoas que têm genes similares têm rostos similares. Sabemos que pessoas que foram expostas a níveis hormonais similares têm rostos similares. A terceira é que o desenho da sua face pode afetar suas características psicológicas. Não acho que isso ocorre em termos de orientação sexual, mas em outras características: quando as pessoas têm elementos faciais que outras pessoas percebem como dominantes, como mandíbula larga, as pessoas passam a tratar esses indivíduos como dominantes – e eles passam a se comportar de acordo com o passar do tempo.
• O sr. já foi procurado por governos para desenvolver esse tipo de tecnologia?
Sim. Sempre nego: não tenho interesse em trabalho comercial. Sou acadêmico e é nisso que reside meu interesse. É possível imaginar muitos usos positivos para o reconhecimento facial – prever a orientação sexual não é uma delas. A mesma tecnologia que é usada para invadir a privacidade das pessoas poderia ser usada para monitorar a saúde, de maneira ética, com consentimento. Para alguém que está em um país pobre, um aplicativo que pode ver a sua face e detectar problemas de saúde pode salvar vidas.
Qual é sua próxima pesquisa?
Achar conexões entre rostos e características psicodemográficas é parte do meu trabalho. Meu próximo estudo será sobre relações entre aparência e visões políticas: entender como a dominação facial pode ajudar indivíduos a se tornarem liberais ou conservadores. Não é algo totalmente relacionado, mas podem existir fatores manifestos na face que são importantes para a saúde psicológica.
Envolvimento com Cambridge Analytica é alvo de polêmica
“Não tive nada a ver com a Cambridge Analytica”, diz uma mensagem no site do pesquisador Michal Kosinski. Apesar da negativa, as histórias do acadêmico e da empresa se cruzam: em 2013, quando fazia doutorado na Universidade de Cambridge (Inglaterra), o polonês publicou estudo no qual afirmava ser possível, a partir de curtidas e testes no Facebook, traçar a personalidade de um indivíduo. Era algo bem quantificado: com 10 curtidas, o sistema dizia saber mais sobre a pessoa do que seus colegas de trabalho. Com 150, mais do que pais e irmãos. Se dobrasse para 300, mais até do que o cônjuge. Segundo o jornal inglês ‘The Guardian’, o estudo chamou a atenção da firma de marketing político Cambridge Analytica (CA). De acordo com a publicação, que revelou o escândalo da consultoria em 2018, a empresa quis contratar Kosinski em 2014: ele teria pedido US$ 500 mil por IP (um “CEP do usuário” na internet) registrado. O pesquisador refuta. “Nunca encontrei ninguém que trabalhasse para a CA. Discuti com o Aleksandr Kogan um financiamento de pesquisa para a universidade”, diz. “Quando descobri os detalhes do projeto, reportei Kogan para o departamento jurídico da universidade – ele ia se envolver com um projeto antiético.” Pesquisador de Cambridge, Kogan replicou o estudo de Kosinski no app ‘This is your digital life’, quiz de personalidade veiculado no Facebook, usado para captar dados de 87 milhões de usuários da rede. As informações foram usadas na campanha de Donald Trump nos EUA.