O GLOBO – 27/07/2019
ALCIDES PERON
Distopias e utopias se atualizam ao longo do tempo. Na década de 1920, todo imaginário de futuro era baseado nas tecnologias disruptivas de sua época, a segunda revolução industrial. No início do século, olhando para a Primeira Guerra Mundial, as tecnologias movidas a vapor, petróleo ou combustão vão dominar toda a organização da sociedade. As tecnologias de rádio também se popularizavam naquela época. O filme “Metrópolis” antevê esse futuro, já olhando para os primeiros ciborgs — e, com eles, uma incapacidade de distinguir humano e não humano.
Textos como “Nós”, de Yevgeny Zamyatin, de 1924, vão pautar o que surgiria em “1984” e “Admirável mundo novo”. George Orwell está olhando a União Soviética e o que está ascendendo na Alemanha. A visão de futuro é condicionada pelas perspectivas de um Estado controlador, que utiliza tecnologias disponíveis para controlar o cidadão, disciplinar os trabalhadores e instaurar um sistema de vigilância permanente. Huxley rompe essa visão da autoridade sempre presente, visível e enaltecida. Se em “1984” o medo produzia a paralisia do sujeito, em “Admirável mundo novo” o parâmetro de liberdade se amplia.
O sujeito pode sair, beber, circular, se relacionar. Ele é estimulado a não ter relacionamentos fixos.
A ideia é que ele é controlado não pelo medo, mas pelo prazer. Se ele começa a experimentar algum tipo de sobressalto hormonal, e passa a ser muito feliz ou muito triste, muito desconcentrado ou concentrado demais, ele tem uma pílula, o SOMA, que faz com que seu comportamento se regularize. Se ele perturbar, é normalizado através da medicalização. Vemos ali a biopolítica constante da regulação do corpo, dos prazeres, das vontades, da manipulação mental.
SOB CONTROLE
Boa parte das tecnologias hoje é acoplada a câmeras, sistemas de coleta de dados analíticos, de reconhecimento facial, com capacidade de leitura de imagem que permite interpretar comportamentos não só em países autoritários, mas também nas sociedades ditas livres.
As tecnologias de medicalização de transtornos contemporâneos também visam a reproduzir comportamentos aceitáveis, produtivos, úteis. A noção de controle permeia as ficções distópicas, e é uma ideia presente até as produções mais recentes, de 2019. Nas distopias da década de 1980, como as de Wiliam Gibson, a ideia das tecnologias de vigilância está em computadores e nas redes de comunicação. A ideia serviu para pautar a noção técnica de ciberespaço. Hoje, os estudos de referência sobre vigilância apontam para o fato de que não somos só vigiados por câmeras, mas por dados. As tecnologias de comunicação estão em nossos corpos, relógios, óculos, no celular, nos sensores e, em breve, até na geladeira. A formação de perfis serve para produzir propagandas direcionadas e saberes cada vez mais sofisticados. Essa economia de dados cognitivos passa a orientar o mercado. Não é só propaganda. A revenda de dados, entregue a terceiros, serve a diversos objetivos, comerciais ou políticos, como vimos no escândalo da Cambridge Analytica.
Esse controle sofisticado de emoções e sentimentos que havia sido vislumbrado por essas distopias já está acontecendo. Não agimos de maneira autônoma. Dave Eggers, no livro “O círculo”, de 2013, aponta para a capacidade de grandes empresas de tecnologia controlarem nossos dados sem o menor tipo de restrição. Há algumas semanas, pessoas usaram loucamente um app de envelhecimento que mapeava pormenores de rostos, a distância entre os olhos, rugas, tamanho do nariz, as pintas e outras características que servem para abastecer um banco de dados. Não sabemos para que esses dados serão utilizados agora, mas no futuro podem produzir saberes e reorganizar a forma como a sociedade se comporta. Existe hoje a possibilidade de drones armados, que não são controlados nem remotamente, incorporarem softwares de reconhecimento facial que permitam tomar a decisão de matar ou não matar. Não só drones, mas robôs, tanques e carros serão abastecidos com esses dados faciais, dados de comportamento, de interesse ,de circulação de pessoas na cidade.
E como a internet das coisas vai incorporar essas tecnologias e dados? No futuro, essa produção de conhecimento pode se voltar contra nós na forma de um aparato de segurança autoritário.
Doutor em Política Científica e Tecnológica pela Unicamp e especialista em vigilância e novas tecnologias, Alcides Peron é pesquisador da USP com graduação em Relações Internacionais e em Ciências Econômicas.