(Entrevista a Shoshana Zuboff, in Público, 09/01/2022)

O termóstato “inteligente” ajuda o leitor a regular a temperatura da sua casa, de forma eficiente, à distância. Equipado com sensores de movimento e capacidades de computação, aprende os hábitos de quem lá mora. Os dados são enviados para um gigante tecnológico e circulam num ecossistema de apps e equipamentos, desde fornos a monitores de fitness — conhecer até onde vai esta “casa inteligente” envolveria ler centenas de contratos de privacidade.

Entretanto, um aspirador “inteligente” anda às voltas pela casa, munido de sensores e uma câmara. É capaz de produzir uma planta da habitação, informação valiosa para o mercado imobiliário. Durante o dia, o leitor circula num carro “inteligente”, cujo seguro está associado à forma como conduz, monitorizada em tempo real — se gostar de acelerar, verá o prémio do seguro agravar-se. À noite, põe o filho a jogar com um brinquedo que grava as “conversas” com a criança (transcritas de forma automática e enviadas para uma empresa).

Segue-se um descanso merecido numa cama “inteligente”, que mede a qualidade e a quantidade do seu sono. O termóstato, o aspirador, o carro, o brinquedo e a cama estão ligados ao seu telefone “inteligente”, que sabe onde está, como e com quem dorme, o que partilha nas redes sociais, o que desabafa por mensagem, como é a sua cara, em quem vota.

Assine já

A descrição está entre os desejos de várias empresas, revelados nos últimos anos, e a realidade dos nossos dias, que, para Shoshana Zuboff, é cada vez mais distópica. Baseia-se em dados que a professora emérita da Harvard Business School e uma das maiores vozes na luta pela privacidade online reuniu em A Era do Capitalismo da Vigilância, editado originalmente em 2019 e publicado em 26 países, entre os quais Portugal, no ano passado. O jornal britânico The Guardian considerou-o um dos cem melhores livros do século XXI.

O que é o capitalismo da vigilância? “Uma nova ordem económica”, que recorre às tecnologias digitais para se apropriar da “experiência humana” e a usar “de forma encoberta como matéria-prima em práticas comerciais de extracção, previsão e venda”, define o livro. Os dados extraídos aos consumidores são matéria-prima para melhores previsões sobre o seu comportamento perante uma mensagem publicitária. Quanto mais se conhece um consumidor, mais vendas se conseguem e menor é o risco do anunciante.

Em conversa com o PÚBLICO, a investigadora norte-americana diz que empresas como a Google e o Facebook — e muitas outras que lhes seguiram os passos — perceberam o enorme valor económico dos dados e metadados dos utilizadores que lhes extraem mais ou menos secretamente. Não é só o que pesquisamos na Net, mas como e quando pesquisamos, que conversas temos, que expressões faciais produzimos, entre outros dados recolhidos por GPS, câmaras e microfones, entre outras tecnologias. Com essa informação pormenorizada sobre nós — recolhida em doses cada vez maiores, nas redes sociais, mas também por apps, smartwatches e outros equipamentos “inteligentes” —, estas empresas podem entregar-nos o anúncio certo à hora certa.

Para Zuboff, que estuda o efeito social das tecnologias digitais há mais de 30 anos, o projecto vai mais longe e é profundamente antidemocrático: os capitalistas da vigilância querem manipular o nosso comportamento para que ele se ajuste às suas previsões – uma coerção invisível. O sonho dos anunciantes e dos gurus das empresas tecnológicas é um pesadelo para a sociedade e as democracias, conclui a socióloga, que acede à Internet por Virtual Private Network (VPN), usa bloqueadores de trackers que guardam os nossos passos na rede e aplicações que impedem o reconhecimento facial e disfarçam a voz.

A pergunta surge no livro: “Se o capitalismo industrial comprometeu a natureza de forma perigosa, que catástrofe desencadeará o capitalismo da vigilância na natureza humana?”

O motor de pesquisa do “eu”

Segundo Zuboff, o capitalismo da vigilância começou em 2000, quando, em pleno crash das empresas tecnológicas, a Google enfrentou a pressão dos investidores para conseguir receitas. O produto da Google era o seu poder de pesquisa, que licenciava a outras entidades. A verdadeira riqueza estava, porém, por descobrir: além das palavras pesquisadas, havia uma “onda de dados colaterais”, como o volume e o padrão de termos de pesquisa, o modo como se faz uma pergunta ao Google, a ortografia, a pontuação, os tempos de pausa, os padrões de cliques e a localização.

Estes “produtos residuais do comportamento” (ou “excedente comportamental”) foram inicialmente ignorados, mas depois usados para melhorar o produto — com inovações como verificação da ortografia. Até que a Google descobriu que estava ali a sua mina de ouro: analisando o excedente comportamental, os cientistas de dados da empresa “podiam começar a prever onde e quando as pessoas iam pesquisar, em que tipo de coisas iam clicar, etc. Podiam prever comportamentos”, diz a socióloga ao PÚBLICO. Com melhores previsões, conseguiram mais cliques nos anúncios e, portanto, mais receitas, o que salvou a Google do crash. Em vez de escolherem palavras-chave e onde pôr os anúncios, as marcas só tinham de confiar na “caixa negra” da Google.

A firma “tornou-se uma empresa de pesquisa, mas não da forma que todos julgavam que era”: a Google estava, sim, “a pesquisar os seus utilizadores através dos metadados”. O motor de pesquisa tornava-se um espelho de um só lado — a Google sabia muito sobre nós e nós nada sabíamos sobre o processo de extracção dessas informações, que foi crescendo, com novos produtos (do Gmail ao Android), cookies e outros métodos.

A operação tinha de ser secreta, argumenta Shoshana Zuboff. Quando eram conhecidos pormenores que indiciavam que a Google fazia da recolha de dados pessoais o seu trunfo perante os anunciantes, a empresa pedia desculpa (como quando se descobriu que os carros do Street View recolhiam em segredo dados pessoais de redes de wi-fi privadas) ou fazia uma fuga para a frente, integrando a funcionalidade que estava a gerar polémica num novo produto. “Decidiram manter tudo escondido”, porque “perceberam desde cedo que o que estavam a fazer seria visto como uma violação da privacidade”. Se todos soubessem, haveria “rebelião e resistência dos utilizadores” e na América “teria sido tornado ilegal”.

Este secretismo, “essencial” para a manutenção do capitalismo da vigilância, permanece e explica o tempo que “legisladores e cidadãos” estão a levar para compreender as “ameaças aos indivíduos”, à “sociedade e à democracia”. “É distópico e estamos numa trajectória distópica — em dez anos será ainda mais distópico. A Internet das Coisas [objectos do dia-a-dia, como electrodomésticos, capazes de enviar e receber dados] será muito mais institucionalizada, a quantidade de dados recolhidos terá aumentado exponencialmente. Podemos ser uma sociedade de vigilância, e estamos nessa estrada, ou podemos ser uma democracia, mas não podemos ser as duas coisas em simultâneo.”

Biliões de dados

Com a vigilância a alimentar o negócio, as receitas publicitárias da Google aumentaram 3590% (sim, 3590%) entre 2000 e 2004. “Todos andavam à procura da forma de monetizar dados, a Google encontrou-a”, conta. Em 2008, o Facebook contrata a executiva Sheryl Sandberg à Google e segue os passos do gigante da pesquisa. Sandberg viu na teia de relações sociais dos utilizadores do Facebook uma fonte extremamente generosa de excedente comportamental.

Agora, denuncia Zuboff, o capitalismo da vigilância está em todo o lado: na Apple e na Microsoft, que vendem hardware e software, mas também querem comer do bolo publicitário; e na “economia normal”: “seguros, cuidados de saúde, educação, imobiliário, comércio, todos os domínios estão à caça” do “dividendo da vigilância”. Está também num jogo como Pokémon Go, que, usando tecnologias como o GPS e a realidade aumentada, estimula quem o joga a deslocar-se até espaços, como restaurantes ou lojas, que pagaram para figurar naquele mundo virtual.

“Compra um produto smart, estamos a falar de capitalismo da vigilância; compra um serviço personalizado, estamos a falar de capitalismo da vigilância. Neste momento, todas as apps são concebidas para recolherem dados ao máximo — as apps são as mulas da economia da vigilância e transportam dados dos telefones e computadores, esvaziando os alforges com dados nos servidores da Google, do Facebook, de ad tech [tecnologia de anúncios online] e tudo o resto.” Os accionistas têm recompensado esta postura: em A Era do Capitalismo da Vigilância conta-se que os donos do aspirador “inteligente” Roomba viram as acções da empresa triplicarem o seu valor em apenas um ano, depois de, em 2017, ter sido anunciado que os dados recolhidos pelos robôs seriam usados para produzir plantas de casas, que seriam vendidas (a empresa garantiu depois que nunca venderia dados dos clientes).

“Todas estas operações são projectadas para nos manter ignorantes do que estão mesmo a fazer. (…) Faço um post, procuro alguns produtos, ‘eu sei o que lhes estou a dar’, sinto que estou a controlar esta troca. Dou-lhes um bocadinho de dados, recebo esta funcionalidade ou serviço de forma gratuita, supostamente, e isso é uma troca razoável que estou disposta a fazer”, explica. Mas o que verdadeiramente acontece, avisa, vai muito mais longe. “Não se trata do que publicamos, mas da forma como o fazemos. Usa pontos de exclamação? Usa uma lista por pontos? Se está a organizar um jantar com amigos, escreve ‘Vejo-te mais logo’, ‘vejo-te logo à noite’ ou ‘vejo-te às 20h30’? Isso são os metadados. Quando conseguem apanhar as suas fotografias no Facebook, não é simplesmente para etiquetar ‘Este é o Pedro’. Não, eles querem apanhar as microexpressões da sua cara. As microexpressões são formadas por centenas de pequenos músculos faciais. Se conseguirem apanhar as suas microexpressões, conseguem prever o seu estado emocional. E o seu estado emocional é o melhor preditor do seu comportamento.”

Se o capitalismo industrial comprometeu a natureza de forma perigosa, que catástrofe desencadeará o capitalismo da vigilância na natureza humana? Shoshana Zuboff

Um documento interno do Facebook pormenorizou como o seu sistema de inteligência artificial “recebe biliões de dados todos os dias, tirados da nossa experiência, para computar seis milhões de previsões de comportamento de pessoas por segundo. Estas previsões são agrupadas em produtos preditivos e vendidos a clientes em mercados publicitários e outros — saúde, seguros, entre outros”.

Em 2019, a Amazon anunciou que o seu software de reconhecimento facial conseguia reconhecer o medo — uma emoção que se junta a outras sete que o Rekognition conseguia então identificar. A professora de Harvard indigna-se: “Digo isto à Amazon: não vos dou o direito de conhecer o meu medo ou a minha felicidade, raiva, depressão ou qualquer coisa que consigam ler na minha cara. Não vos dou esse direito.”

Como manipular

Outro documento interno do Facebook, produzido por executivos da rede social na Austrália e divulgado pelo jornal Australian, em 2017, mostrou que a empresa de Mark Zuckerberg comunicou a anunciantes ter a capacidade de identificar quando os adolescentes se sentem “inseguros”, “sem valor” ou a “precisar de uma injecção de confiança”. Como? Monitorizando posts e fotografias em tempo real para determinar se os jovens se sentem “stressados”, “derrotados”, “patetas” ou um “falhanço”, entre outros estados emocionais. “Os jovens passam por ciclos. Tornam-se mais ansiosos antes do fim-de-semana por causa da pressão social” e essa pode ser a altura ideal para vender, por exemplo, um casaco de pele preto, uma roupa “sexy que aumenta a confiança”. O Facebook negou a notícia do Australian, classificando-a como sensacionalista. Mas um ex-gestor de produto do Facebook escreveu no Guardian que estas práticas são rotina, acusando a empresa de “mentir com quantos dentes tem na boca”.

Esta transformação em “arma” do gigantesco manancial de dados sobre nós pode ter repercussões políticas e sociais de grande dimensão. Assim terá sido com o uso do Facebook por parte da campanha de Donald Trump nas eleições presidenciais de 2016. Uma investigação do canal de televisão britânico Channel 4 revelou que a campanha do republicano comprou dados de quase 200 milhões de utilizadores do Facebook. “Puderam analisar perfis políticos, sexuais, de personalidade, interesses, preocupações, vulnerabilidades, medos”, critica Zuboff. A mesma reportagem do Channel 4 mostrou uma eleitora do estado do Wisconsin a reagir à quantidade de informação que o Facebook reunira sobre ela. “Quem sabe isto?”, espantou-se.

Com estes dados, a campanha de Trump conseguiu segmentar 3,5 milhões de afro-americanos como eleitores que importava dissuadir de votar em Hillary Clinton, através de publicações personalizadas no Facebook. Não era preciso votar Trump, bastava não votar. “Para quem fazia parte da intelligentsia, diziam: ‘Os líderes negros afirmam que a melhor forma de mostrar resistência nesta eleição é não votar.’ Se alguém estava preocupado com a juventude negra, mostravam um vídeo falso de Hillary Clinton a dizer coisas horríveis sobre a juventude negra”, exemplifica.

O algoritmo, a lógica e as capacidades de recolha de dados do Facebook poderão ter contribuído para que o voto negro tivesse a maior queda já registada, cerca de 7%. “Cidadãos americanos desistiram voluntariamente do seu poder mais sagrado, o direito ao voto, e fizeram-no sem que ninguém apontasse uma arma às suas cabeças. Fizeram-no sem qualquer ameaça de serem enviados para o gulag ou um campo de concentração. Fizeram-no apenas sendo bombardeados pela banalidade das comunicações digitais.”

A campanha de Trump (e outras, como a pró-“Brexit”) teve sucesso, porque explorou o modo de funcionar do Facebook. Para Zuboff, o mal é estrutural e reproduz-se diariamente, a cada post inflamado, a cada mentira, a cada partilha — no Facebook e noutras “estradas” digitais. “As nossas vidas são cada vez mais — e neste momento quase inteiramente — mediadas por informação. Todas as estradas para a participação social e económica levam-nos para espaços de informação e comunicação totalmente detidos e operados por capitalistas da vigilância”, descreve. Nestes espaços, notícias verdadeiras competem com desinformação e os posts polarizadores têm fortes hipóteses de sucesso. Em suma, “quanto mais corrupta a informação, maior o fluxo de receitas”. E “nenhuma democracia pode sobreviver num mundo onde a integridade da informação é sistematicamente diminuída”. Não é por acaso, tem argumentado, que as duas décadas de capitalismo da vigilância sejam marcadas por retrocessos da democracia em vários países.

Como foi possível?

No livro, Shoshana Zuboff pergunta: como foi possível que os capitalistas da vigilância “tenham agido impunemente?” Replicar o sucesso da Google — recorde-se do crescimento de 3590% nas receitas publicitárias em quatro anos — inspirou outras tecnológicas. Do lado dos consumidores misturaram-se a “ausência de precedentes” numa “invasão” tão grande da sua privacidade, a dependência destes serviços, muitos deles gratuitos, e a sensação de que não há alternativas à morte da privacidade na era digital.

O contexto político fez o resto: o arranque do capitalismo da vigilância coincidiu com o rescaldo dos atentados de 11 de Setembro de 2001 e os governos dos Estados Unidos e de outros países viram nos dados recolhidos pelas empresas de Internet uma oportunidade para vigiar potenciais terroristas e evitar outros ataques.

As microexpressões são formadas por centenas de pequenos músculos faciais. Se conseguirem apanhar as suas microexpressões, conseguem prever o seu estado emocional. E o seu estado emocional é o melhor preditor do seu comportamento. Shoshana Zuboff

Essa “excepção da vigilância”, diz a professora ao PÚBLICO, “criou um vazio: quando entrámos no século digital, as democracias deviam ter pensado como criar uma visão, quais eram as cartas de direitos de que precisávamos, que leis e novos tipos de instituições públicas eram necessários para garantir que as capacidades de vigilância do digital eram restringidas ou proibidas em prol da democratização, das oportunidades de aprendizagem e de todas as formas em que o conhecimento desenvolvido pelos meios digitais pode melhorar as nossas vidas e sociedades, ajudando-nos a resolver problemas globais partilhados — das doenças ao clima”.

“Um mundo sem escapatórias”

As democracias não o fizeram. Mas ainda há tempo, acredita Zuboff. Os últimos anos deram razões aos activistas para sorrirem — ela fala numa “viragem”. Os cidadãos acordaram, os governos também; os abusos da recolha de dados pessoais e os malefícios das redes sociais tornaram-se assuntos quotidianos. O primeiro grande golpe foi o escândalo Cambridge Analytica. O papel do Facebook nas eleições que fizeram de Trump Presidente dos EUA ajudou ao que Zuboff classifica como a “completa ruptura da fé” nestas empresas. No ano passado, as revelações de denunciantes como Frances Haugen, ex-gestora de produto do grupo Facebook (agora Meta), só aumentaram a desconfiança em Zuckerberg e companhia.

“A Europa está na liderança, mas vemos agora os legisladores americanos a mudar [de opinião sobre estas empresas]. Parte disso deve-se ao facto de o público americano ter começado a mudar [de opinião]”, observa. Acredita que a pandemia só piorou esse divórcio: “Nos confinamentos, tornámo-nos mais e mais dependentes dos serviços destas empresas e ficámos mais zangados, revoltados e indignados, mais chocados com o quão audaciosos eles foram a invadir as nossas vidas, a vigiar-nos, a tirar os nossos dados para seu benefício.”

As apps são as mulas da economia da vigilância e transportam dados dos telefones e computadores, esvaziando os alforges com dados nos servidores da Google, do Facebook, de ad tech e tudo o resto Shoshana Zuboff

Para Shoshana Zuboff, o Metaverse do Facebook, anunciado em 2021, um ano difícil para Zuckerberg devido a Haugen e a vários outros problemas, é uma “fuga para a frente”, algo que ainda não é muito bem compreendido e que talvez possa escapar ao controlo dos legisladores. O Metaverse promete usar realidades aumentada e virtual para fundir ainda mais a vida de carne e osso com a Internet, algo que Zuboff lê como mais um passo no sentido de extrair dados aos utilizadores “24 horas por dia, sete dias por semana”. Na verdade, argumenta, os capitalistas da vigilância “querem tudo, em todo o lado. E o que querem agora queriam há cinco anos e há dez anos. O que muda é a sua capacidade tecnológica para, de facto, conseguirem apreender tudo, em todo o lado”.

Nos últimos anos, o Facebook investiu, por exemplo, numa interface que transforma sinais do cérebro em instruções num computador. “Isso seria uma função-chave no Metaverse. Com os wearables [roupas ou acessórios ligados à Net, como smartwatches com GPS ou óculos de sol com câmaras integradas] usados por toda a gente, serão capazes de ler movimentos dos dedos, que dão intencionalidade, e sinais cerebrais, que dão linguagem. Conseguirão conhecer-nos ainda mais profundamente do que já conhecem, colonizar os nossos espaços interiores, onde ainda conseguimos um pouco de refúgio”, critica.

Eis a distopia, segundo Zuboff: “Um mundo sem escapatórias”, nem sequer “a privacidade das nossas mentes e pensamentos”, que sempre foi um “santuário”. Eis “a fronteira final: deixar de haver interior”.

Estudos sobre a relação entre redes sociais e saúde mental, nomeadamente dos adolescentes, apontam nesse sentido, alerta. Ao estarem sempre online, os jovens nunca deixam as suas personas — nem no quarto, que antes era um espaço inviolável, um “santuário”. Ao estarem sempre a olhar para o espelho (nos seus posts) ou para o espelho dos outros (nos posts dos colegas), “retardam” a entrada na idade adulta. “Estar nas redes sociais é mau para a saúde dos jovens, especialmente a mental, porque não os deixa pôr fim à fome pelo reconhecimento e pela aprovação dos outros”, sublinha.

Em 2021, documentos relevados por Frances Haugen mostraram que o grupo Facebook conhecia o impacto do Instagram na saúde mental dos adolescentes, mas não tomou medidas substanciais para o reduzir ou evitar. “Claro que sabia! Sempre soube!”, critica Zuboff, mas “a saúde mental dos jovens é má para o negócio”.

Proibir o capitalismo da vigilância

As big tech movem-se rapidamente. Um dos lemas do Facebook é “avançar rapidamente e partir coisas”. Em 2011, Eric Schmidt, da Google, prometeu: “Andaremos mais rapidamente do que qualquer governo.”

Zuboff acredita, porém, que algo mudou nos últimos anos. Foca-se em Mark Zuckerberg, que tem sido o seu principal alvo. O fundador do Facebook vive um momento “muito complicado”. Na União Europeia, nos Estados Unidos e noutros países, os políticos despertaram para o assunto e preparam legislação que proteja os cidadãos. A Apple tornou-se “uma ameaça existencial” para o Facebook: em Abril de 2021, o sistema operativo iOS passou a impedir que apps recolham dados sem pedir autorização aos utilizadores. Segundo o Financial Times, esta funcionalidade terá custado ao Facebook, YouTube, Twitter e outras apps qualquer coisa como 9 mil milhões de euros em receitas na segunda metade de 2021.

Já depois do anúncio do Metaverse e das revelações de Frances Haugen, os utilizadores do Yahoo Finance elegeram a Facebook como a pior empresa de 2021. “A única coisa na América menos popular do que Mark Zuckerberg é a indústria do tabaco. Ambas matam pessoas. O Facebook mata, a indústria do tabaco também.”

“Estou muito entusiasmada com o ponto em que a União Europeia se encontra agora, porque está a avançar com dois grandes programas legislativos: a Lei dos Serviços Digitais e a Lei dos Mercados Digitais”, diz. “Não são as soluções para tudo o que falámos, mas são um início muito importante, porque afirmam que o digital existe num Estado de direito e sob a governança da democracia”, elogia.

Todas as estradas para a participação social e económica levam-nos para espaços de informação e comunicação totalmente detidos e operados por capitalistas da vigilância. Shoshana Zuboff

A Comissão Europeia avançou com regras que proíbem a publicidade política personalizada, o que permitirá impedir práticas como as que foram usadas pelas campanhas de Trump e do “Brexit”. Esta semana, em França, a Comissão Nacional de Informática e das Liberdades multou a Google e o Facebook em 150 e 60 milhões de euros, respectivamente, pelas suas práticas de cookies, usados para publicidade dirigida ao utilizador. Google, Facebook e YouTube não permitem recusar cookies “de forma tão simples” como aceitá-los, o que “viola a liberdade de consentimento”, justificou aquela entidade.

Zuboff acredita que é possível proibir totalmente o capitalismo da vigilância. “Foi montado por pessoas, pode ser desmontado por pessoas”, lembra. Como? Tornando ilegal a maquinaria que sorve e processa os nossos dados para fins comerciais. “Houve um tempo, há 100 anos, em que os donos das indústrias tinham todos os direitos e os trabalhadores nenhum. Pessoas como eu e você estavam a ter estas conversas: como vamos conseguir que os trabalhadores tenham direitos? Mas conseguimos! Houve um tempo em que achámos que era inevitável, que eles teriam todo o poder e nós nenhum, que o seu poder era tão grande que não poderia ser contestado. Dizia-se que as fábricas tinham de estar sempre a funcionar, porque essa era a única forma de o capitalismo ser bem sucedido, mas, afinal, isso não era verdade. Podia haver leis e regras que protegiam os trabalhadores, fixavam quanto tempo trabalhavam, que previam o pagamento de horas extraordinárias, a definição de condições de trabalho, o direito a juntar-se a um sindicato, o direito à acção colectiva. Criou-se legislação e direitos para isso, criaram-se instituições de supervisão. Já estivemos neste sítio, quando sentíamos que não havia esperança, e, ainda assim, triunfámos.”

---

Gosta da Estátua de Sal? Click aqui.