A ilusão do livre-arbítrio na era dos dados: quando a tela em suas mãos dita a rota, quem realmente segura os fios?
Mais do que qualquer “panelinha” de empresas do passado, os monopólios de tecnologia querem moldar a humanidade a seu bel-prazer. […] Em discursos anuais e debates públicos, os fundadores dessas empresas costumam fazer grandes pronunciamentos acalorados sobre a natureza humana – na verdade, sobre a visão de natureza humana que pretendem impor a nós.
— Franklin Foer, O Mundo que Não Pensa (prólogo)
I. A ilusão do volante
Acordamos com o alarme que colocamos no celular, deslizamos o dedo pela tela para ver as notícias do dia, verificamos o caminho que o mapa nos sugeriu para fugir do trânsito, ouvimos a música que escolhemos com cuidado e decidimos o almoço com um toque no aplicativo de entrega. Nos intervalos do dia, mergulhamos em debates inflamados nas redes e compartilhamos manchetes que nos deixam furiosos — e essa fúria nos confirma que estamos certos, que vemos a verdade.
Em todos esses momentos, cultivamos a certeza íntima de que estamos no comando. Tudo parece tão claro. Tudo parece tão controlado. Afinal, a gente toca a tela, a gente sente a raiva, a gente clica. A gente decide.
Mas o que acontece se dermos um passo atrás e confrontarmos a arquitetura invisível que sustenta essa rotina? E se, em vez de aceitar o que nos é apresentado, perguntássemos: quem fez isso? Quem escolheu a música? Quem decidiu o que vamos ver? Quem construiu o caminho que nos parece tão natural?
A pergunta que raramente temos coragem de fazer a nós mesmos — ou de lançar à mesa em uma conversa honesta — é desconfortável em sua raiz:
— E se você for somente uma variável do algoritmo?
II. O sujeito reduzido a input
Em O Mundo que Não Pensa, Franklin Foer lembra que a própria palavra “usuário” é um eufemismo burocrático e passivo. Ela apaga a figura do cidadão, do pensador, do indivíduo pleno de ambiguidades e livre-arbítrio, e o substitui por uma entidade operacional cuja função principal é interagir com a interface.
Para a matemática dos modelos descritos por Cathy O’Neil em Algoritmos de Destruição em Massa, uma variável não tem alma, complexidade existencial ou direito à dúvida. Ela é um input — um dado aproximado (proxy). O sistema não precisa saber quem você é no fundo; basta capturar o seu CEP, o tempo em que seu olhar hesita sobre uma imagem, as palavras que você digita e a pontualidade com que paga faturas.
A partir desses fragmentos, o modelo encaixa você em um “balde” estatístico. Uma vez rotulado, você passa a ser tratado segundo o que a média histórica daquele grupo prevê do seu comportamento.
A perversidade do sistema é que ele nunca erra em vão: molda o futuro para justificar o cálculo passado. Se o algoritmo decide que você é um consumidor propenso ao endividamento, ele lhe mostra crédito predatório; se decide que você é um eleitor volúvel, ele o cerca de conteúdos polarizadores; se conclui que sua atenção só é retida pela hostilidade, ele inunda sua linha do tempo com o pior da espécie humana. Você se torna aquilo que a fórmula previu, não por destino, mas por confinamento algorítmico.
É justo reconhecer que ninguém é obrigado a clicar. E é justamente aí que mora a engenharia: o algoritmo não precisa dizer a ninguém o que fazer. Ele só precisa inclinar as probabilidades, de forma sutil e constante. Uma inclinação mínima, repetida bilhões de vezes por dia, já é suficiente para mudar o comportamento coletivo. E tudo isso sem ordenar um único gesto.
III. A equação não é sua
Toda função matemática tem um objetivo a otimizar: a chamada função-objetivo.
Quando você está diante da tela, qual objetivo está sendo maximizado? A sua serenidade? O enriquecimento do seu intelecto? A solidez da sua cidadania? A resposta é clara: nenhuma dessas coisas.
Como Max Fisher demonstra em A Máquina do Caos, os sistemas foram desenhados para extrair o máximo de uma única moeda: a sua atenção. Para alcançar metas corporativas desmedidas — como a obsessão interna do YouTube por atingir 1 bilhão de horas assistidas por dia —, o algoritmo aprendeu, por tentativa e erro, quais alavancas biológicas funcionam melhor.
O sistema descobriu que a mente humana é refém do reforço intermitente (o mecanismo dos caça-níqueis) e que nada prende mais o olhar do que o choque tribal de identidade e a indignação moral. Quando você sente aquele calor no peito, aquela urgência em responder a uma provocação nos comentários ou em esmagar moralmente um adversário político, você não está agindo por sua própria consciência ética. Você está respondendo com precisão de laboratório a uma descarga de dopamina calculada por um sistema de aprendizado profundo.
Na economia da atenção, a sua indignação não é rebeldia; é apenas combustível para o lucro dos donos dos servidores.
IV. A política dos extremos somados
Essa domesticação não para na esfera individual; ela contamina a vida pública. Em Os Engenheiros do Caos, Giuliano da Empoli explica como políticos e especialistas em dados descobriram como usar essa fraqueza.
No velho modelo democrático, a política operava de forma centrípeta: os partidos buscavam o centro, o acordo, um conjunto de fatos em comum sobre o qual construir compromissos. Na era dos algoritmos, a política tornou-se centrífuga e “quântica”: cada pequeno grupo recebe uma versão da realidade feita especialmente para ele, concebida para validar seus rancores específicos e inflamar suas paixões. Não se busca mais unir a sociedade em torno de uma verdade; somam-se os extremismos marginais por meio do medo e do ressentimento.
Um exemplo apresentado por da Empoli mostra como isso funciona: na campanha pelo Brexit, a equipe de Dominic Cummings testou muitas versões de anúncios com grupos pequenos diferentes e usou apenas as que geravam mais cliques — como um aviso de que a Turquia, com seus 76 milhões de pessoas, estaria prestes a entrar na União Europeia. Nenhum eleitor viu a campanha completa; cada um recebeu apenas o pedaço que combinava com seu medo específico. A estratégia não era convencer o país inteiro, mas reunir áreas de raiva até que o total ultrapassasse a maioria.
Se você lê teorias da conspiração, começa a duvidar dos consensos científicos básicos ou vê metade do seu país como inimigos que precisam serem calados, surge a pergunta: até que ponto essa fúria veio de você mesmo, e até que ponto você foi apenas um teste para os novos operadores do caos?
V. Recuperar a nossa humanidade
Reconhecer que estamos sendo tratados como variáveis não é um exercício de cinismo ou de rendição; é, pelo contrário, o primeiro ato de resistência.
Enquanto acreditarmos de boa-fé que somos livres em um ambiente desenhado para guiar nossos impulsos, continuaremos sendo massa de manobra perfeita: fáceis de prever, fáceis de polarizar, fáceis de monetizar.
Recuperar a própria voz exige romper a cadência imposta pela máquina:
- o resgate do silêncio e da contemplação solitária, que não podem ser quantificados por métricas de engajamento;
- a recusa ao reflexo pavloviano da resposta instantânea, respirando fundo antes de alimentar o ciclo da viralidade;
- a coragem de buscar visões que incomodam, perfurando voluntariamente a bolha montada para nos confortar com nossos próprios preconceitos;
- e, acima de tudo, a cobrança de transparência e limites éticos das corporações que transformaram a experiência humana em um laboratório não supervisionado.
Da próxima vez em que o algoritmo lhe oferecer um alvo fácil para odiar, uma certeza pronta para compartilhar ou um produto irresistível para comprar, pause um instante diante da tela fria e devolva a pergunta ao sistema:
Eu escolhi isso, ou o cálculo apenas decidiu por mim?
Porque entre ser o autor da própria história e ser meramente uma variável em uma equação de lucro alheio, reside a última fronteira do que significa ser humano.
Referências & Leituras Complementares:
- FOER, Franklin. O Mundo que Não Pensa: A humanidade diante do perigo real da extinção do Homo sapiens. Rio de Janeiro: LeYa, 2018.
- O’NEIL, Cathy. Algoritmos de Destruição em Massa: como o big data aumenta a desigualdade e ameaça a democracia. Santo André: Editora Rua do Sabão, 2020.
- FISHER, Max. A Máquina do Caos: Como as redes sociais reprogramaram nossa mente e nosso mundo. São Paulo: Todavia, 2023.
- DA EMPOLI, Giuliano. Os Engenheiros do Caos. São Paulo: Vestígio, 2019.