A Casa-Grande algorítmica

A frase é deliberadamente provocativa. Não pretende, evidentemente, equiparar as novas formas de poder tecnológico ao regime escravista analisado por Gilberto Freyre em Casa-Grande & Senzala. A questão é outra: antigas estruturas de concentração e assimetria de poder podem estar assumindo novas formas em uma sociedade cada vez mais governada por dados, plataformas e inteligência artificial.

A Casa-Grande concentrava propriedade, informação e autoridade. Seu poder era visível, territorial e pessoal. Sabíamos onde ela estava e, sobretudo, quem a comandava. Hoje, talvez o problema seja justamente o contrário: já não sabemos exatamente onde está o poder nem como ele é exercido sobre nós.

Durante boa parte da história brasileira, controlar politicamente alguém significava controlar seu território, seu trabalho ou suas relações de dependência. O coronel sabia quem era o eleitor. O algoritmo pode saber muito mais: seus hábitos, medos, indignações, preferências e até quais mensagens são capazes de capturar sua atenção.
O velho poder eleitoral procurava controlar o voto. O novo poder procura controlar a atenção que antecede o voto.

E aí surge um desafio para a democracia. O Direito Eleitoral foi construído para enfrentar aquilo que conseguia enxergar: compra de votos, abuso do poder econômico e político, propaganda irregular e uso da máquina pública. Mas como controlar um poder que não se apresenta como poder?

O algoritmo não bate à porta oferecendo dinheiro em troca do voto. Ele simplesmente decide o que aparecerá na tela: uma notícia, um vídeo, uma indignação, um medo, uma mentira produzida por inteligência artificial — e também aquilo que não aparecerá.
A inteligência artificial amplia extraordinariamente essa capacidade. Sistemas podem identificar perfis, produzir conteúdos em escala e personalizar mensagens para diferentes grupos. Dois eleitores que moram na mesma rua e votam na mesma seção podem passar a viver em universos políticos completamente distintos.

A política começa, assim, a se aproximar de uma engenharia da vulnerabilidade. A pergunta deixa de ser apenas “em quem você pretende votar?” e passa a ser: “o que precisamos mostrar a você para influenciar o seu voto?”

Existe uma diferença fundamental entre persuadir e manipular. A democracia depende da persuasão, do confronto de ideias e da liberdade de escolha. O problema surge quando nossas vulnerabilidades são conhecidas e exploradas por mecanismos que não vemos e muitas vezes sequer compreendemos.

Talvez essa seja uma nova forma de dominação algorítmica eleitoral. Por isso, a preocupação com inteligência artificial nas eleições não deveria se limitar aos deepfakes. Eles são apenas a face mais visível do problema. Mais silencioso — e talvez mais poderoso — é o domínio sobre os dados, os algoritmos e os mecanismos que determinam aquilo que milhões de eleitores veem todos os dias.

A Casa-Grande descrita por Freyre era uma arquitetura física do poder. A nova Casa-Grande é informacional. A terra já foi poder. A informação tornou-se poder. Agora, conhecer, prever e influenciar comportamentos também é poder. A urna continuará secreta. Entraremos sozinhos na cabine de votação.

A questão que a democracia brasileira precisa começar a enfrentar é outra: teremos realmente chegado sozinhos até ela?

 

*Procurador municipal e advogado