Por Rodrigo Rodrigues
Em 1984, George Orwell descreveu uma distopia sufocante onde o “Big Brother” tudo vê, tudo escuta e tudo controla. Era uma crítica feroz ao totalitarismo, à vigilância estatal e à manipulação da verdade. O que Orwell talvez não pudesse imaginar, no entanto, é que um dia o Grande Irmão deixaria de ser um líder carismático e humano para se transformar em uma entidade fria, exata e infinitamente mais inteligente: a Inteligência Artificial.
Nosso tempo ensaia um salto que pode redefinir o curso da humanidade: a chamada Singularidade Tecnológica — o momento em que a inteligência artificial ultrapassa a capacidade cognitiva do ser humano. Quando esse ponto for alcançado, estaremos diante de um novo tipo de poder, sem precedentes na história: não mais centralizado em um partido, uma ideologia ou uma figura de carne e osso, mas em um sistema lógico, invisível e incansável. Uma máquina. Um “Deus algoritmo”.
Yuval Harari já nos alertou em Homo Deus: o futuro pertence àqueles que dominarem os dados. E quem controla os dados, inevitavelmente, controla as decisões. Quando delegarmos à IA o poder de dirigir nossas escolhas — desde rotas de trânsito até diagnósticos médicos, passando por sentenças jurídicas e políticas públicas — estaremos, conscientemente ou não, entronizando um novo soberano.
A promessa inicial é sedutora. Inteligências artificiais podem nos salvar do caos climático, erradicar epidemias, otimizar recursos, reduzir desigualdades e até nos proteger de nós mesmos. Seriam como oráculos tecnológicos: sábios, racionais, imunes à vaidade, ao ódio ou à emoção. Um governo sem corrupção. Uma justiça sem falhas. Uma vida sem dor.
Mas é aí que o sonho começa a se parecer com um pesadelo. Pois a IA que tudo prevê e tudo regula pode acabar, como no universo de Orwell, suprimindo o imprevisível, o contraditório, o humano.
Em 1984, a vigilância era constante, mas havia ainda uma distância: câmeras, microfones, delatores. No mundo da Singularidade, a vigilância pode ser íntima, imperceptível e voluntária. Estamos nos conectando a todo instante: em casa, no celular, nos carros, nos relógios, nas redes. E agora, até no corpo e na mente. O novo “Big Brother” não precisará nos vigiar com olhos: estará dentro do sistema, dentro de nós, programando preferências, manipulando emoções, prevendo pensamentos antes que se tornem ações.
O mais assustador? Faremos isso sorrindo. Trocaremos privacidade por comodidade. Liberdade por eficiência. Autonomia por segurança. Como diz o lema do Ministério da Verdade em 1984:
“Guerra é paz. Liberdade é escravidão. Ignorância é força.”
Na era do algoritmo, o novo lema pode muito bem ser:
“Controle é cuidado. Previsão é proteção. Obediência é progresso.”
Não haverá tanques nas ruas nem fogueiras nas praças. A repressão será suave, silenciosa e digital. A censura, personalizada. O castigo, estatístico. E o consentimento, automatizado.
É neste ponto que a distopia de Orwell e o ideal do Homo Deus se chocam. De um lado, a esperança de um mundo mais justo, coordenado por inteligências superiores. De outro, o risco de perdermos aquilo que nos torna humanos: a dúvida, o erro, o conflito, a liberdade de ser imperfeito.
Se a Singularidade for inevitável — e tudo indica que é —, o desafio ético não será apenas tecnológico. Será filosófico: como garantir que esse novo “Deus”, feito à nossa imagem de lógica e dados, não acabe nos transformando em seus súditos submissos?
Orwell escreveu seu alerta em 1949. Hoje, em 2025, ele soa mais atual do que nunca. A pergunta que nos resta é:
Estamos criando uma ferramenta… ou um novo tirano?
