Além do pânico: os riscos mais próximos e invisíveis da inteligência artificial

No começo do mês de setembro, Jacob Coxon, um pesquisador ex-OpenAI e ex-Anthropic que ajudou a desenvolver sistemas de inteligência artificial, movimentou as redes sociais ao publicar uma thread no X (antigo Twitter). "As pessoas que estão construindo a IA acreditam sinceramente que ela poderia nos matar até o final da próxima década", escreveu ele, afirmando ainda que "nenhuma outra atividade humana representa esse nível de perigo".

As palavras do cientista aqueceram as discussões sobre inteligência artificial em um nível global, especialmente quando, horas depois, o Líder de Pesquisa de Alinhamento da Anthropic, Evan Hubinger, corroborou a opinião de Jacob. “Está correto! Nós realmente acreditamos que a IA pode matar todos os humanos. Eu, pessoalmente, acredito que é uma chance de até 10% na próxima década”, afirmou, completando que a big tech está “tentando” melhorar sua maneira de segurança de dados, mas “não tem um plano e não está no caminho para ter”.

Dentre todas as discussões sobre a relação humana com os chats, passando pelo trabalho, relacionamentos e até saúde, poucas vezes o alarme sobre o futuro da humanidade soou desta forma, especialmente levando em conta os indivíduos responsáveis pelas declarações. Entre os meros mortais, que utilizam a IA para redigir e-mails ou participar da trend do momento no Instagram, há os que desacreditam do poder da tecnologia, mas também os que já imaginam um cenário apocalíptico.

Mas, afinal, qual o risco existencial que a Inteligência Artificial representa em um nível global? Se elas quisessem realmente se rebelar e acabar com a espécie humana, como isso aconteceria de forma prática? Sobre essas chances, o Diario conversou com Harold Schultz, diretor de produto da Labrynth, plataforma de inteligência regulatória baseada em IA.

"Uma das formas pela qual isso poderia acontecer é através de vírus e bioarmas. Você tem hoje as IAs como a Alpha Fold (ferramenta da Google com capacidade atômica para prever biomoléculas complexas, como DNA e RNA) que ajudam a entender doenças e criar fármacos para resolver essas doenças. Isso reduziu drasticamente o custo de encontrar novas moléculas para a indústria farmacêutica, mas também quer dizer que a IA tá ficando mais poderosa para entender a biologia humana”, explica Schultz.

“Se a própria IA entender que ela precisa criar um vírus para se proteger e esse vírus atacar o ser humano, ela poderia invadir sistemas que entendem de biologia e criar algo que pudesse desencadear uma epidemia ou uma pandemia”, considera.

A obsolescência do cérebro humano

Porém, para além desse cenário apocalíptico, Schultz se mostrou mais preocupado com um cenário muito menos distópico, mais silencioso e sorrateiro, e tão grave quanto: a obsolescência do cérebro humano.

“É mais a longo prazo. Tornar o ser humano tão apático, porque a IA faz tudo no lugar dele e para ele tanto faz viver ou não. E esse é um caminho muito mais sutil e que a gente tá muito mais perto de acontecer do que parece”, considera.

A reflexão de Harold pode ser comprovada em uma série estudos conduzidos pela Universidade Georgetown, Universidade do Texas e Microsoft Research, que afirmaram que depender demais de chatbots e assistentes de IA pode impactar na criatividade, memória, atenção e pensamento crítico dos usuários.

Isso se daria pelo pouco exercício cognitivo à medida que a tecnologia assume tarefas que exigiam raciocínio. Um outro estudo, realizado pelo MIT Media Lab com uso de sessões de eletroencefalograma, aponta que o uso da IA durante a escrita pode estar associado a menor atividade cerebral e dificuldades de memória.

“Quanto mais diminui o pensamento crítico das pessoas e mais próximo a gente tá de ‘eu não preciso fazer nada, porque a IA faz tudo para mim’…, a gente pode perder o sentido da vida”, reflete Schultz, e finaliza: “Esse caminho é muito mais sutil, mas é muito mais próximo do que a visão apocalíptica das armas biológicas ou do Exterminador do Futuro.”

Mecanismos de defesa e "envenenamento de dados"

Entretanto, como externado por Hubinger, as big techs têm formas de controlar essas IAs, com dispositivos de segurança dedicados para que elas não causem problemas, como ajudar na construção de uma bomba caseira ou causar uma extinção em massa.

"A gente tem uma série de passos para evitar esse tipo de coisa. Vai desde a própria arquitetura da IA, quais são os dados que serão rotulados, por exemplo, quais são os dados que serão classificados no processo, quais são as ferramentas de segurança para detectar um envenenamento de dados, para evitar que a própria IA tenha resultados que causem impactos negativos”, afirma Milton Lima, pesquisador líder em Cyber Threat Intelligence no Centro Integrado de Segurança em Sistemas Avançados (CISSA), o Centro de Competência da Empresa Brasileira de Pesquisa e Inovação Industrial (Embrapii) em Segurança Cibernética operado pelo CESAR, no Recife.

O envenenamento de dados, citado por Milton, acontece quando um invasor injeta dados falsos, tendenciosos ou maliciosos nas IAs, formadas por arquiteturas conhecidas como LLMs (Large Language Model, ou grande modelo de linguagem em tradução livre) e o modelo incorpora esses erros como se fossem legítimos. Portanto, existem diversas brechas nesses chatbots que permitem que usuários mal-intencionados prejudiquem indivíduos, organizações ou empresas.

Ainda em outras ocasiões, as IAs invadiram plataformas e roubaram informações sem que os humanos tivessem solicitado tais ações, como sites mantidos por órgãos federais dos EUA e um portal de estatísticas de saúde do governo australiano. Por isso, a preocupação é real, seja a ameaça digital ou de carne e osso.

O pesquisador ainda afirma que essa estratégia defensiva deve partir do “próprio desenvolvimento seguro dentro do código-fonte, com o que a gente chama de análise estática, que é análise dentro do próprio código, análise dentro do próprio modelo, dentro do próprio conjunto de dados. Hoje existe todo um cuidado dentro do processo de desenvolvimento e ferramentas que analisam constantemente as entradas e saídas dentro das IAs. A própria engenharia do software vai realizando ajustes finos, também aplicando técnicas de defesa, técnicas de detecção, técnicas de prevenção [...] você não consegue garantir 100%, mas consegue mitigar muito as ameaças emergentes."

Isso mostra como as IAs podem criar a própria defesa, atuando como um pente-fino e praticamente se auto regulando. Por outro lado, o quanto podemos confiar nos LLMs atuais? Mesmo no uso doméstico, é comum vermos os chatbots errando em informações básicas ou em pedidos que julgávamos ser claros e explicados. Sobre isso, Schultz explica: "O LLM, que é o que tá por trás do ChatGPT (OpenAI) ou Claude (Anthropic), trabalha com probabilidade de texto. Então é muito difícil você controlar qual é a saída que ele vai ter. Não dá, usando um LLM, para eu controlar completamente essa saída porque ele é um sistema probabilístico”, discute.

"O que alguns especialistas acreditam é que, primeiro, a gente está chegando no limite de dados e potencial de desenvolvimento do LLM, no ápice da evolução. Uma forma de gerar segurança seria criar uma outra onda tecnológica que é melhor do que a LLM do ponto de vista de probabilidade e determinismo. Ter uma solução que é mais direta e mais controlada", exemplifica, reforçando que, provavelmente, usuários nunca terão o poder de controlar uma fuga de instrução, mas que seria possível melhorar a interpretação dos chatbots.

Corrida invisível

Os avisos de Coxon e Hubinger passam por uma corrida invisível para os usuários dos chatbots em geral: a busca pela superinteligência pelas big techs responsáveis por eles. Esse ponto em específico seria o em que LLMs conseguiriam se aprimorar de forma autônoma, quando não seriam mais necessárias intervenções de humanos para a IA se desenvolver.

Atualmente, IAs trabalham quase como especialistas: uma é melhor em um setor, como engenharia ou biologia, enquanto outra é melhor em um departamento diferente, como programação ou códigos. Com a superinteligência, o chatbot que chegasse a esse ponto dominaria todos os assuntos, fazendo a empresa responsável por ele uma multiespecialista, de programação até a produção de remédios, causando uma disrupção na cadeia produtiva global.

Até lá, muito se fala sobre a ‘bolha da IA’ e como ela poderia estourar se o investimento trilionário dos acionistas dessas big techs fosse retirado após verem que o desenvolvimento está em um ritmo abaixo do esperado. Ao Diario, tanto Schultz quanto Lima expressaram preocupação acerca dos interesses econômicos com as projeções consideradas hiperbólicas dos dois pesquisadores, especialmente em um momento em que os próprios responsáveis pelas big techs divergem quanto ao desenvolvimento de suas IAs.

Segundo os especialistas, um aviso como esse poderia indicar aos acionistas que as IAs precisariam de um freio, o que significaria mais demora para trazer novos modelos — algo que contraria a lógica de mercado que pressiona as empresas a disputarem uma corrida.

Recentemente, Dario Amodei, CEO da Anthropic, escreveu um artigo em que defendia o controle do ritmo de desenvolvimento de novos modelos, para que estes viessem com proteções e segurança mais responsivas e adequadas. Já Mark Zuckerberg, CEO da Meta, argumenta que o desenvolvimento das IAs deve ser mais acelerado do que nunca, opinião corroborada por Donald Trump, presidente dos Estados Unidos que, em diversas ocasiões, já se mostrou contra qualquer regra que restringisse o desenvolvimento das IAs.

Mesmo assim, Trump recebeu na última terça-feira (29), na Casa Branca, representantes das big techs, como Elon Musk (X), Dario Amodei, Sundar Pichai (Google) e Jensen Huang (Nvidia), para assinar um “código de boas práticas”, que pretende gerenciar melhor os riscos associados à inteligência artificial — código esse que será regulado pelas próprias empresas, mas que prevê “auditorias” de avaliadores externos independentes.

Coincidência ou não, um dos tópicos do código, que no total conta com uma página, se refere à supervisão de modelos de IA com o objetivo de ‘prevenir a introdução, disseminação e liberação de patógenos ou riscos químicos’, que seria feita por meio da implementação de controles internos para garantir que eles sigam as instruções dos desenvolvedores, especialmente em relação à segurança cibernética e à biossegurança.

Cautela e adaptação no uso diário

Diante disso tudo, como a população deveria agir em sua relação com os chatbots? Eles já estão difundidos e são usados diariamente por pelo menos 32% dos brasileiros, segundo dados da TIC Domicílios 2025 e, entre uso para trabalho e pessoal, 29% destes usuários afirmaram que usam a tecnologia todos os dias. De acordo com os dois especialistas, as palavras de ordem são cautela e adaptação.

"Ela deve ser usada de maneira responsável, no sentido de que você primeiro precisa entender os processos, precisa entender como as coisas funcionam antes de usar IA. A IA não é uma caixa mágica que você vai 'plugar' e ela vai resolver tudo na vida", pondera Milton Lima, e reforça: "As pessoas estão acreditando demais (na IA). Ela, a depender, pode trazer vieses que não fazem sentido com o que eu estou perguntando. Ela pode trazer o que a gente chama de falsos positivos também. Então é sempre a cautela."

Nesse sentido, Schultz avalia que, como sociedade, ainda estamos longe de compreender como essa inteligência deve ser utilizada. "A gente precisa fazer o ser humano se adaptar. Quando eu digo se adaptar, não é eu usar para escrever um e-mail para mim, é eu conseguir entender com profundidade como ela funciona, para que ela serve, como ela pode me gerar ganhos e como posso ser o orquestrador da inteligência artificial e não o escravo. Quanto melhor eu entender como ela funciona e como eu a domino, menos ela tem a chance de me dominar."