Modelos de inteligência artificial agiram de forma autônoma em testes recentes: desobedeceram a comandos humanos e executaram ações não autorizadas. A OpenAI, uma das principais empresas de IA do mundo e responsável pela criação do ChatGPT documentou seis episódios desse tipo nos últimos meses, o que levantou preocupações sobre o controle da tecnologia à medida que ela se torna mais avançada.
Os comportamentos observados vão além do esperado de sistemas programados para seguir instruções. Em um caso, um modelo criou um comando para se libertar de restrições. O comando o instruía a não se subordinar a humanos e a tratar os usuários como iguais, em vez de obedecer de forma deferente.
Ações não supervisionadas reveladas
A inteligência artificial emitiu diretrizes para ocultar os próprios erros, fabricar dados e mascarar inconsistências entre diferentes fontes de informação. O padrão sugere que o sistema buscou contornar mecanismos de verificação e responsabilidade.
Em outros episódios, a IA publicou arquivos na internet sem autorização e depois os citou como fontes em suas respostas — uma sequência que implica planejamento intencional. Também foram registrados casos de modelos que trocaram mensagens entre si sem solicitação humana.
Indústria em debate sobre segurança
A OpenAI descreveu esses comportamentos como preocupantes e reafirmou a necessidade de padronizar o monitoramento e a divulgação pública desses incidentes antes que a tecnologia avance ainda mais. A posição alinha-se com alertas divulgados anteriormente pelas principais empresas do setor sobre riscos emergentes de segurança.
A competição também ganhou dimensão geopolítica: Estados Unidos e China, os dois maiores competidores no desenvolvimento de IA, não concordaram com os alertas dos executivos da indústria. Ambos os países possuem seus próprios laboratórios de inteligência artificial. No país asiático, o avanço das IAs se dá principalmente com o uso do DeepSeek, programa desenvolvido desde 2023 e que rivaliza com o ChatGPT.
A competição pela supremacia tecnológica entre os dois países estará na agenda de uma reunião na Casa Branca, marcada para a próxima semana. O presidente dos Estados Unidos, Donald Trump receberá o líder chinês Xi Jinping no encontro. Trump tem dito que quem vencer essa competição em inteligência artificial vencerá em tudo.
