Grupo de países quer criar um órgão de supervisão global da IA

Um documento publicado pelo site Politico e subscrito por 22 países, entre os quais Alemanha, Espanha e a própria Comissão Europeia, apresenta a criação de um órgão de supervisão global e a necessidade de manter a Inteligência Artificial (IA) sob direção, supervisão e controle humanos.

Entretanto, o texto não cita abrandar o desenvolvimento da IA, que vem sendo defendida em várias instâncias globais. Os próprios signatários do documento que pedem maior controle da IA rejeitam a tese de uma desaceleração da investigação e desenvolvimento dos modelos avançados. Eles indicam o uso de uma forte mão humana nas rédeas dos programas e a criação de um organismo global que exerça a supervisão, similar a Agência Internacional de Energia Atômica, que controla e promove o uso seguro e pacífico desta tecnologia.

"A inteligência artificial é uma tecnologia extremamente poderosa. Tem potencial para melhorar vidas, avançar na ciência e fortalecer as nossas economias, vantagens que, vêm juntas num pacote com riscos sérios para a segurança se não for gerida adequadamente”, aponta o documento.

Ausência dos atores principais da IA

Além disso, o conjunto de diretivas do documento não tem no grupo de signatários os principais protagonistas da IA: Estados Unidos e China. A corrida é dominada por Pequim e Washington, mesmo que os dois gigantes tecnológicos mantenham ideologias distintas – e muitas das vezes opostas – neste setor.

O documento ainda tem lacunas importantes, como o Reino Unido, França e Itália, que também não assinaram a proposta avançada à margem da reunião que acontece na Assembleia Geral da ONU.

Os organizadores indicam que o documento permanece aberto a novas adesões. Em entrevista ao site Politico, o presidente da Finlândia, Alexander Stubb, um dos principais organizadores, considera que será do interesse dos EUA e da China ter algum tipo de barreira de segurança. “E a nossa mensagem aqui é que precisamos de intervenção humana, por isso os humanos têm de estar no comando”, frisou.

Stubb assinalou as três principais premissas do documento:

As empresas devem desenvolver protocolos de segurança transparentes, incluindo testes obrigatórios antes do lançamento e avaliação independente, com avaliadores qualificados tendo acesso suficiente para analisar os riscos;

Os governos e organizações regionais devem desenvolver e coordenar padrões comuns, reforçar a transparência — incluindo a partilha de relatórios sobre incidentes graves de segurança — e garantir que países de todas as regiões tenham acesso a capacidades científicas, conhecimento especializado e avaliação confiável;

Os Estados membros da ONU devem se basear nos mecanismos internacionais existentes e explorar a criação de uma instituição internacional, capaz de definir padrões, permitir a verificação e reunir os Estados quando os limiares de capacidade forem ultrapassados.