Papa alerta para ‘perigos da IA’ e critica ‘falta de transparência’ na criação dos algoritmos

O papa Leão 14 voltou a alertar neste sábado(24) para os 'perigos da inteligência artificial (IA)' e a 'falta de transparência' na criação dos algoritmos que regulam o funcionamento dos chatbots.

“São sobretudo os chatbots baseados em grandes modelos de linguagem (LLM, na sigla em inglês)”, como o ChatGPT ou o Gemini, “os que se mostram especialmente eficazes na persuasão oculta”, denunciou o papa americano.

Desde sua eleição em maio, Leão 14 não tem deixado de alertar para os perigos da IA.

“Os modelos de IA são moldados pela visão de mundo de quem os constrói e, por sua vez, podem impor modos de pensar ao reproduzir os estereótipos e preconceitos presentes nos dados que utilizam”, escreveu o pontífice em uma mensagem por ocasião do Dia Mundial das Comunicações Sociais.

Também denunciou os “sistemas que vendem uma probabilidade estatística” — feita por IA — “como conhecimento, oferecendo, no máximo, aproximações”.

Leão 14 também manifestou preocupação com o fato de que “por trás dessa enorme força invisível que afeta a todos, haja apenas algumas empresas”.

“O desafio que enfrentamos não é deter a inovação digital, mas governá-la, estarmos conscientes do seu caráter ambivalente”, afirmou.

Para alcançar esse resultado, o papa recomendou “introduzir nos sistemas educativos de todos os níveis” uma orientação para os meios de comunicação e para a inteligência artificial.

“A revolução digital exige uma alfabetização digital (...) para compreender como os algoritmos moldam a nossa percepção da realidade”, prosseguiu.

Há um mês, Leão 14 criticou a corrida pela IA no âmbito militar e afirmou que “delegar às máquinas decisões sobre a vida e a morte das pessoas” constitui uma “espiral destrutiva”.