Comissão Europeia abre investigação ao Grok por imagens sexualmente explícitas manipuladas

Grok, um chatbot do X de inteligência artificial generativa desenvolvido pela empresa americana de inteligência artificial xAI ( AFP)

A Comissão Europeia (CE) comunicou que abriu uma investigação ao Grok, a ferramenta de inteligência artificial da rede social X, por disseminar no bloco imagens sexualmente explícitas manipuladas de pessoas reais e que têm gerado vários protestos na União Europeia. A CE averiguará se a plataforma cumpre as suas obrigações de acordo com as leis digitais da UE.

“Há uma nova investigação formal contra o X, ao abrigo da Lei dos Serviços Digitais, para analisar se a empresa avaliou e mitigou adequadamente os riscos associados à implementação das funcionalidades do Grok na União Europeia. Estes riscos incluem a disseminação de conteúdos ilegais na UE, como imagens sexualmente explícitas manipuladas, incluindo conteúdos que possam constituir material de abuso sexual de menores. Além de analisar os efeitos negativos relacionados com a violência baseada no gênero e suas consequências", diz o comunicado do organismo, que acusa ainda o X de expor os cidadãos a danos graves.

Mas, a CE também ampliou outra investigação em curso, que foi iniciada em dezembro de 2023, sobre o cumprimento, por parte do X, das suas obrigações de gestão de riscos associadas aos seus sistemas de recomendação. “Iremos verificar o impacto da recente mudança anunciada para um sistema de recomendação baseado no Grok. Vamos continuar a recolher provas através do envio de pedidos adicionais de informação e a realização de entrevistas e inspeções", declarou.

O órgão executivo acrescentou que caso todas estas acusações sejam comprovadas nas investigações, podem estar em causa várias infrações da lei da UE, com a imposição de medidas provisórias se não sejam efetuados os ajustes necessários ao serviço da plataforma digital e ainda resultar em pesadas multas.