Parlamento Europeu proíbe sistemas de IA que geram imagens sexuais

Nesta terça-feira (16), o Parlamento Europeu aprovou a proibição de sistemas de inteligência artificial (IA) que geram imagens sexualmente explícitas, uma medida que ainda terá de ser formalmente adotada pelo Conselho da UE para poder ser aplicada. A medida foi aprovada na sessão plenária do Parlamento com 423 votos a favor, 57 contra e 174 abstenções, e visa alterar determinadas regras atualmente em vigor na lei europeia de IA.

“Caso o Conselho da EU aprove, a lei passará a proibir sistemas de IA que gerem material de abuso sexual infantil ou que criem imagens, vídeos e áudios que representem partes íntimas de uma pessoa identificável, ou atividades sexualmente explícitas, sem o seu consentimento. Os fornecedores não serão autorizados a colocar estes sistemas no mercado da UE, a não ser que disponham de salvaguardas técnicas adequadas para impedir a criação desse material. A proibição se aplica igualmente aos usuários que recorram a esses sistemas para esses fins", diz o comunicado do Parlamento.

A instituição também informou que as empresas têm agora até o dia 02 de dezembro para atualizar os sistemas e garantir que estão conformes com estas novas regras sobre imagens sexuais. Esta proposta já tinha sido acordada pelo PE e pelo Conselho da UE. Entretanto, para entrar em vigor, a medida terá de ser primeiramente adotada formalmente pelo Conselho da UE.

A proposta surgiu após a Comissão Europeia ter decidido, em janeiro deste ano, abrir uma investigação do Grok, a ferramenta de IA da rede social X, por disseminação de imagens sexualmente explícitas, incluindo conteúdos passíveis de constituir abuso sexual de menores. Segundo o relatório do Centro de Combate ao Ódio Digital (CCDH) e o jornal norte-americano The New York Times, em janeiro, o Grok abarrotou a rede X com cerca de três milhões de imagens sexualizadas durante 11 dias, incluindo 23 mil de crianças e 1,8 milhões de mulheres.

Além da proibição de sistemas de IA que gerem imagens sexualmente explícitas, esta alteração à lei europeia ainda inclui medidas para simplificar o quadro regulatório atualmente aplicado a IA.

Assim, a proposta passa a prever a possibilidade, tanto em sistemas de IA de uso geral como de risco elevado, de tratar dados pessoais sempre que estritamente necessário para detectar e corrigir enviesamentos, com salvaguardas adequadas. Além disso, fica eliminada a sobreposição de requisitos de IA aplicáveis às máquinas, componentes e acessórios, passando a lei sobre IA a clarificar que só têm de cumprir a legislação setorial, enquanto garantem um nível equivalente de saúde e segurança.

Reino Unido anunciou proibição de redes sociais a menores de 16 anos

O primeiro-ministro britânico, Keir Starmer, afirmou que proibirá redes sociais para menores de 16 anos e impor restrições a plataformas de jogos e transmissões ao vivo, em uma ofensiva contra as big techs mais abrangentes do que em qualquer outro país. A proibição abrange plataformas como Snapchat, TikTok, YouTube, Instagram, Facebook e X. A aplicação de mensagens WhatsApp não está incluída. A medida entrará em vigor no início de 2027.

Starmer assegurou que a decisão não foi tomada de forma leviana. "O governo se baseia sempre em escolhas, e para mim é claro que a proibição total é a escolha certa. Não estou disposto a comprometer a segurança e a felicidade dos nossos filhos, e é por isso que esta proibição tem de acontecer, e é por isso que esta proibição irá acontecer. Este é um grande passo, uma mudança real para as nossas crianças e para o nosso futuro. As redes sociais estão tornando as crianças infelizes. Estão a facilitar que os agressores as assediem e maltratem, e podem até estar a prejudicar a sua saúde mental, expondo-as a conteúdos perigosos, porque é isso que chama a atenção", defendeu.

A medida foi anunciada após uma consulta pública, lançada pelo governo, com o recolhimento de 116 mil respostas, no qual 83% dos pais inquiridos defenderam que os riscos das redes sociais superavam os benefícios para crianças e jovens e 91% apoiaram a idade mínima de 16 anos para o acesso às redes sociais.

O primeiro-ministro britânico reconheceu que não será fácil enfrentar as big techs e admitiu que será difícil legislar e fazer cumprir a proibição, mas prometeu avançar com esta decisão. O Reino Unido também quer impedir que adolescentes possam conversar com estranhos em plataformas de jogos online e pretende aplicar restrições relacionadas com os chatbots de inteligência artificial, mais concretamente os de conteúdos românticos e sexuais.

"Numa iniciativa para proteger as crianças online e lidar com a dimensão do desafio, o governo também irá além de uma proibição geral das redes sociais, com bloqueios pioneiros no mundo para funções prejudiciais, como transmissões em direto e comunicação com estranhos com crianças menores de 16 anos. Estas restrições, que, juntamente com a proibição, são mais abrangentes do que as de qualquer outro país, se aplicarão a uma gama mais ampla de serviços online, incluindo sites de jogos", diz a nota do governo britânico.