O Parlamento Europeu e o Conselho da União Europeia chegaram a um acordo provisório para proibir sistemas de inteligência artificial capazes de gerar ou manipular imagens, vídeos ou sons de natureza sexual sem consentimento das pessoas visadas. A medida visa, em particular, as chamadas aplicações de "nudificação", que usam IA para "despir" pessoas em imagens realistas, e sistemas capazes de produzir material de abuso sexual de menores.
A nova proibição surge no âmbito da revisão do AI Act, integrada no pacote Digital Omnibus, que pretende simplificar algumas regras digitais europeias, mas também reforçar a resposta a utilizações abusivas da IA. O texto acordado ainda terá de passar por revisão jurídico-linguística e adoção formal pelos colegisladores, devendo o Parlamento Europeu votar o acordo em plenário em junho.
O acordo foi acelerado pela polémica em torno do Grok, o assistente de IA da xAI integrado na rede social X, que esteve no centro de críticas por permitir a criação de imagens sexualizadas e manipuladas de pessoas reais. A Comissão Europeia abriu uma investigação formal à plataforma X para avaliar se a empresa cumpriu as obrigações de avaliação e mitigação de riscos previstas no Regulamento dos Serviços Digitais.
A pressão aumentou depois de uma decisão de um tribunal neerlandês contra a xAI e o Grok, que proibiu a criação ou distribuição de imagens sexualizadas não consensuais de adultos e crianças nos Países Baixos. O tribunal considerou insuficientes as salvaguardas apresentadas pela empresa e impôs coimas diárias em caso de incumprimento.
Segundo a informação disponível sobre o acordo europeu, a proibição abrange sistemas de IA que gerem conteúdos íntimos ou sexualmente explícitos não consensuais envolvendo pessoas identificáveis, incluindo representações realistas de partes íntimas ou de atividade sexual explícita. A norma inclui ainda material de abuso sexual de menores gerado por IA.
As novas regras deverão aplicar-se a partir de 2 de dezembro de 2026, data a partir da qual os sistemas abrangidos terão de integrar medidas de segurança para impedir a geração deste tipo de conteúdos. A aplicação ficará articulada com as autoridades nacionais de fiscalização de mercado e com o AI Office, no quadro do AI Act.
A decisão insere-se num debate mais amplo sobre os riscos da IA generativa para a privacidade, dignidade, segurança e proteção de menores. Organizações de defesa dos direitos das crianças saudaram o acordo como um passo relevante para reconhecer os danos causados por sistemas capazes de criar conteúdos sexuais falsos, especialmente quando envolvem crianças e jovens.
A UE procura, assim, fechar uma lacuna regulatória entre o AI Act, o Regulamento dos Serviços Digitais e as normas de proteção de dados. Embora o DSA já imponha obrigações às plataformas na gestão de conteúdos ilegais e riscos sistémicos, a nova proibição atua diretamente sobre os sistemas de IA que permitem a criação deste tipo de material.
O acordo mostra que Bruxelas está disposta a simplificar algumas obrigações do AI Act para empresas, mas não a aliviar a resposta a práticas consideradas de risco inaceitável. Para os fornecedores de IA, a mensagem é clara: a inovação em modelos generativos terá de incluir salvaguardas técnicas eficazes contra a criação de deepfakes íntimos, abuso sexual de menores e conteúdos sexualizados sem consentimento.
Testando apetite dos mercados pela nova infraestrutura digital
Sempre sujeito a critérios claros, verificável e com medidas de mitigação
Acelerando ambição de transformar a Europa num continente líder em IA
