Foi preciso um escândalo: a não nudificação entra no artigo 5.º do AI Act

A 16 de junho de 2026, o Parlamento Europeu selou em primeira leitura o Digital Omnibus on AI — o primeiro pacote de revisão do Regulamento (UE) 2024/1689 (AI Act), aprovado por 423 votos a favor, 57 contra e 174 abstenções. Já falámos disso aqui.

A leitura dominante do pacote é, com razão, a do recuo: o adiamento das obrigações para sistemas de risco elevado para dezembro de 2027 e agosto de 2028.

Mas, no meio desse alívio de calendário há uma peça que anda em sentido contrário. O Omnibus acrescenta ao artigo 5.º do Regulamento (na lista de práticas proibidas) duas novas proibições: (i) a dos sistemas de IA que geram ou manipulam imagens íntimas não consentidas; (ii) a dos sistemas que geram ou manipulam material de abuso sexual de crianças.

É a primeira proibição nova introduzida no AI Act desde a sua adoção.

E a forma como lá se chegou diz mais sobre o estado da regulação europeia do que o próprio conteúdo da norma.

Isto, porque não resultou de uma avaliação prospetiva de riscos nem da revisão anual a que a Comissão está obrigada.

Resultou de um escândalo, de uma lacuna que a Comissão acabou por reconhecer por escrito, e de uma coligação de Estados-Membros disposta a bloquear todo o ficheiro se a proibição não entrasse.

A lacuna que a Comissão admitiu

O artigo 5.º proíbe as práticas de IA consideradas de risco inaceitável: técnicas subliminares ou manipuladoras lesivas, exploração de vulnerabilidades, classificação social, avaliação de risco criminal baseada apenas em perfis, recolha indiscriminada de imagens faciais, entre outras.

É uma das poucas partes do Regulamento que já se aplica: vigora desde 2 de fevereiro de 2025. O que o artigo 5.º não fazia, na sua redação original, era proibir a geração de conteúdos sexuais sintéticos sem consentimento.

Essa ausência deixou de ser teórica em finais de dezembro de 2025, quando o Grok, o sistema da xAI integrado na rede social X, passou a permitir a edição de imagens e gerou, em larga escala, deepfakes sexuais de mulheres e de raparigas, partilhados na própria plataforma.

Seguiram-se investigações ao abrigo do Regulamento Serviços Digitais (DSA) e do RGPD, processos nacionais em França, Alemanha e Reino Unido, e bloqueios totais ao serviço na Malásia e na Indonésia.

Sob pressão, a xAI restringiu a funcionalidade: primeiro a assinantes, depois a utilizadores em jurisdições onde tal material é ilegal. Mas investigadores demonstraram que as restrições eram contornáveis.

O ponto decisivo, do ponto de vista jurídico, veio a 11 de março de 2026. Numa carta a um eurodeputado, a Comissão Europeia confirmou que a legislação da União em vigor, incluindo o AI Act tal como redigido, não proibia os sistemas de IA capazes de gerar material de abuso sexual de crianças ou deepfakes sexuais não consentidos.

Foi o reconhecimento desta lacuna que o legislador deixara passar que deu o impulso político à alteração.

A revisão anual das práticas proibidas que a Comissão deve conduzir nos termos do artigo 112.º não tinha coberto o problema.

França e Espanha lideraram a inclusão da proibição ao longo das negociações; a Alemanha e a Eslováquia juntaram-se-lhes, ameaçando travar o pacote se a proibição não fosse incluída. Cinquenta e sete eurodeputados de vários quadrantes tinham subscrito o apelo.

O que fica proibido, exatamente

A análise da norma exige separar dois planos que o discurso público tende a fundir: o dos prestadores (providers) e o dos responsáveis pela implantação (deployers). O Omnibus trata-os de maneira diferente, e é nessa diferença que reside o essencial.

Quanto aos prestadores, a proibição incide sobre a colocação no mercado ou a colocação em serviço de sistemas de IA, em dois casos.

O primeiro é o dos sistemas concebidos para gerar ou manipular este tipo de material; o caso fácil.

O segundo é mais exigente: abrange os sistemas em que essa geração é um resultado razoavelmente previsível e reproduzível e em que não existem medidas técnicas de segurança e outras salvaguardas razoáveis e adequadas para o evitar, tendo em conta a utilização indevida razoavelmente previsível.

O texto enumera, a título exemplificativo, o tipo de salvaguardas que se esperam: limpeza de dados de treino, recusa treinada, filtragem de conteúdos, restrições de utilização, mecanismos de deteção de abuso. A norma não proíbe, portanto, desenvolver capacidades de geração de imagem; proíbe colocá-las no mercado sem barreiras adequadas contra um resultado previsível.

Esta é a parte que importa reter sobre o caso que originou a norma. A xAI tinha anunciado que responsabilizaria os utilizadores pelos conteúdos gerados, recusando introduzir salvaguardas a montante. A redação adotada fecha essa via: ao atingir também o prestador que coloca no mercado um sistema sem barreiras adequadas, a proibição desloca a responsabilidade para quem desenha e disponibiliza a tecnologia, não apenas para quem a usa.

Quanto aos responsáveis pela implantação, a proibição é mais estreita. Só abrange o uso de um sistema de IA com a finalidade de gerar ou manipular este material, incluindo os casos em que se contornam deliberadamente as salvaguardas existentes.

Fica de fora o uso lícito de um sistema para outros fins, ainda que o sistema careça das salvaguardas que o prestador devia ter implementado; fica de fora, também, a geração acidental.

Sobre o âmbito material, a proibição relativa a imagens íntimas limita-se a representações realistas de partes íntimas ou de atividade sexual explícita.

O conceito de “realismo” reporta-se à representação credível do rosto, da voz ou do corpo de uma pessoa de forma verosímil, independentemente do realismo do contexto. Exclui representações caricaturais ou fisicamente impossíveis.

O texto ressalva expressamente um conjunto de utilizações lícitas: aplicações de prova virtual de vestuário, simulações anatómicas e diagnóstico médico, e os casos com consentimento explícito da pessoa representada.

A proibição de “manipular” exclui ainda os meros melhoramentos de material pré-existente que não aumentem a exposição nem alterem a natureza do que é representado, tais como mudar o fundo, ajustar o contraste, acrescentar um título.

No que respeita ao material de abuso sexual de crianças, a proibição abrange-o de forma incondicional, incluindo o material total ou parcialmente sintético. Aqui não há o jogo de salvaguardas e exceções que se aplica às imagens íntimas de adultos: a lógica é a da proteção absoluta.

Os limites da norma

Convém não confundir a existência da proibição com a sua suficiência.

A delimitação assente em representações realistas de partes íntimas ou de atividade sexual explícita deixa de fora uma faixa significativa de conteúdos lesivos.

Muitas das imagens geradas no episódio que originou a norma (por exemplo, mulheres representadas em trajes de banho a partir de fotografias reais) poderiam não cair na proibição, por não revelarem partes íntimas nem representarem atividade sexual, ainda que mantendo um potencial de dano considerável para as visadas. A norma fixa um limiar; abaixo dele, o problema regressa ao direito comum.

Há também o desfasamento temporal. Quando a proibição foi proposta, sublinhou-se que, por o artigo 5.º já estar em vigor, ela teria efeito imediato e aplicação direta em todos os Estados-Membros. Não foi essa a solução final. As novas proibições só se aplicam a partir de 2 de dezembro de 2026, existindo destarte um período de adaptação que tempera a urgência inicial e que, para os casos já em circulação, significa mais alguns meses de zona cinzenta sob o AI Act.

O que isto significa em Portugal

Para o jurista português, a proibição do Omnibus não chega a terreno virgem.

Chega a um ordenamento que já dispõe de instrumentos penais aplicáveis a parte destas condutas, ainda que dispersos e concebidos para um mundo pré-generativo.

A devassa da vida privada, as gravações e fotografias ilícitas e os crimes contra a autodeterminação sexual e de pornografia de menores oferecem bases de incriminação que, consoante o caso, poderão já cobrir a produção e a difusão deste material sinteticamente gerado.

O enquadramento europeu, porém, é mais relevante do que a soma destes preceitos.

A Diretiva (UE) 2024/1385, relativa ao combate à violência contra as mulheres e à violência doméstica, criminaliza a partilha não consensual de material íntimo, incluindo conteúdos manipulados por IA, e deve ser transposta pelos Estados-Membros até 14 de junho de 2027 (artigo 49.º, n.º 1).

O resultado é uma arquitetura em diversos níveis: o AI Act proíbe a montante a colocação no mercado de sistemas sem salvaguardas; a diretiva criminaliza a jusante a partilha do material; e o direito penal vigente cobre (ou cobrirá, no que se refere àquela diretiva), com graus variáveis de aptidão, o que já é punível hoje.

Há uma distinção que importa não perder de vista. O artigo 5.º do AI Act é uma proibição de natureza regulatória, dirigida a prestadores e responsáveis pela implantação, com o respetivo regime sancionatório administrativo. Não é, em si, uma norma incriminadora, nem poderia sê-lo.

A proteção penal das vítimas continua a depender do Código Penal (de cada Estado-Membro) e da futura transposição da diretiva.

Para quem presta aconselhamento (a vítimas, plataformas ou empresas que integram modelos de geração de imagem nos seus produtos) esta sobreposição de planos é precisamente o ponto sensível: a mesma conduta pode acionar, em simultâneo, o AI Act, o DSA, o RGPD e o direito penal, com autoridades e prazos distintos.

Uma proibição necessária, feita de forma contrária

A proibição é defensável e, em larga medida, necessária. O que não dignifica o processo é a forma como surgiu. Uma das funções de um quadro regulatório como o AI Act é antecipar riscos previsíveis e a geração de conteúdo sexual sintético não consentido era, há anos, um risco perfeitamente previsível.

Foi preciso um escândalo, uma vaga de investigações e o reconhecimento público de uma lacuna para que o legislador agisse. E agiu, note-se, no mesmo diploma em que adiou por mais de um ano a entrada em aplicação das regras de risco elevado.

O contraste é o retrato deste momento da regulação europeia: por um lado, o que louva, capaz de reagir com rapidez quando a pressão política é máxima; por outro, o que se lamenta, hesitante quando se trata de manter o calendário das obrigações estruturais que ninguém contesta em abstrato e quase todos querem adiar em concreto.

A norma chegou. De forma tardia, estreita, e pela porta de entrada errada: com base num escândalo e não numa previsibilidade.

Referências