A União Europeia avançou na criação de uma lei que proíbe sites e aplicativos que “nudificam” pessoas. A proposta de banimento das ferramentas de inteligência artificial (IA) ainda precisa de aprovação no parlamento e dos próprios governos envolvidos, mas o resultado dificilmente deve mudar.
De acordo com a regulamentação, será totalmente proibido o oferecimento de sistemas de IA que “gerem conteúdo sexualmente explícito íntimo e não consensual“, além de plataformas de deepfake que possam ser usadas para a produção de materiais de abuso infantil.
A legislação envolve a proibição de deepfakes em imagem, vídeo ou áudio. A fiscalização começa a partir de 2 de dezembro de 2026, após um período de adaptação aos novos artigos.
O espalhamento dos apps de ‘nudificar’
Essa descrição envolve os aplicativos de “nudificação”, que prometem criar montagens com fotos já existentes, resultando em imagens falsas de pessoas nuas, com outra vestimenta ou em posições sugestivas. Nos casos já conhecidos, mulheres são o público mais atingido por esse tipo de serviço.
- Os materiais gerados por essas plataformas podem ser usados para difamar ou chantagear pessoas, além de causar constrangimento quando disseminados em espaços como mensageiros e redes sociais;
- As lojas digitais Google Play Store e App Store permitem a inclusão desse tipo de aplicativo nos sistemas operacionais Android e iOS, respectivamente. O problema também já foi notado em sites, inclusive com a presença em resultados de busca;
- Após denúncias de organizações de proteção à privacidade, donas de plataformas tendem a remover alguns dos programas mencionados nos relatórios, mas sem coibir totalmente a prática;
Não há menção até o momento sobre quais os limites de uso desse tipo de ferramenta. O Grok, chatbot de IA criado por Elon Musk e padrão na rede social X, virou o centro de controvérsias há alguns meses por permitir a criação desse tipo de montagem não consensual.
O Grok chegou a ser suspenso em alguns países e correu risco de receber mais sanções, mas foi mantido nas lojas digitais após a implementação de mudanças leves nas solicitações de criação de deepfakes com um auxílio por parte da Apple.
A mudança faz parte de uma reformulação no AI Act, o conjunto de leis regulatórias de IA na União Europeia aprovado em 2024. Elas simplificam vários dos artigos da proposta original, além de adiarem a fiscalização de sistemas de alto risco (como aqueles que coletam grande quantidade de dados sensíveis) para dezembro de 2027, um ano depois do prazo original.
Qual o lado perigoso da autonomia de agentes de IA? Entenda melhor a situação desse mercado em alta nesta matéria!