Liberação de pornografia acende alerta para disseminação de fake nude em redes sociais

 Decisão do X, antigo Twitter, pode aumentar casos de fotos falsas de famosas; especialista em direito digital alerta para punições previstas no Código Penal

A rede social X, o antigo Twitter, que já não proibia materiais pornográficos, liberou a divulgação de conteúdo adulto explícito no último mês. Como anteriormente a mesma plataforma já havia avisado que coletaria informações para ajudar a treinar os modelos de Inteligência Artificial (IA), a nova decisão pode incentivar um aumento de casos de ‘fake nudes’ ou nudez falsa. 

“A rede tem uma idade mínima, mas nada impede que um menor de idade altere a idade para realizar o cadastro. Isso já é um primeiro problema. Nada impede que o conteúdo adulto também ajude a treinar a IA deles, acendendo um alerta para um possível aumento dos nudes falsos”, alerta a advogada Maria Eduarda Amaral, advogada especializada em Direito Digital. 

No ano passado, a atriz Isis Valverde, a influenciadora Sofia Santino e a cantora americana Taylor Swift foram vítimas de fotos modificadas pela IA, que se tornaram nudes. Segundo a especialista, que têm atuado com agências de marketing de influência e criadoras de conteúdo, esses casos devem ser denunciados e, eventualmente, levados à justiça, por meio de profissionais capacitados, buscando a remoção desse conteúdo e indenizações. 

“As redes sociais precisam fazer uma gestão eficiente desse tipo de conteúdo, com eficiência ao atender as demandas de suporte da plataforma, o que não ocorre nos dias de hoje. As demandas judiciais contra os provedores responsáveis pelas redes sociais vem aumentando e as questões trazidas por esses processos continuam sem resposta satisfatória e sem mudanças, pois as plataformas se eximem de toda e qualquer responsabilidade sobre o conteúdo postado pelo usuário”, afirma.
 

O que diz a lei

O artigo 218-C do Código Penal cita os crimes contra a dignidade sexual. Casos de nudes falsos se enquadram no crime de oferecer, trocar, disponibilizar, transmitir, vender ou expor à venda, distribuir, publicar ou divulgar, por qualquer meio, cena de sexo, nudez ou pornografia. A pena é de reclusão de 1 a 4 anos e a pena é aumentada se o crime é praticado por uma pessoa que mantém, ou tenha mantido, relação íntima de afeto com a vítima, ou com o fim de vingança, ou humilhação. Se tratando de crianças menores de 14 anos, ainda se enquadram os artigos 241 e 241-A do Estatuto da Criança e do Adolescente, cuja pena é de reclusão de 3 a 8 anos. 

Já a responsabilidade das redes sociais é prevista no art. 21 do Marco Civil da Internet, estabelecendo que elas, após o recebimento de notificação pela vítima ou seu representante legal, deverão deixar de promover, no âmbito e nos limites técnicos do seu serviço, a indisponibilização desse conteúdo.

“A discussão, que se alonga desde o último ano sobre o assunto, gira em torno da PL 3.902/23. Ela propõe a alteração dos artigos 21 e 29 do Marco Civil da Internet, visando incluir o deep fake, ou fake nude, na lei, gerando a obrigação das plataformas em remover esses conteúdos sempre que notificados e proibindo o uso, criação, distribuição e comercialização de aplicativos e programas de inteligência artificial destinados à criação de imagens ou vídeos, pornográficos ou obscenos, falsos”, diz a especialista. 

 

Maria Eduarda Amaral - advogada especializada em Direito Digital e tem atuado para influenciadoras, agências de marketing de influência e criadoras de conteúdo. É graduada em Direito pela Escola Superior Dom Helder Câmara, pós-graduada em Propriedade Intelectual pelo IBMEC-BH e especialista em Gestão Jurídica e Proteção de Dados Pessoais pelo IBMEC-BH.