No início do mês veio à tona denúncias de que fotos íntimas, criadas por inteligência artificial, com o rosto de alunas de um colégio em Belo Horizonte, com idades entre 12 e 17 anos, estariam circulando em grupos públicos de um aplicativo de mensagens. De acordo com a denúncia divulgada nas redes sociais, esses “fake nudes” eram criados pelos próprios estudantes da instituição.

O Ministério Público de Minas Gerais (MPMG) foi chamado à ação pela deputada estadual Beatriz Cerqueira (PT), presidente da Comissão de Educação, Ciência e Tecnologia da Assembleia Legislativa. A parlamentar também encaminhou um ofício à direção da escola, pedindo esclarecimentos sobre o ocorrido e questionando quais providências estavam sendo tomadas para responsabilizar os envolvidos na criação, divulgação e disseminação do material. Sobre o assunto, o Edição do Brasil conversou com o advogado especialista em Direito Digital, Victor Tales Carvalho.

A criação e venda de imagens íntimas falsas, geradas por inteligência artificial, é considerada crime no Brasil?
Mesmo o país não tendo uma legislação específica sobre deepfakes, a criação e comercialização de imagens íntimas falsas pode configurar diversos crimes, como difamação, injúria, falsidade ideológica, além de dispositivos da Lei de Importunação Sexual (Lei nº 13.718/2018). Quando envolve crianças ou adolescentes, a conduta pode ser enquadrada como pornografia infantil (ECA, art. 241). Além da esfera penal, também há violação de direitos da personalidade e de propriedade intelectual, principalmente quando a imagem é utilizada com fins comerciais, de fraude ou associada à identidade digital de uma pessoa pública.

Esse tipo de prática pode ser enquadrado como pornografia infantil, mesmo sem imagens reais?
O Superior Tribunal de Justiça (STJ) já consolidou entendimento de que montagens digitais simulando atos sexuais com menores, mesmo que irreais, configuram pornografia infantil. O que importa não é se o conteúdo é real ou gerado por inteligência artificial, mas sim o dano gerado à dignidade da criança e o incentivo à exploração da imagem infantil. Isso pode levar à responsabilização criminal de quem cria, compartilha ou armazena esse tipo de material.

O que a lei brasileira prevê hoje em relação ao uso indevido de ferramentas de inteligência artificial para manipulação de imagens?
Atualmente, não existe uma lei específica para deepfakes no Brasil. Mas há diversas normas que são aplicadas de forma combinada como o Marco Civil da Internet (Lei 12.965/2014): permite a responsabilização de plataformas após notificação e ordem judicial; Lei Geral de Proteção de Dados Pessoais (Lei 13.709/2018): considera imagem e voz como dados sensíveis, exigindo consentimento claro para uso; Código Penal: crimes contra a honra, falsidade ideológica, falsa identidade; Código Civil: reparação por danos morais e materiais; Estatuto da Criança e do Adolescente (ECA): proteção integral de menores.

A quem cabe a responsabilidade nesses casos, apenas aos autores das imagens ou também a quem compartilha e vende?
Todos os envolvidos podem ser responsabilizados: quem cria, quem compartilha e quem comercializa o conteúdo. Em casos envolvendo menores, os pais ou responsáveis podem ser civilmente responsabilizados. As plataformas também podem ser responsabilizadas, especialmente quando, mesmo após notificação formal, mantêm o conteúdo ativo.

Que orientações devem ser dadas para famílias e escolas diante desses casos?
É fundamental que medidas preventivas e reativas sejam adotadas de forma integrada e eficaz: familiares devem acompanhar e orientar seus filhos sobre os riscos da superexposição nas redes sociais, o impacto jurídico e emocional de compartilhar imagens íntimas, mesmo entre colegas, e a importância do consentimento digital. Já as escolas precisam atualizar seus regimentos internos para prever expressamente as sanções aplicáveis em casos de crimes digitais, como deepfakes, cyberbullying e compartilhamento de conteúdo íntimo manipulado. Também é papel da escola fazer palestras, oficinas e ações permanentes de conscientização sobre uso ético da tecnologia.

Que mudanças na legislação brasileira seriam urgentes para proteger crianças e adolescentes desse tipo de violência?
O Brasil precisa de uma legislação específica para regular o uso da inteligência artificial, mudanças urgentes incluem a tipificação penal para deepfakes, com agravantes quando envolver menores; responsabilização objetiva das plataformas por omissão; inclusão de proteção de identidade visual e imagem na Lei de Propriedade Intelectual; criação de mecanismos rápidos de denúncia e remoção; e políticas de educação digital obrigatórias nas escolas.