DEEPFAKE: O seu rosto não é mais seu?

Olá, usuário da internet!

A LawDi preparou este guia exclusivo para apresentar o conceito e a origem das Deepfakes, analisando os direitos fundamentais garantidos e violados em casos de Deepfakes pornográficas e o que dita a legislação brasileira, sob a ótica do Direito Digital.

Ao final, apresentamos alguns fatores que você podem fazer você identificar uma Deepfake, fique atento!

Desejamos a você uma ótima leitura!

SUMÁRIO:

1. Antes de tudo… o que é Deepfake?

2. As Deepfakes pornográficas: Os direitos garantidos e violados.

3. A identificação do infrator, penalidades e responsabilidade das plataformas sociais.

4. Como identificar uma Deepfake?

5. Conclusão.

6. Referências.

Vamos começar?

1. ANTES DE TUDO… O QUE É DEEPFAKE?

Provavelmente você já viu algum vídeo ou foto manipulada, no qual o rosto de uma outra pessoa (famosa ou não) estava inserido no corpo de uma outra pessoa, animal, ser vivo ou em alguma coisa/objeto.

A Deepfake trata-se de uma técnica que utiliza Inteligência Artificial (IA) para criar vídeos, fotos ou áudios extremamente realistas de pessoas fazendo ou dizendo coisas que, na verdade, nunca aconteceram. Associa-se ao uso da imagem de pessoas reais, como se fosse uma “máscara digital” recortada do contexto original e “colada” em outro contexto completamente diferente.

Embora o uso mais comum seja a troca de rostos entre humanos, o que se chama de face swap, a Inteligência Artificial é capaz de mapear as expressões faciais de uma pessoa e "colá-las" em quase qualquer coisa, como: objetos inanimados, um rosto falando em uma fruta; animais, fazendo um cachorro ou um gato "falar"com as expressões e a boca de um humano; ou personagens de ficção, colocando o rosto de uma pessoa real em um boneco de computação gráfica ou desenho animado.

Uma observação importante! A Deepfake NÃO é a mesma coisa que a criação de imagem feita do zero feita por uma IA generativa, neste último caso não se tem uma pessoa real, e sim a criação de "humanos virtuais" ou personagens fictícios que parecem muito reais, mas que nunca existiram. Nesse caso, chamamos de Avatares de IA (mas esse é assunto para um outro artigo).

O ponto central dessa tecnologia não é apenas quem está no vídeo, mas a técnica de substituição ou sobreposição feita por Inteligência Artificial para criar uma aparência de realidade, estamos tratando aqui de uma manipulação que busca enganar os sentidos de quem assiste, fazendo-o acreditar que aquele fato/ interação verdadeiramente aconteceu.

Mas… como é possível realizar tal feito e como surgiu essa tecnologia?

O termo Deepfake surge da junção de Deep Learning (aprendizado profundo, um ramo da Inteligência Artificial) e Fake (falso). A IA mapeia milhares de pontos, chamados de pontos de referência facial (ou landmarks) de um rosto, e reproduz expressões em tempo real de maneira extremamente realista.

A tecnologia surgiu no final do ano de 2017, quando um usuário anônimo da plataforma Reddit, que possuía o pseudônimo "deepfakes", publicou vídeos que utilizavam Inteligência Artificial para trocar rostos de celebridades em cenas de filmes adultos. Foi a partir do nome desse usuário que a tecnologia ganhou o nome que conhecemos atualmente.

*Nota da Autora: O que nos faz refletir… são APENAS pouquíssimos anos de diferença das primeiras imagens e vídeos criados por IA! Como a tecnologia avançou a ponto de nos enganar diante dos nossos próprios olhos!

A verdade é que as Deepfakes, muitas vezes, são utilizadas de forma “inofensiva”, para o entretenimento e humor, quem nunca viu um vídeo engraçado com o rosto de um famoso ou político? O perigoso se encontra quando esta tecnologia é intencionada com a finalidade de causar humilhação, constrangimento e danos a determinada pessoa, por meio do uso da sua imagem sem autorização e consentimento.

Este, lamentavelmente, é o caso das Deepfakes pornográficas.

2. AS DEEPFAKES PORNOGRÁFICAS: OS DIREITOS GARANTIDOS E VIOLADOS:

Ultimamente, muitas mulheres (dentre elas influenciadoras digitais e criadoras de conteúdo) denunciaram abusos referentes a utilização dos seus rostos para a criação de conteúdo adulto, sem nenhum consentimento e autorização. Conteúdos, estes, divulgados de forma deliberada em algumas plataformas digitais, com o acesso possível, fácil e por vezes gratuito.

Tal fato já ocorre com rostos de famosas da mídia, como citado anteriormente, a própria denominação “Deepfake” surgiu pelo pseudônimo de um usuário que já realizava a troca de rostos de celebridades para criação de conteúdo adulto.

Porém, com o avanço da IA e dessa tecnologia especificamente, tornou-se acessível utilizar rostos de pessoas que nem mesmo são famosas, e principalmente, que não produzem ou sequer já produziram algum conteúdo desta natureza.

É o caso da influenciadora Ana Eulália, que demonstrou a sua tremenda indignação ao descobrir que a sua imagem estava sendo atribuída a conteúdo pornográfico divulgado em um fórum destinado à imagens e vídeos falsos de mulheres, com mais de 1 milhão de usuários no mundo inteiro, diz ela em seu vídeo na sua conta do Instagram:

        “Estão usando Inteligência Artificial para criar conteúdo adulto de pessoas que não deram consentimento ou sequer sabem o que está acontecendo. Fizeram isso comigo, fizeram isso com amigas minhas (...)”.

Da mesma forma, ocorreu com uma cidadã norte-americana, que recebeu um e-mail informando que haviam vídeos de Deepfakes dela em alguns sites pornográficos:

        (Traduzido para o português) “Lembro-me de me sentar, digerindo aquele e-mail, parece que você fica congelada, naquele momento do tempo. Me descrevia tendo relações sexuais e o título do vídeo tinha meu nome completo”.

Lamentavelmente, ambas foram vítimas de Deepfakes pornográficas, e o que as torna tão cruéis e invasivas é o fato de elas tirarem da vítima o “controle” do seu próprio rosto, as suas expressões reais e a sua autonomia, utilizando as imagens para conteúdos que elas nunca quiseram e autorizaram, ou até mesmo, nem possuíam o conhecimento da sua disseminação.

A Constituição Federal em seu art. 5º, X, prevê que "São invioláveis a intimidade, a vida privada, a honra e a imagem das pessoas, assegurado o direito a indenização pelo dano material ou moral decorrente de sua violação." Não há dúvidas que todos esses direitos são gravemente violados na criação, divulgação e propagação de uma Deepfake pornográfica.

A imagem é direito inviolável, e “salvo se autorizadas, ou se necessárias à administração da justiça ou à manutenção da ordem pública, a divulgação de escritos, a transmissão da palavra, ou a publicação, a exposição ou a utilização da imagem de uma pessoa poderão ser proibidas, a seu requerimento e sem prejuízo da indenização que couber, se lhe atingirem a honra, a boa fama ou a respeitabilidade”, conforme o art.20 do Código Civil.

O Marco Civil da Internet, Lei nº 12.965/2014, em seu art.3º, disciplina o uso da internet no Brasil baseado especialmente nos princípios da proteção da privacidade e dos dados pessoais, na forma da lei. A Lei Geral de Proteção de Dados, Lei nº 13.709/2018 (LGPD), é a legislação que dispõe sobre o tratamento de dados pessoais, inclusive nos meios digitais, por pessoa natural ou por pessoa jurídica de direito público ou privado, dispondo em seu art.2º os fundamentos da sua proteção, dentre eles, o respeito à privacidade, à autodeterminação informativa e a inviolabilidade da intimidade, da honra e da imagem.

A autodeterminação informativa é o direito fundamental que garante ao indivíduo o controle sobre seus próprios dados pessoais, permitindo-o decidir sobre o seu uso, divulgação e eliminação de suas informações, armazenadas por terceiros.

É imperioso ressaltar, que a LGPD define a imagem do rosto e a voz como dados pessoais sensíveis, visto serem dados biométricos, capazes de identificar com clareza determinado indivíduo (art.5º, II). Pela natureza sensível, o tratamento desses dados exige proteção redobrada e, via de regra, necessitam do consentimento específico e destacado do titular dos dados (art.11).

Com isso, sem dúvidas, pode-se afirmar a proteção dos direitos fundamentais de intimidade, privacidade, honra e imagem, sendo esta última, considerada um dado pessoal sensível no tocante a imagem do rosto e a voz, garantindo-se, portanto, proteção extra pelo ordenamento jurídico.

Nesse momento da leitura, você já deve saber que, quando uma pessoa é vítima de Deepfake pornográfica, claramente todos esses direitos são gravemente violados. Como a legislação brasileira responsabiliza e pune os envolvidos? E mais… será que tem como identificar o infrator?

3. A IDENTIFICAÇÃO DO INFRATOR, PENALIDADES E RESPONSABILIDADE DAS PLATAFORMAS SOCIAIS.

Felizmente é possível identificar o infrator, o indivíduo por trás da criação e divulgação da Deepfake pornográfica. Conforme o Marco Civil da Internet, por meio de uma investigação, onde houve uma ordem judicial, o juiz ordena que o responsável pela guarda e fornecimento de registros de conexão ou de registros de aplicações de internet, forneça o número de IP do dispositivo.

*Nota da Autora: Calma! Eu sei que essa explicação pode ser confusa, então eu vou esmiuçar para você.

Primordialmente, é necessário compreender que quando se fala em Provedores de Conexão à Internet, refere-se às empresas que fornecem o acesso à internet (Vivo, Claro, Tim, etc); já os Provedores de Aplicação de Internet, são as plataformas que oferecem funcionalidades na internet, como as redes sociais (Instagram, TikTok), aplicativos de mensagens (WhatsApp, Telegram), sites, entre outros. Ambos os provedores possuem a obrigação de fornecer informações sobre a identificação do indivíduo.

O número de IP (Internet Protocol ou Protocolo de Internet), é o “endereço” de um dispositivo (celular, computador ou servidor) enquanto ele está conectado à rede, e mesmo que o número mude toda vez que o roteador é reiniciado, todos os registros de IP são armazenados pelos provedores, contendo a exata data e hora (em milissegundos).

*Nota da Autora: Ou seja, todas as vezes que estamos conectados à internet, bem como, quando postamos algo (divulgamos/compartilhamos), é possível sermos rastreados pelo nosso número de IP. Cuidado com o que você faz na internet!

Por meio da identificação do infrator, é possível responsabilizá-lo e penalizá-lo pela conduta. Uma Deepfake “comum” pode ser enquadrada nos crimes contra a honra de calúnia, injúria ou difamação, previstos nos arts. 138 a 145, do Código Penal, porém, no caso de uma Deepfake pornográfica, o infrator atenta contra a dignidade sexual, ocasionando danos devastadores e até irreversíveis à vítima. O Código Penal, em seu art.218-C, descreve a divulgação de cena de sexo ou de pornografia sem o consentimento da vítima, como um crime sexual:

           Art.218-C. “Oferecer, trocar, disponibilizar, transmitir, vender ou expor à venda, distribuir, publicar ou divulgar, por qualquer meio - inclusive por meio de comunicação de massa ou sistema de informática ou telemática -, fotografia, vídeo ou outro registro audiovisual que contenha cena de estupro ou de estupro de vulnerável ou que faça apologia ou induza a sua prática, ou, sem o consentimento da vítima, cena de sexo, nudez ou pornografia”.

Nestes casos, a pena é de reclusão, de 4 (quatro) a 10 (dez) anos, e multa, se o fato não constitui crime mais grave, sendo aumentada de 1/3 (um terço) a 2/3 (dois terços) se o crime é praticado por agente que mantém ou já tenha mantido relação íntima de afeto com a vítima, ou quando há a finalidade de se vingar ou humilhá-la.

No tocando as plataformas sociais, embora o art.19 do Marco Civil da Internet prever que, diante de danos ocasionados por conteúdo gerado por terceiros, a responsabilidade civil apenas ocorre após descumprimento de ordem judicial específica, o cenário muda completamente quando se trata de situações que envolvem imagens, vídeos ou outros materiais contendo cenas de nudez ou de atos sexuais de caráter privado. O art.21 do mesmo texto legal preceitua que, nestes casos, a plataforma é responsável civilmente se não remover o conteúdo danoso após receber uma notificação extrajudicial da própria vítima ou de seu representante.

Por isso, frente a casos que contenham cenas de nudez ou de atos sexuais de caráter privado, a plataforma social tem o dever de agir com celeridade e efetividade na remoção do conteúdo, apenas com a notificação extrajudical, sem que necessite de ordem judicial específica, sob pena de responder solidariamente (junto com o infrator) pelos danos causados, podendo ser condenada a pagar indenizações à vítima.

Deste modo, evidencia-se que a legislação brasileira é rigorosa quanto a criação e divulgação das Deepfakes pornográficas, possuindo a vítima todo o aparato jurídico necessário para buscar reparação dos danos causados, danos estes que podem ser gravíssimos e irreversíveis.

4. COMO IDENTIFICAR UMA DEEPFAKE?

Na era da Inteligência Artificial, tornou-se extremamente difícil distinguir o real do fictício e o verdadeiro do falso. A tecnologia se aprimora a cada momento, e como visto anteriormente, existem poucos anos de diferença entre as primeiras Deepfakes criadas e as propagadas atualmente. Fato é que nossos sentidos estão sendo cada vez mais enganados por essa tecnologia, por isso, faz-se necessário tentar identificar a veracidade do que se vê e ouve.

O primeiro passo, é o que se chama de “Vale da Estranheza” (Uncanny Valley), conceito criado pelo roboticista japonês Masahiro Mori em 1970, descrevendo o desconforto, repulsa ou medo que humanos sentem ao ver robôs, se aplicando atualmente as criações de IA que se assemelham muito a pessoas reais, mas que não conseguem atingir uma aparência realista perfeita.

O nosso cérebro é treinado para notar microexpressões que a IA ainda tem dificuldade em replicar perfeitamente, por isso, mesmo que você não saiba explicar o porquê, algo naquela imagem ou vídeo causa estranheza, e consequentemente aversão, um sentimento “estranho”.

De maneira prática, há formas de identificar outros fatores desconexos:

1. O piscar e o reflexo dos olhos: Em uma Deepfake, muitas vezes a(s) pessoa(s) piscam de forma não natural ou em ritmos estranhos, lentos ou atrapalhados. O reflexo da luz nos olhos (o brilho) também costuma ser diferente entre o olho esquerdo e o direito.

2. As bordas do rosto e os cabelos: Há grande chance de manipulação quando a conexão das partes do rosto, a exemplo do rosto com o cabelo ou das orelhas, parecem borradas ou trêmulas, ou quando tem fios de cabelo que aparecem e desaparecem.

3. A sincronia labial (lip sync): Na Deepfake, a boca pode parecer "mole" ou descompassada com o áudio, é importante notar se o movimento da boca condiz exatamente com os sons das palavras ditas, em especial as consoantes como "p", "b" e "m", que exigem o fechamento total dos lábios.

4. Os acessórios e o fundo: Podem haver acessórios que refletem estranhamente ou que se fundem com a pele. Conforme a pessoa se move, o fundo pode distorcer.

Confirma-se, portanto, que apesar da IA estar sendo cada vez mais sofisticada, existem fatores que qualquer pessoa média e leiga é capaz de observar, sem precisar ser um especialista na área.

*Nota da Autora: Além desses fatores, nos casos da Deepfake pornográfica, adiciono que o contexto deve ser observado. Por mais que não tenhamos como averiguar profundamente a vida do outro, há casos que se deparar com este tipo de conteúdo sobre alguém é estranho. Por exemplo, uma influenciadora digital de moda, culinária, lifestyle, esporte ou qualquer outro nicho, que nunca mencionou ou divulgou que cria ou participa de conteúdo adulto, caso você se depare com uma foto ou vídeo dessa pessoa fazendo atos sexuais de forma explícita, isso não lhe causaria estranheza ou no mínimo dúvida? Nesses casos, averigue se aquilo é real, ou pelo menos, não seja um canal de disseminar ainda mais aquele conteúdo.

5. CONCLUSÃO

Nesse artigo, apresentamos o conceito das Deepfakes, a sua origem e o seu funcionamento por trás da tecnologia. Demonstramos os casos das Deepfakes pornográficas, que se utilizam da imagens de pessoas (famosas ou não) sem o seu consentimento, para fins de criação e divulgação de conteúdo adulto.

Os direitos fundamentais de intimidade, privacidade, honra e imagem, foram abordados, bem como foi explicado como é possível rastrear o infrator através do endereço de IP.

Diante de tudo que foi demonstrado e aprofundado, constatou-se o quanto o sistema normativo nacional disciplina o uso da internet no Brasil, não sendo omisso quanto a punição do infrator e da responsabilização das plataformas digitais em meio a casos de danos causados por terceiros por utilização da imagem sem autorização e consentimento, em especial nos casos de cenas de nudez e ou de atos sexuais de caráter privado. 

Além disso, foram listados fatores subjetivos (“Vale da Estranheza”) e objetivos para você e qualquer pessoa que navegue pela internet seja capaz de identificar uma Deepfake.

Conclui-se, assim, que a internet não é terra sem lei, e tudo que é feito, exposto e compartilhado é registrado!

Por fim, é importante salientar que nesses casos, devemos ter empatia e consciência. Antes de propagar algum conteúdo, averigue se aquilo é real, ou pelo menos, reflita se aquilo pode causar um dano a outra pessoa. A palavra aqui é consciência.

*Nota da Autora: A maior reflexão que faço deste artigo é sobre o motivo de existirem Deepfakes pornográficas sem o conscientemente da vítima. Na era em que vivemos, o conteúdo adulto é totalmente acessível para quem quiser, existem milhões de sites e várias pessoas que trabalham com isso de fato. É lamentável que utilizem da imagens de pessoas (famosas ou não), que nunca autorizaram ou consentiram, e por vezes, nem tem conhecimento que sua imagem está sendo utilizada e vinculada para tais fins. Trata-se de que? De poder. De controle. Não houve um tópico de “como se prevenir”, porque na realidade, a não ser que você não tenha absolutamente nenhuma foto, vídeo ou áudio seu na internet e nas redes (o que é quase impossível) você é passível de ser vítima também. Esta autora só espera que a justiça seja tão veloz quanto a internet, e que as leis sejam cada vez mais aprimoradas como a IA.

A LawDi agradece a sua leitura! Esperamos que após a leitura você se torne um usuário da internet ainda mais consciente!

O conhecimento sempre será a chave.

Na LawDi o Digital e a Lei estão sempre em conexão! 

*Autora: Vanessa Mestanza Pelosi 

6. REFERÊNCIAS:

AJDER, Henry; PATRINI, Giorgio; CAVALLI, Francesco; CULLEN, Laurence. The State of Deepfakes: Landscapes, Threats, and Impact. Amsterdam: Deeptrace, set. 2019. Disponível em: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf. 

CANALTECH. Você sabe IDENTIFICAR um DEEPFAKE? YouTube, 1 mar. 2024. Disponível em: https://youtu.be/Wg5nm3w2k8c.

CNN BRASIL. Alunos de colégio particular do Recife usam IA para criar nudes falsos de colegas. Disponível em: https://www.cnnbrasil.com.br/nacional/alunos-de-colegio-particular-do-recife-usam-ia-para-criar-nudes-falsos-de-colegas/.

DESINFORMANTE. O que é deepfake? | desinformante explica. YouTube, 15 mar. 2023. Disponível em: https://youtu.be/1tFqyHqn2uQ.

GÓIS, Victor. Por que a maior ameaça dos deepfakes são contra as mulheres? YouTube, 10 jul. 2020. Disponível em: https://youtu.be/IxVn3RGaEDg.

IEEE SPECTRUM. The Uncanny Valley. Disponível em: https://spectrum.ieee.org/the-uncanny-valley.

INSTAGRAM. Reel sobre Deepfake. [S. l.], 2026. Disponível em: https://www.instagram.com/reel/DS-YAM1kfXf/.

VOX. The most urgent threat of deepfakes isn't politics. YouTube, 8 jun. 2020. Disponível em: https://youtu.be/hHHCrf2-x6w.

*As imagens utilizadas foram feitas por Inteligência Artificial.