Consequências jurídicas do Deepfake

Há alguns anos, em 2019, talvez você tenha se deparado com um vídeo em seu WhatsApp em que o fundado do Facebook, Mark Zuckerberg, fazia um inflamado discurso impactante. No vídeo, ele se vangloriava do controle sobre os dados “roubados” das pessoas e falava até sobre o domínio global de sua corporação. 

Bem, se tratava de um dos primeiros deepfake que ganharam notoriedade em proporções globais. O conteúdo, na realidade, se tratava de um vídeo criado por artistas em colaboração com uma agência de publicidade, a qual simulava a fala de Mark Zuckerberg em uma cena impressionantemente real. 

O deepfake é uma técnica que utiliza ferramentas de Inteligência Artificial e deep learning (aprendizado de máquina profundo) para criar vídeos, áudios e imagens manipulados. Esse método modifica conteúdos existentes para simular a aparência e a voz de pessoas reais ou fictícias. A principal característica do deepfake é a sua capacidade de criar representações extremamente realistas, tornando a diferença entre o conteúdo gerado e o real muitas vezes muito sutil e difícil de discernir. 

Hoje, em 2024, os riscos associados ao deepfake são mais iminentes do que nunca. Inicialmente restrito ao entretenimento, o uso de deepfake tem se expandido para práticas ilícitas, com um aumento significativo na manipulação de massas e na atividade criminosa por meio de plataformas digitais. 

Impacto na regulamentação eleitoral 

Uma das principais preocupações ligadas ao uso desse tipo de tecnologia está ligada a possibilidade de instrumentalização para manipular a opinião pública de maneira extremamente prejudicial. 

Diante da emergência desta tecnologia, o Tribunal Superior Eleitoral decidiu proibir o uso de deepfake nas eleições municipais de 2024. Qualquer candidato ou candidata que utilizar essas ferramentas poderá ter seu registro de candidatura ou mandato cassado, com responsabilidades apuradas conforme o Código Eleitoral. Além disso, será obrigatório sinalizar o uso de Inteligência Artificial na produção de conteúdos eleitorais. 

Grandes prejuízos 

A par do âmbito político de manipulação algorítmica, em 2019 o CEO de uma empresa britânica de energia perdeu $243 mil devido a um áudio falso que simulava a voz de um diretor solicitando uma transferência emergencial de fundos. O áudio era tão convincente que o CEO sequer checou a veracidade da solicitação. A transferência foi feita para a conta do golpista, e a fraude foi descoberta somente quando o falso diretor solicitou uma nova transferência. 

Outro exemplo que evidencia a crescente dificuldade em identificar e combater fraudes envolvendo deepfake ocorreu em fevereiro de 2024. Uma empresa multinacional sofreu um golpe de $25,6 milhões quando hackers enganaram funcionários da filial em Hong Kong com recriações digitais do CFO e de outros participantes de videoconferências. Os golpistas usaram tecnologia deepfake para criar chamadas falsas, com avatares que imitaram com precisão as vozes e aparências dos colaboradores reais 

Além de impactar a política e grandes corporações, o deepfake também pode ser usado para criar vídeos comprometedores de pessoas comuns, o que torna a vida de muitos ainda mais difícil. Esses vídeos falsos podem ser utilizados para chantagens e abusos, prejudicando a vida pessoal e a reputação de indivíduos inocentes. 

 LEIA TAMBÉM: LGPD e Inteligência Artificial: regulamentações, marco legal e desafios jurídicos  

Tipos de deepfake e como se prevenir 

Existem três principais tipos de deepfake 

• Em clonagem de voz, de forma que estelionatários podem utilizar IA para simular a voz de um parente, gerente de banco ou superior hierárquico, tornando difícil distinguir entre comunicações genuínas e fraudulentas. 

• Por meio da sincronização labial, de maneira que vídeos falsos podem ser criados para fazer parecer que um político, uma figura pública ou mesmo uma pessoa comum está dizendo algo que nunca foi pronunciado, manipulando a percepção pública. 

• Pela troca de face, os algoritmos podem trocar rostos em uma imagem ou vídeo, fazendo com que uma pessoa se passe por alguém que você conhece e confia, facilitando a fraude. 

Dado o estágio atual de desenvolvimento dos conteúdos feitos com deepfake, ainda é possível identificar sinais de manipulação. Se você suspeitar que um vídeo é um deepfake, preste atenção às seguintes características: 

• Lábios que não estão sincronizados com a fala 

• Piscar dos olhos aparentemente artificial ou inexistente 

• Movimentos bruscos ou pouco naturais 

• Iluminação instável que varia de um quadro para outro 

• Mudanças incomuns na tonalidade da pele 

• Elementos digitais visíveis na imagem 

Se informe mais sobre golpes com Deepfake aqui.

Consequências no mundo jurídico 

As implicações jurídicas do deepfake são amplas e complexas, abrangendo diversas áreas do direito, como direito à privacidade, proteção de dados, direitos autorais, responsabilidade civil e penal, além de questões relacionadas à segurança e integridade das comunicações digitais. 

• A criação de deepfakes que retratam uma pessoa em situações íntimas ou constrangedoras viola garantias constitucionais fundamentais, como a inviolabilidade da intimidade e da vida privada, além do direito à autodeterminação informativa. 

• No âmbito do direito civil e do direito de imagem, o uso indevido de deepfakes para criar vídeos falsos de uma pessoa sem sua autorização configura uma clara violação do direito à imagem, garantido constitucionalmente e pelo Código Civil. A produção e divulgação desses vídeos podem causar danos irreparáveis à reputação da pessoa, afetando sua vida pessoal e profissional, e podem gerar o direito à indenização para a vítima. 

• A ofensa a honra é fato que pode ter repercussões criminais, no que toca os crimes contra a honra. A difusão de deepfakes com conteúdo difamatório ou ofensivo pode configurar o crime de calúnia ou difamação, ferindo a honra e a dignidade da pessoa humana. 

Desafios para o Direito 

O surgimento dos deepfakes coloca diversos desafios para o mundo jurídico: 

• A principal dificuldade está em provar a falsidade de um vídeo deepfake, pois a tecnologia por trás dessa criação é cada vez mais avançada. Para confirmar que um vídeo é falso, pode ser necessário realizar perícias complexas, que exigem conhecimentos técnicos especializados. No entanto, em alguns casos, pode ser possível tratar o deepfake como prova pré-constituída, desde que a evidência seja apresentada de forma adequada e robusta. 

• Identificar os responsáveis pela criação e divulgação de deepfakes também é um desafio. Embora seja possível buscar responsabilização judicial através do rito do Marco Civil da Internet, a tarefa se torna ainda mais difícil quando redes anônimas são usadas para ocultar a identidade dos criminosos. 

• Nesse sentido, é interessante destacar que, de acordo com o Marco Civil da Internet, provedores de aplicações de internet podem ser responsabilizados subsidiariamente por violações da intimidade resultantes da divulgação não autorizada de imagens, vídeos ou outros materiais privados, incluindo cenas de nudez ou atos sexuais. 

• A legislação atual muitas vezes não é suficiente para enfrentar os novos crimes e violações de direitos associados aos deepfakes. Além disso, a rápida disseminação desses conteúdos nas redes sociais complica o rastreamento e a remoção eficaz dos vídeos prejudiciais. 

• A rápida disseminação de deepfakes nas redes sociais dificulta o rastreamento e a remoção desses conteúdos. 

O deepfake representa um desafio sem precedentes para o direito. É urgente a necessidade de aprimorar a legislação, desenvolver novas ferramentas tecnológicas para a detecção de deepfakes e promover a ampla conscientização da sociedade sobre os riscos dessa tecnologia. 

A colaboração entre governos, empresas de tecnologia, acadêmia e a sociedade civil é fundamental para enfrentar esse desafio e garantir a proteção dos direitos fundamentais na era digital. 

Para lidar com situações envolvendo deepfakes, é recomendável consultar um profissional jurídico especializado. Uma equipe de especialistas com experiência em questões tecnológicas e de direitos digitais pode oferecer a orientação necessária para enfrentar esses problemas de maneira eficaz.