A palavra vem da junção de "deep learning" e "fake" (falso).

Em termos mais simples, um deepfake pode fazer com que uma pessoa pareça dizer ou fazer algo que ela nunca disse ou fez. Isso pode envolver:

Substituição de rosto: Trocar o rosto de uma pessoa por outro em um vídeo ou imagem, mantendo as expressões faciais e a iluminação.

Clonagem de voz: Replicar a voz de alguém para gerar áudios onde essa pessoa diz qualquer coisa que o criador do deepfake queira.

Manipulação corporal: Alterar movimentos e posturas para simular ações.

Como os Deepfakes são criados?

A criação de deepfakes geralmente envolve o uso de redes neurais generativas adversariais (GANs). Funciona assim:

Coleta de dados: Um grande volume de dados (vídeos, imagens, áudios) da pessoa que se deseja simular é alimentado em um algoritmo de IA. Quanto mais dados, melhor a qualidade do deepfake.

Treinamento da IA: A IA aprende os padrões da aparência, voz e movimentos da pessoa.

Geração do conteúdo falso: A IA, então, gera o novo conteúdo, "costurando" os elementos aprendidos para criar uma versão falsa, mas convincente.

Usos (e abusos) dos Deepfakes

Embora a tecnologia deepfake tenha potencial para usos positivos em áreas como entretenimento (efeitos especiais em filmes), educação e até mesmo para ajudar pessoas com dificuldades de fala, seu uso malicioso é o que mais gera preocupação.

Usos maliciosos incluem:

Desinformação e fake news: Criar vídeos de políticos ou figuras públicas fazendo declarações falsas para influenciar eleições ou opiniões.

Golpes e fraudes: Utilizar a voz ou imagem de pessoas para simular sequestros, pedir dinheiro ou aplicar golpes financeiros. Casos de clonagem de voz para extorsão já foram registrados.

Deterioração da reputação: Criar conteúdo sexualmente explícito sem consentimento (pornografia deepfake) ou difamar pessoas, causando danos emocionais e psicológicos.

Burlar sistemas de segurança: Deepfakes mais avançados podem tentar enganar sistemas de biometria facial ou de voz.

Consequências e como identificar

As consequências do uso indevido de deepfakes são sérias e podem afetar a vida pessoal e profissional de indivíduos, a integridade de processos democráticos e a confiança em informações. No Brasil, embora não haja uma lei específica para deepfakes, sua criação e disseminação com fins maliciosos podem se enquadrar em crimes como difamação, calúnia, injúria, falsidade ideológica e estelionato.

Para tentar identificar um deepfake, fique atento a sinais como:

Movimentos labiais e piscadas pouco naturais: A sincronia entre áudio e vídeo pode estar falha, ou a pessoa pode não piscar naturalmente.

Textura de pele e cabelo inconsistentes: Pode haver bordas mal ajustadas ou texturas que não combinam.

Reflexos e iluminação inadequados: As sombras ou a iluminação podem mudar de forma estranha.

Falta de fluidez nos movimentos corporais: Os movimentos podem parecer rígidos ou mecânicos.

Voz monótona ou robótica: Inconsistências no tom, sotaque ou entonação da voz.

Além disso, é fundamental verificar a fonte da informação e desconfiar de conteúdos que pareçam "bons demais para ser verdade" ou que gerem emoções muito fortes. A educação digital e a conscientização são ferramentas essenciais para combater a desinformação na era dos deepfakes.

Fonte: Gemini