Deepfake: entenda por que ele é uma ameaça à segurança digital

Já ouviu a expressão “Só acredito vendo”? Ela representa a fala de pessoas desconfiadas, que não acreditam em qualquer história e querem ver com seus olhos para comprovar a veracidade dos fatos. No entanto, com o atual avanço tecnológico, os nossos olhos podem ser facilmente enganados. Uma técnica que prova isso é o deepfake, que ganhou bastante notoriedade nos últimos meses. Já ouviu falar dele?

Preparamos este conteúdo para você entender como funciona essa tecnologia, por que pode ser uma ameaça e como você pode reconhecer um deepfake para não cair nessa cilada. Além disso, descubra o lado bom dessa prática. Continue a leitura e saiba mais!

O que é deepfake?

O deepfake é uma tecnologia usada para criar vídeos falsos, porém bem realistas, com pessoas fazendo coisas que nunca fizeram de verdade ou em situações que nunca presenciaram. O algoritmo utiliza inteligência artificial para manipular imagens de rostos e criar movimentos, simulando expressões e falas. O termo vem da junção de duas palavras em inglês:

• fake = falso;
• deep = deep learning, ou aprendizado aprofundado — técnica em que computadores conseguem aprender com base em padrões.

Assim, trata-se de uma espécie de ilusionismo digital que pode enganar muita gente. Já surgiram muitos casos na internet com artistas e políticos que repercutiram nas mídias sociais. 

Um exemplo notório foi um falso discurso do ex-presidente Barack Obama, criado pelo site BuzzFeed exatamente para demonstrar o resultado da tecnologia deepfake. A voz ficou por conta de uma dublagem feita pelo ator Jordan Peele.

Como surgiu a tecnologia do deepfake?

Esse termo surgiu em dezembro de 2017 com a postagem de falsos vídeos íntimos envolvendo artistas famosas. O usuário utilizava um software de deep learning para colocar os rostos das mulheres em vídeos já existentes. A partir daí, quaisquer vídeos editados a partir do machine learning e outras ferramentas de inteligência artificial passaram a ser chamados de deepfake.

No entanto, esse recurso não é novo. Filmes de Hollywood já fazem isso há muitos anos criando rostos e até cenas inteiras, no entanto gastando milhões. Já os novos métodos são bem mais baratos, basta ter acesso a conhecimentos e algoritmos de deep learning, um bom processador gráfico e imagens que possam servir de base para o processo.

Como um deepfake é criado?

Como já dito, o deepfake utiliza softwares de código aberto relacionados ao aprendizado de máquina. Na prática, o programador fornece centenas de fotos e vídeos da pessoa em questão. Daí um sistema de inteligência artificial processa automaticamente via rede neural. Dessa forma, o computador consegue “aprender” os movimentos do rosto, como sorrisos, reações, reação à luz e sombras etc.

O software faz esse processamento com o rosto do vídeo base e o novo rosto que deseja aplicar até encontrar um ponto de encontro entre as duas faces e, assim, sobrepor o novo ao original.

O resultado é um vídeo com definição bastante fluida. Há, no entanto, outras tecnologias que cumprem funções semelhantes — como a da Adobe, que cria falas com a voz de uma pessoa —, e ainda outros que imitam falas e expressões faciais no rosto de outra pessoa.

No começo, o deepfake exigia que o usuário tivesse profundos conhecimentos de programação. Mas apps foram criados para automatizar todo o processo, de modo que seu uso massivo ficou mais acessível. Uma vez que a tecnologia exige recursos avançados de hardware, a qualidade média dos vídeos acaba não sendo tão boa, porém, é o suficiente para enganar alguns mais distraídos. Qual o perigo disso? Você vai descobrir a seguir!

Por que ele é uma ameaça?

É verdade que os vídeos criados com a tecnologia deepfake não são perfeitos. Com olhos mais atentos, é possível ver falhas. Mas são realistas o suficiente para enganar muitas pessoas, principalmente aqueles sem conhecimento em defesa cibernética. Embora nem sempre um deepfake seja criado com má intenção, ele pode sim ser utilizado para fins maliciosos.

Vídeos manipulados de artistas e políticos disponíveis na web são uma prova disso. Eles podem difamar a reputação dos envolvidos nas cenas e disseminar mentiras. Por exemplo, ele pode ser utilizado como ferramenta política para colocar na boca de candidatos e autoridades palavras ofensivas e outras coisas que nunca disseram, ou mesmo realizando atos ilícitos, fazendo com que os eleitores escolham outra pessoa.

Essas mentiras difundidas na web podem também prejudicar a vida das pessoas, famosas ou não, como é o caso de falsos vídeos pornográficos envolvendo artistas. Existem aí diversos problemas legais e éticos que precisam ser discutidos.

No entanto, não se pode banalizar a tecnologia. Por outra perspectiva, existem aplicações positivas para os softwares do gênero.

Há um uso benéfico do deepfake?

Os algoritmos de deep learning podem ser utilizados de uma forma muito positiva. Por exemplo, a tecnologia tem como princípio o reconhecimento e a reconstrução de faces. Esse mapeamento de faces já é utilizado para outras funções, como os Animojis da Apple e os AR emojis da Samsung. E há muito outros que identificam e modificam o rosto dos usuários.

Além dessas atividades de passatempo, o cinema também pode se beneficiar bastante com a tecnologia. É até possível que atores, atrizes e outros influenciadores digitais vendam sua imagem para aparecer em peças de publicidade sem a necessidade de estar presentes na produção dos vídeos.

Como reconhecer um deepfake?

Apesar do avanço da tecnologia, ainda é possível identificar detalhes que comprovam a falsidade do vídeo. Por exemplo, será que aspectos da voz, como tom e entonação, estão naturais? Os movimentos dos lábios batem com o que está sendo dito? Os movimentos do rosto e do corpo como um todo parecem realmente orgânicos?

Também é útil procurar outros vídeos da mesma pessoa para comparar e tentar atestar a veracidade, principalmente se você não a conhece bem. Além disso, há ferramentas que checam vídeos quadro a quadro (por frames) para detectar sinais de manipulação. Mas é natural que, com o tempo, distinguir o verdadeiro do falso se torne cada vez mais difícil. Acima de tudo, sempre cheque a origem dos vídeos comprometedores antes de acreditar neles e até mesmo compartilhá-los.

Os recursos de deepfake avançam, e discussões éticas e até a legislação ligadas à segurança eletrônica também precisam acompanhar esse desenvolvimento. Por exemplo, no Brasil, ainda não há leis específicas para fake news, o que torna essa prática geralmente impune, mesmo que o autor possa ser processado por difamação e injúria. Trata-se de mais um desafio que a tecnologia nos impõe.

Gostou do alerta dado neste conteúdo? Então, compartilhe-o nas suas redes sociais e ajude a informar os seus amigos!