Devido aos avanços da tecnologia, os deepfakes estão se tornando cada vez mais realistas e difíceis de detectar. Portanto, do ponto de vista do consumidor, é crucial adotar uma postura cautelosa em relação às informações e conteúdos consumidos online. A educação digital e o desenvolvimento de habilidades para identificar deepfakes são indispensáveis para proteger nossa segurança e integridade no mundo digital em constante evolução.

Tomé, um dos 12 apóstolos, precisava “ver para crer”. Se antes ele era conhecido como o “Santo Incrédulo do Senhor”, após ver Jesus vivo ele se tornou “Tomé, o Crente”. E você? Costuma ser do tipo que precisa “ver para crer”? E se afirmarmos que já passou da hora de reconsiderar esse pensamento, para evitar cair em uma armadilha de deepfakes?

O que é deepfake?

Na prática, o termo “deepfake” é proveniente de uma combinação de “deep learning” (aprendizado profundo) e “fake” (falso), consistindo em uma estratégia de associação de imagens ou sons humanos, com base em técnicas de Inteligência Artificial (IA), para combinar a fala ou a cena de uma gravação já existente. O resultado são conteúdos sintéticos, mas muito bem-feitos, como o papa vestido em alta costura. Ou o discurso do Presidente ucraniano Volodymyr Zelensky se rendendo às tropas da Rússia. Teve também o episódio do ex-Presidente americano Donald Trump sendo preso de forma truculenta por policiais de Nova Iorque.

Por isso o tema é tão importante, na opinião de Filipe Bento, CEO da Br24, a maior produtora de conteúdos sobre Bitrix24 – software de gestão empresarial – no mundo. “Hoje, o sistema de construção de deepfakes está tão aprimorado que o reconhecimento do que é ‘true’ (verdadeiro) e do que é ‘fake’ (falso) pode se tornar uma tarefa bem difícil.

Nascimento do deepfake

Quando o deepfake nasceu, em 2014, aproximadamente, seu uso era mais complicado, devido à exigência de conhecimentos avançados em tecnologia, contudo, “conforme a tecnologia foi avançando, soluções mais fáceis para produzir deepfakes foram surgindo”, comenta Filipe, entusiasta da IA.

E atualmente, devido à amplitude da IA, a edição de vídeos, áudios ou imagens está acessível para um número maior de pessoas, o que contribuiu para a disseminação de notícias falsas. Sendo que há alguns anos, apenas usuários com conhecimentos técnicos específicos eram capazes de manusear esses tipos de arquivos. E se por um lado a IA pode ser uma grande aliada no consumo, por outro o deepfake é capaz de causar muitos estragos. Prova disso está no relatório Identify Fraud Report 2023, da Sumsub, plataforma internacional que visa proteger o usuário de fraudes e golpes, que registrou um aumento de 830% nos casos de verificação forçada em relação a 2022.

De maneira idêntica, outro levantamento, dessa vez da Onfido, especializada em verificação de identidade, aponta o crescimento significativo de 3.000% em fraudes envolvendo manipulação de rostos (as “colagens”) entre 2022 e 2023.

Fraudes de identidade

Dos 224 países e 28 segmentos analisados pela Sumsub, o Brasil ocupou a última posição no ranking de nações que apresentaram fraudes de identidade, porém é alarmante ver como o país registrou um alto índice de golpes envolvendo IA. O Identify Fraud Report 2023 também apontou que os setores mais afetados por essas práticas foram os de fintechs, criptomoedas e iGaming.

“A deepfake é capaz de causar danos irreversíveis às empresas, da evasão de funcionários à perda de clientes importantes. E isso ocasiona um dano tremendo à marca e pode resultar, em casos mais extremos, à falência”, alerta o especialista em cibersegurança, governança corporativa e desenvolvimento e lideranças, Lucas Galvão.

Dicas de proteção

Pensando nisso, Lucas Galvão, CEO da Open Cybersecurity, separou cinco dicas essenciais para ajudar a proteger as empresas dos perigos não só da deepfake, como também de outras fake news. Confira:

1. Ofereça treinamento: os funcionários devem compreender os riscos das deepfakes e também como identificá-las.

Um funcionário treinado saberá reconhecer sinais de manipulação de mídia, como inconsistências na voz ou movimentos faciais e comportamentos fora do comum em vídeos ou áudios, e evitará que uma fake news seja compartilhada entre os demais.

Compartilhamento de dados

2. Estabeleça políticas claras: não se pode deixar em aberto como deve ser o uso e compartilhamento de mídia dentro das empresas. Em suma, é necessário que políticas claras sejam estabelecidas dentro das organizações. A prática de verificação de autenticidade de vídeos e áudios antes de compartilhá-los e a divulgação de informações sensíveis apenas em canais verificados e seguros garantem que apenas usuários confiáveis terão acesso àquele conteúdo.

3. Implemente processos: todos os processos dentro de uma empresa precisam de verificação, principalmente quando falamos de fontes para todos os conteúdos de mídia recebidos pela empresa. As ferramentas de autenticação de mídia são as melhores aliadas para verificar a legitimidade de vídeos e áudios.

Proteção x Deepfakes

4. Evite invasões: em todos os casos, é necessário evitar a invasão do servidor e o vazamento de dados sensíveis. Uma empresa bem protegida, com um restrito controle de acesso aos sistemas, evita que pessoas má intencionadas tenham acesso a materiais que possam ser fontes para deepfakes.

5. Adote soluções de monitoramento: uma dica ideal pode ser encontrar soluções proativas que possam detectar deepfakes em tempo real. A IA também pode ser usada para combater a si mesma. Dessa maneira, ter um time capaz de treinar tecnologia para analisar padrões anormais e identificar conteúdo manipulado ajudará a proteger a empresa. Na dúvida quanto à veracidade de um conteúdo, a melhor solução é não compartilhá-lo. Dessa forma, evita-se que você mesmo seja o propagador de fake news dentro da sua própria companhia”.

Como consumidores, é crucial desenvolvermos senso crítico e habilidades de verificação de conteúdo para identificar deepfakes e não sermos induzidos a decisões prejudiciais. A educação é a chave.

A Era do Diálogo

A Era do Diálogo de 2024 debaterá a “A Segurança das Transações On-line: A Defesa do Consumidor está preparada para fraudes de identidade e cibercrimes?“. O encontro acontecerá no dia 7 de maio, no Hotel Renaissance, em São Paulo.

O objetivo da Era do Diálogo, que está na 12ª edição, é unir vozes para moldar o futuro das relações consumeristas.

Assim, A Era do Diálogo é um espaço para reunir diversos elos da cadeia de prestação de serviço. O propósito é fortalecer a compreensão mútua e encontrar soluções para desafios enfrentados tanto em nível individual quanto coletivo. Saiba mais em: A Era do Diálogo