Nos últimos dias, um aplicativo tem causado alvoroço na App Store chinesa. O Zao é um aplicativo que utiliza a tecnologia denominada de deepfake para substituir o rosto de atores de Hollywood durante cenas icônicas do cinema pela face dos usuários de forma um pouco chocante.
O aplicativo é o mais baixado do país na loja digital dos iPhones chineses e levantou uma discussão sobre privacidade.
Basta apenas uma fotografia para que o usuário adentre cenas icônicas de Game Of Thrones e Titanic, por exemplo. O aplicativo foi desenvolvido por uma empresa chinesa, portanto ainda não está disponível internacionalmente. É possível encontrar uma versão pirata em fóruns da internet, baixando um APK – formato de arquivo de apps para Android.

Vídeos com o resultado do aplicativo ganharam a web nesta semana. A maneira com a qual ele adapta a face dos usuários aos vídeos é impressionante. Isso levantou uma questão: o que o deepfake é capaz de fazer com imagens cotidianas? Essa não seria uma preocupação?
Segundo a Bloomberg é preciso enviar diversas outras fotos em várias expressões para tornar o vídeo cada vez mais real.
Todo o processo é baseado em Machine Learning e Inteligência Artificial. A tecnologia polêmica já foi responsável por inserir rostos de celebridades em produções pornográficas. Nos Estados Unidos, diversas leis consideram o uso da tecnologia um crime.
Por lá, a polêmica começou com um vídeo de Nancy Pelosi, representante e porta-voz da Casa Branca. A montagem trazia uma fala dela extremamente lenta que a fazia parecer prolixa. O vídeo ganhou mais de dois milhões de visualizações no Facebook. Outro caso foi o do repórter da CNN, Jim Acosta que durante uma conversa com um estagiário, parecia mais agressivo do que o real. A partir de todo este cenário, foi aberta uma discussão legislativa que tornou a prática ilegal em território americano.
O Facebook também anunciou que daria menos relevância a vídeos e conteúdos falsos que possam enganar o usuário. De acordo com um pesquisador da Universidade da California, Hany Farid, a tecnologia pode ser perigosa para as próximas eleições do país que acontecem em 2020, pois não se tem controle sobre a democratização do deepfake.

Here’s for Asian representation in Hollywood 😂 #ZAO #AI #Deepfake pic.twitter.com/qrSs3VajfL

— Allan Xia (@AllanXia) September 1, 2019

Deepfake e a polêmica de privacidade

Apesar do sucesso, é possível encontrar milhares de críticas negativas na página do aplicativo na App Store. Isso devido aos termos de privacidade que tornam todos os dados e imagens coletadas em propriedade da MoMo. Os termos dizem que a licença sob os dados é intransferível.
A discussão se cerceia em torno do uso das imagens e informações coletadas para venda de dados, uso indevido das informações para objetivos comerciais e a manipulação da imagem para fins pejorativos ou sem a autorização do usuário. Ao aceitar o termo, supostamente, a pessoa não possui mais direito sobre as imagens coletadas, permitindo ao aplicativo usá-las como bem entender.
Depois da polêmica com os usuários, a empresa atualizou seus termos informado que não usará as imagens coletadas para nada além do aprendizado de máquina. Outros aplicativos já foram alvo de polêmica devido aos termos de privacidade, como o FaceApp e o Dollify – hits passageiros das lojas de aplicativos que causaram comoção nas mídias sociais no primeiro semestre.

LEIA MAIS

Conheça o app avatar que viralizou no Brasil
Veja lista de dados coletados pelo app que envelhece as pessoas