A evolução da inteligência artificial tem gerado transformações profundas em diferentes áreas, mas também levantado alertas sobre o uso indevido de tecnologias para ações criminosas.
O deepfake é uma técnica que tem chamado atenção, por se tratar de uma ferramenta de manipulação digital que cria vídeos e fotografias falsas com alto grau de realismo.
Apesar de recente, a tecnologia já era usada anteriormente por softwares voltados à criação de conteúdos manipulados. Agora, com a popularização da IA generativa, sua aplicação se tornou ainda mais sofisticada e perigosa.
Caso você queira ficar bem informado e ter conhecimento sobre esse e outros tipos de fraudes que podem ocorrer digitalmente, inscreva-se no Curso “Na Mira dos Golpes”. Ministrado pelo Delegado Emmanoel David, é uma iniciativa Gazeta do Povo.
Quais são os perigos do deepfake?
O professor Marcelo Lau, coordenador do MBA em Cibersegurança da FIAP, explica o contexto em que a tecnologia é utilizada: “O deepfake é um produto da Inteligência Artificial submetido sobre conteúdo multimídia. Pode ser áudio, vídeo e fotografia, com o objetivo de gerar conteúdo enganoso, que não existe. É utilizado muito antes da IA generativa; já existem softwares há muito tempo que podem gerar desinformação, influenciar eleitores, e que levam a tomadas de decisão baseadas em informações falsas”.
Para o professor, a manipulação digital por meio de deepfakes compromete o debate público e pode colocar em risco a reputação de pessoas inocentes. “Entre os usos indevidos mais comuns está a criação de conteúdos sexualizados falsos, por exemplo, o que é chamado de deepnude.”.
Outra consequência grave do uso da tecnologia de deepfake, segundo ele, é a desinformação digital, que se espalha com facilidade nas redes. “Uma notícia verdadeira tem tempo para ser apurada; já a notícia falsa se propaga de maneira enorme. Isso vira um lugar sem lei. Quando existe um vídeo junto, a sociedade acaba tomada por más decisões. Temos que tomar cuidado.”.
Como identificar vídeos falsos?
O professor alerta que não há ferramentas infalíveis para identificar conteúdos manipulados: “Gostaria de dizer que existe uma fórmula mágica, mas não há. Existem sites e serviços que prometem identificar, mas a eficácia ainda está aquém do ideal. Em vez de fazer uma análise técnica, se aparecer algo suspeito, desconfie da veracidade. É melhor perguntar para alguém de confiança.”.
Embora existam sinais como expressões faciais estranhas, falhas no reconhecimento facial ou sincronização labial, o olhar crítico e a verificação com fontes confiáveis ainda são as melhores ferramentas para combater vídeos falsos.
Deepfake é crime?
O professor explica que, mesmo que ainda não haja uma legislação específica, atos praticados com deepfakes podem ser enquadrados em crimes já existentes, como falsidade ideológica e uso indevido de imagem. “Ainda não existe nada previsto nesse sentido. Entretanto, se alguém cria conteúdo enganoso em nome de outra pessoa, pode ser enquadrado no artigo de falsidade ideológica. Existem dispositivos relacionados, mas ainda não há uma legislação específica sobre deepfake.”.
É possível denunciar ou remover deepfakes?
Sim, plataformas como Meta e outras gigantes da tecnologia oferecem canais de denúncia, mas nem sempre conseguem agir com agilidade.
“Algumas empresas são mais rigorosas. Meta e Google, por exemplo, têm canais de comunicação bem estabelecidos, onde é possível fazer denúncias e eles podem analisar o conteúdo.”, completa.
Como se proteger de audiovisuais falsos?
Em momentos como eleições, crises políticas ou conflitos sociais, os deepfakes se tornam armas poderosas de manipulação. Por isso, é fundamental buscar verificadores de fatos, desconfiar de conteúdos sensacionalistas e evitar o compartilhamento impulsivo.
“Tem que pensar sobre os períodos em que os deepfakes são mais aplicados. É muito comum que pessoas gerem conteúdo falso pensando em monetização. É preciso ter cuidado com anos eleitorais. Busque os verificadores de fato antes de sair compartilhando”, arremata Marcelo Lau.