A partir de junho, os deepfakes não são muito do show do Facebook. No entanto, o gigante tecnológico ainda está motivado a proteger sua empresa e seus usuários contra ameaças futuras que poderiam destruir sua credibilidade.
O Facebook agora tem uma equipe de pesquisa bem financiada que planeja distinguir uma maneira de combater as falsificações profundas.
O último projeto da equipe está em colaboração com numerosos acadêmicos da Michigan State University. Eles se uniram para criar um método que pode reverter a engenharia de deepfakes através da análise de imagens geradas por inteligência artificial para revelar as características de identificação do modelo de aprendizagem da máquina.
Como o plano do Facebook vai ajudar a empresa
A pesquisa do Facebook será útil porque ajudará a empresa de mídia social a rastrear atores notórios que espalham falsificações profundas através de várias contas do Facebook.
A Verge informou que seu conteúdo pode ou não incluir desinformação, e pornografia não consensual, uma aplicação típica da tecnologia deepfake.
O projeto ainda está em andamento, e ainda não está para implantação.
Combate à tecnologia Deepfakes
Pesquisas anteriores na área de tecnologia de deepfakes poderiam determinar o modelo específico de IA que gerou uma falsificação profunda.
No entanto, o projeto do Facebook irá ocupar um lugar de destaque ao identificar os traços arquitetônicos específicos dos modelos desconhecidos. Estes traços são chamados de hiperparâmetros. Eles estão sintonizados em cada modelo de aprendizagem de máquina como partes de seu motor.
Coletivamente, estes hiperparâmetros deixam traços de impressões digitais únicas encontradas na imagem final. Mais tarde, ele será usado para identificar sua fonte.
De acordo com um relatório da Soft Pedia News, Tal Hassner mencionou que é essencial identificar os traços de modelos desconhecidos porque o software deepfake é fácil de customizar.
Como funciona o projeto
Devido à fácil personalização, os maus atores podem cobrir seus rastros quando os investigadores rastreiam seus locais e atividades.
Hassner disse que, ao usar o novo modelo de IA, o Facebook teria mais facilidade em rastrear deepfakes. Se assumirmos que um mau ator começou a gerar vários deepfakes e espalhá-los em inúmeras plataformas, a IA pode detectar que as fotos vieram todas de um dispositivo ou modelo.
A captura do culpado é tornada mais acessível pelo modelo, acrescentou Hassner.
Ele comparou o modelo com várias técnicas forenses usadas para identificar o modelo específico da câmera usada para tirar uma foto, simplesmente olhando os padrões em cada imagem.
Além disso, ele afirmou que qualquer pessoa com experiência prática no campo e um computador padrão poderia rapidamente cozinhar seu modelo para gerar falsificações profundas.
Em 2020, o Facebook organizou um concurso de detecção de deepfake. O algoritmo vencedor foi capaz de detectar clipes manipulados por IA 65,18% do tempo. Embora impressionante, ele ainda não é suficientemente alto para ser confiável o tempo todo.
Enquanto isso, é melhor pensar duas vezes antes de publicar e compartilhar qualquer coisa na mídia social, porque as tecnologias deepfake podem arruinar rapidamente a reputação de uma pessoa.
