Técnica de astronomia pode ajudar a identificar deepfakes

Pesquisadores da Universidade de Hull, no Reino Unido, descobriram um truque inesperado que pode nos ajudar a identificar deepfakes. Conforme apresentado na Reunião Nacional de Astronomia da Royal Astronomical Society, uma técnica usada na astronomia consegue detectar imagens falsas geradas por inteligência artificial.

Entenda:

• Uma técnica usada por astrônomos pode ajudar a identificar deepfakes;
• De acordo com pesquisadores da Universidade de Hull, os reflexos da luz nos olhos de pessoas em fotos ou vídeos pode indicar se a imagem é real ou gerada artificialmente;
• A equipe usou os índices CAS [concentração, assimetria, suavidade] e Gini [que mede a distribuição de luz entre os pixels de imagens de galáxias] para analisar a semelhança entre os reflexos de luz nos globos oculares;
• Se o reflexo for o mesmo nos dois olhos, a imagem provavelmente é verdadeira – já que, no caso dos deepfakes, os reflexos não costumam ser consistentes;
• O método está sujeito a falhas, mas fornece “um plano de ataque na corrida armamentista para detectar deepfakes”.

O segredo por trás do método é simples: basta analisar o reflexo dos olhos do indivíduo na foto ou vídeo. Se os reflexos forem iguais nos dois olhos, é bem provável que a imagem seja verdadeira. Caso contrário, podem ser deepfakes – já que, no caso de imagens geradas artificialmente, os reflexos em cada olho não costumam ser consistentes.

Análise dos olhos pode desmascarar deepfakes

Liderada por Adejumoke Owolabi, a equipe analisou os reflexos de luz nos olhos de indivíduos em imagens reais e geradas por IA. Depois, com métodos de quantificação usados por astrônomos, os pesquisadores compararam a consistência entre os reflexos em cada globo ocular.

“Detectamos os reflexos de forma automatizada e executamos suas características morfológicas por meio dos índices CAS [concentração, assimetria, suavidade] e Gini [que mede a distribuição de luz entre os pixels de imagens de galáxias] para comparar a similaridade entre os globos oculares esquerdo e direito. As descobertas mostram que os deepfakes apresentam algumas diferenças entre os dois”, diz Kevin Pimbblet, professor de astrofísica de Hull, em comunicado.

Pimbblet ainda destaca: “é importante observar que isso não é uma solução mágica para detectar imagens falsas. Ele explica que o método está sujeito a falsos positivos e falsos negativos, e pode deixar passar alguns detalhes. “Mas esse método nos fornece uma base, um plano de ataque na corrida armamentista para detectar deepfakes.”