A identificação de deepfakes é uma tarefa complexa, e esclarecer o motivo pelo qual uma imagem é considerada falsa se revela ainda mais desafiador. Uma equipe de pesquisadores do Instituto Fraunhofer de Optrônica, Tecnologias de Sistemas e Exploração de Imagens (IOSB), na Alemanha, criou uma ferramenta capaz de realizar ambas as funções com uma taxa de detecção variando entre 85% e 91%, conforme anunciado pelo instituto.

Denominada RealorRender, a ferramenta foi desenvolvida em colaboração com o Escritório Federal Alemão de Segurança da Informação (BSI), que também fornece financiamento para o projeto.

Funcionamento da Ferramenta

A metodologia adotada é inovadora e híbrida. Ao invés de empregar somente um classificador convencional baseado em aprendizado profundo, a RealorRender integra duas abordagens distintas:

Primeiramente, um gerador de imagens alimentado por inteligência artificial tenta reproduzir a imagem que está sendo analisada. Quanto mais precisa for essa reconstrução, maior será a probabilidade de que a imagem original tenha sido criada por IA – já que uma IA tem mais facilidade em replicar conteúdos gerados por outra IA.

Na sequência, um modelo classificatório avalia o erro dessa reconstrução e fornece uma estimativa percentual sobre a autenticidade da imagem.

“A nossa primeira etapa envolve utilizar um gerador de imagens para recriar a imagem analisada. Logo após, um modelo de IA realiza a classificação e calcula hibridamente o erro na reconstrução, resultando em uma estimativa que revela a precisão do reconhecimento em forma percentual”, esclareceu Andreas Specker, cientista sênior do grupo dedicado à pesquisa em Sistemas de Segurança e Assistência por Vídeo no Fraunhofer IOSB.

Distinções na Explicação

Detectar deepfakes não é suficiente; assim, a RealorRender também fornece explicações sobre os motivos pelos quais uma imagem foi classificada como falsa, utilizando técnicas de inteligência artificial explicável (XAI).

“Elementos texturais distintos ou padrões frequenciais característicos podem sinalizar a origem sintética da imagem. O XAI contribui ao revelar quais atributos influenciam as decisões do modelo”, comentou Nadia Burkart, líder do grupo focado em IA Explicável Aplicada do Fraunhofer IOSB.

A ferramenta oferece dois tipos de visualização: mapas de calor que evidenciam as áreas da imagem que mais impactaram na decisão do modelo e análises segmentadas que identificam regiões semânticas específicas (como rostos, cabelos ou fundos) que indicam sua origem artificial.

Importância da Iniciativa

A problemática que a RealorRender busca enfrentar é significativa. Em 2025, as fraudes relacionadas a deepfakes superaram US$ 1,5 bilhão globalmente. Uma pesquisa realizada em 2023 localizou 276.149 deepfakes sexuais em um único site dedicado ao tema, sendo 96% desses casos envolvendo mulheres.

As pessoas enfrentam grandes dificuldades para diferenciar imagens autênticas das falsificações. Embora existam ferramentas automáticas disponíveis, elas raramente oferecem explicações sobre seus resultados – limitando sua eficácia para jornalistas, plataformas sociais e agências de segurança que necessitam justificar suas decisões de moderação.

Usuários Potenciais

A RealorRender está sendo integrada a um demonstrador que inicialmente auxiliará o BSI na identificação de deepfakes. O processo é simples: o usuário faz o upload da imagem e recebe tanto o resultado da detecção quanto uma explicação detalhada acompanhada por um resumo textual.

Os pesquisadores divulgaram dois relatórios sobre essa iniciativa. A tecnologia possui aplicações potenciais para agências de segurança pública, redes sociais, empresas do setor midiático e agências fotográficas.