A proliferação de conteúdos manipulados por inteligência artificial atingiu um patamar crítico, tornando a distinção entre o real e o sintético um desafio constante para a segurança digital. Pesquisadores do Instituto Fraunhofer de Optrônica, Tecnologias de Sistemas e Exploração de Imagens (IOSB), na Alemanha, apresentaram uma solução inovadora chamada RealorRender, capaz de identificar fraudes com uma taxa de precisão que varia entre 85% e 91%.

O projeto, desenvolvido em colaboração com o Escritório Federal Alemão de Segurança da Informação (BSI), não se limita apenas a apontar a falsidade de um arquivo. A tecnologia introduz uma camada de transparência ao explicar os motivos técnicos que levaram à classificação, um diferencial importante para combater a desinformação em larga escala.

Mecanismo híbrido na detecção de deepfakes

A eficácia da RealorRender reside em uma abordagem híbrida inédita. Em vez de depender exclusivamente de classificadores convencionais de aprendizado profundo, a ferramenta utiliza um gerador de imagens de IA para tentar reconstruir o arquivo analisado. A lógica é que uma inteligência artificial consegue replicar com maior facilidade padrões criados por outra máquina.

Ao realizar essa reconstrução, o sistema calcula o chamado erro de reconstrução. Conforme explicou Andreas Specker, cientista sênior do grupo de pesquisa de Sistemas de Segurança e Assistência por Vídeo do Fraunhofer IOSB, o modelo de classificação processa esses dados para gerar uma estimativa quantitativa de autenticidade, entregando ao usuário um veredito baseado em cálculos probabilísticos.

Transparência através da IA explicável

Um dos maiores obstáculos das ferramentas de detecção atuais é a falta de contexto sobre suas decisões. Para superar essa barreira, a RealorRender integra métodos de IA explicável (XAI), que permitem identificar quais elementos da imagem denunciam sua origem sintética, como texturas atípicas ou padrões de frequência anômalos.

A ferramenta utiliza dois recursos visuais principais para essa tarefa: mapas de calor, que sinalizam as áreas da imagem com maior peso na decisão do algoritmo, e a análise por segmentos. Esta última categoriza partes específicas, como o rosto ou o fundo, permitindo que o usuário compreenda exatamente onde a manipulação foi detectada.

Impacto global e aplicações práticas

A necessidade de tecnologias como a RealorRender é urgente diante do prejuízo financeiro e social causado por conteúdos falsos. Dados indicam que, apenas em 2025, fraudes envolvendo deepfakes movimentaram mais de US$ 1,5 bilhão globalmente. Além do impacto econômico, o uso de imagens manipuladas para fins de assédio, especialmente contra mulheres, tem crescido de forma alarmante em plataformas digitais.

Atualmente, a tecnologia está sendo incorporada a um demonstrador que auxiliará o BSI em suas operações. O fluxo de trabalho é simplificado: após o upload da imagem, o sistema processa a análise e entrega um resumo textual detalhado, tornando a ferramenta acessível para agências de segurança, empresas de mídia e plataformas de redes sociais que precisam justificar suas decisões de moderação de conteúdo.

Fonte: olhardigital.com.br