A cada dia que passa, a Inteligência Artificial (IA) torna-se mais realista, e a tecnologia deepfake acaba de atingir um novo, assustador marco para evitar ferramentas de detecção, desestabilizando ainda mais a ténue linha entre o bem e o mal.
Segundo um estudo publicado esta quarta-feira (30), na Frontiers in Imaging, a tecnologia deepfake gerada por IA consegue agora imitar batimentos cardíacos humanos reais.
A confirmar-se, ao “fintar” métodos de detecção baseados em sinais fisiológicos, a técnica traz toda uma nova camada de realismo aos vídeos que, muitas vezes, já não conseguimos hoje distinguir da realidade.
Outras Notícias Para Ler
Actualmente, as ferramentas de detecção que se provam mais eficazes para captar estes vídeos e imagens falsos dependiam da identificação de mudanças subtis na cor da pele, provocadas pelo fluxo sanguíneo. Mas o novo estudo do Instituto Fraunhofer de Telecomunicações, na Alemanha, garante que alguns deepfakes podem agora simular esses sinais com precisão suficiente para enganar os sistemas de detecção.
Os investigadores, liderados por Peter Eisert, desenvolveram uma ferramenta de detecção destinada a analisar sinais de frequência cardíaca em vídeos, baseada na tecnologia de imagem médica chamada fotopletismografia remota, altamente precisa, segundo a revista BBC Science Focus.
Para testar a sua eficácia, gravaram vídeos reais de participantes e monitorizaram, ao mesmo tempo, as suas frequências cardíacas. Depois substituíram digitalmente os rostos dos participantes por versões alteradas. E confirmou-se o pior cenário: a ferramenta de detecção identificou sinais de pulsação realistas nos deepfakes, semelhantes aos da filmagem original.
“Agora, só porque uma pessoa tem um pulso mensurável num vídeo, isso não significa que possamos assumir que ela é real”, alerta Hany Farid, da Universidade da Califórnia, em Berkeley, à New Scientist. Mas também lembra que “só porque um ou alguns geradores de deepfakes conseguem reproduzir este sinal fisiológico, isso não significa que todos o consigam fazer.”
Face a este novo obstáculo, os investigadores já começaram a explorar novos, mas parecidos métodos de captação de deepfakes, como a detecção de outros padrões únicos de fluxo sanguíneo no rosto ou de detalhes microscópicos da imagem, como variações de brilho dos píxeis, na maioria das vezes imperceptíveis ao olho humano.
“À medida que o coração bate, o sangue flui pelos vasos sanguíneos e chega ao rosto”, disse Eisert à BBC Science Focus. “Depois, é distribuído por toda a área facial, e há um pequeno atraso nesse movimento que podemos detectar em imagens reais”, concluiu.
Fonte: Zap Aeiou
