Deepfake videolarını tespit etmek zorlaşıyor! Gerçekçi kalp atışları

Bir kişinin yüzünün ya da bedeninin dijital olarak değiştirilmesiyle oluşturulan deepfake görüntüler telaş yaratmaya devam ediyor.

Bu görüntüler gerçek bir kişinin imajının yapay zeka kullanılarak değiştirilmesiyle yapılıyor. Aslında bu teknoloji, kullanıcıların yüzünü kediye dönüştüren yahut yaşlandıran uygulamalar üzere zararsız emellerle da kullanılabiliyor.

Independent Türkçe’nin aktardığına nazaran insanların cinsel içerikli görüntülerini üretmek yahut günahsız insanlara iftira atmak için de kullanılabilmesi önemli bir sorun teşkil ediyor. Bu görüntülerin uydurma olup olmadığını anlamak için kullanılan gelişmiş prosedürlerden biri kalp atışlarını izlemek.

Uzaktan fotopletismografi (rPPP) isimli araç, deriden geçen ışıktaki küçük değişiklikleri tespit ederek nabzı ölçüyor. Nabız ölçen pulse oksimetreyle birebir prensiple çalışan bu araç, çevrimiçi doktor randevularının yanı sıra deepfake görüntüleri tespit etmek için de kullanılıyor.

Bulguları hakemli mecmua Frontiers in Imaging’de 30 Nisan’da yayınlanan çalışmaya nazaran deepfake imgelerde artık gerçekçi kalp atışları var.

Bilim insanları çalışmalarına görüntülerdeki nabız suratını otomatik olarak saptayıp tahlil eden bir deepfake dedektörü geliştirerek başladı. Akabinde rPPP tabanlı bu aracın datalarını, EKG kayıtlarıyla karşılaştırarak hassasiyetini ölçtüler. Son derece güzel performans gösteren aracın EKG’yle ortasında dakikada yalnızca iki-üç atımlık fark vardı.

Ekip aracı deepfake görüntüler üzerinde test ettiğindeyse rPPP, görüntüye kalp atışı eklenmese bile son derece gerçekçi bir kalp atışı algıladı. Bilim insanları kalp atışlarının görüntüye taammüden eklenebileceği üzere, kullanılan kaynak görüntüden resen geçebileceğini de söylüyor.

Almanya’daki Humboldt Üniversitesinden çalışmanın ortak müellifi Peter Eisert “Kaynak görüntü gerçek bir bireye aitse, bu artık deepfake görüntüye aktarılabiliyor” diyerek ekliyor:

Sanırım tüm deepfake dedektörlerinin yazgısı bu; deepfake’ler gitgide daha güzel hale geliyor ve iki yıl evvel düzgün çalışan bir dedektör bugün büsbütün başarısız olmaya başlıyor.

Araştırmacılar yeniden de geçersiz görüntüleri saptamanın öteki yolları olduğunu düşünüyor. Örneğin yalnızca nabız suratını ölçmek yerine, yüzdeki kan akışını detaylı olarak takip eden dedektörler geliştirilebilir.

Eisert, “Kalp atarken kan, damarlardan geçerek yüze akıyor ve daha sonra tüm yüz bölgesine dağılıyor. Bu harekette gerçek imajlarda tespit edebileceğimiz küçük bir gecikme var” diyor.

Ancak bilim insanına nazaran en son tahlil deepfake dedektörlerinden çok, bir imgenin üzerinde oynanıp oynanmadığını anlamaya yarayan dijital işaretlere odaklanmaktan geçiyor:

Bir şeyin geçersiz olup olmadığını tespit etmek yerine bir şeyin değiştirilmediğini kanıtlayan teknolojiye daha fazla odaklanmadığımız sürece, deepfake’lerin saptanmalarını zorlaştıracak kadar yeterli olacağını düşünüyorum.