Deepfakes

Deepfake'ler, derin öğrenme (DL) kullanılarak gerçek bir kişinin yüzünün, sesinin ya da bedeninin izleyenlerin bunları gerçek sanacağı kadar inandırıcı biçimde değiştirildiği veya üretildiği görüntüler, videolar ya da ses kayıtlarıdır. “Derin öğrenme” ve “sahte” sözcüklerinin birleşiminden oluşan terim, “deepfakes” adlı bir Reddit kullanıcısının açık kaynaklı araçlarla yüzleri değiştirilmiş videolar paylaşmaya başladığı 2017 yılına dayanır. Deepfake'ler, üretken yapay zekânın bir türüdür ve aynı teknikler film efektleri ve dublajın yanı sıra dolandırıcılık, taciz ve dezenformasyonda da kullanılır.

Deepfake'ler Nasıl Yapılır#

Klasik yüz değiştirme yöntemi, ortak bir kodlayıcıyı paylaşan bir çift otomatik kodlayıcı kullanır. Ortak kodlayıcı, her yüzü poz, ifade ve ışığı tanımlayan kompakt bir gizil uzay koduna sıkıştırmayı öğrenirken her kod çözücü bu koddan belirli bir kişiyi yeniden oluşturmayı öğrenir. Her iki kişinin de binlerce yüz kırpımıyla eğitim yapıldıktan sonra sistem, A kişisinin bir karesini kodlar ve B kişisinin kod çözücüsüyle çözer; böylece A kişisinin ifadesini taşıyan B kişisinin yüzünü üretir:

Diğer yöntemler de bunu izledi:

• Üretici çekişmeli ağlar (GAN'lar): Bir üretici görüntüler oluştururken bir ayırt edici bunların gerçek fotoğraflardan farkını bulmaya çalışır; bu rekabet, üreticiyi fotogerçekçiliğe yöneltir. StyleGAN gibi GAN'lar, gerçekte var olmayan kişilerin yüzlerini üretir.
• Difüzyon modelleri: Metin, referans fotoğrafı veya kaynak videonun yönlendirmesiyle gürültüyü adım adım kaldırarak görüntü ve video üretir. Günümüzde kullanılan fotoğraf düzenleme ve metinden video oluşturma araçlarının temelini oluştururlar; bu araçlar tek bir referans fotoğraftan konuşan bir kişinin gerçekçi videosunu üretebilir.
• Ses klonlama: Konuşma modelleri, kısa bir kayıttan kişinin sesini taklit eder; ardından dudak senkronizasyonu modelleri, mevcut videodaki ağzı yeni sesle eşleşecek şekilde yeniden şekillendirir.

Kullanım Alanları ve Zararları#

Deepfake tekniklerinin meşru kullanım alanları vardır. Stüdyolar oyuncuları gençleştirir ve filmleri dudak hareketleri eşleşecek şekilde başka dillere dublajlar. 2020 tarihli Welcome to Chechnya belgeseli, zulme uğrayan röportaj katılımcılarının yüzlerini gönüllülerinkiyle değiştirerek tüm ifadeleri korurken kimliklerini gizledi. Hastalık nedeniyle sesini kaybeden hastalar kayıtlarını saklayıp ses klonları aracılığıyla konuşabilir; oluşturulan yüzler de gerçek insanların fotoğraflarını toplamadan modelleri eğitmek için sentetik veri sağlar.

Zararların ölçeği çok daha büyüktür. İnternetteki deepfake'lerin çoğu, genellikle kadınları hedef alan, rıza dışı mahrem görüntülerdir. Dolandırıcılar acil ödeme talep etmek için akrabaların veya yöneticilerin seslerini klonlar; 2024'ün başlarında mühendislik şirketi Arup'ta çalışan bir kişi, şirketin finans direktörünün ve diğer çalışma arkadaşlarının tamamının deepfake olduğu bir görüntülü görüşmenin ardından yaklaşık 25 milyon ABD doları aktardı. Seçimler sırasında siyasetçilerin sahte videoları yayılır ve inandırıcı sahtekârlıkların varlığı, gerçek kayıtların da sahte olduğu iddiasıyla reddedilmesine olanak tanır.

Deepfake'leri Tespit Etme#

Tespit sistemleri, üretimin ardında bıraktığı izleri arar: yüz çevresindeki birleştirme izleri, gözlerde uyuşmayan ışık ve yansımalar, doğal olmayan göz kırpma veya baş hareketleri, gözle görülemeyen frekans artefaktları ve konuşmayla eşzamanlılığı bozulan dudak hareketleri. Çoğu tespit sistemi önce her yüzü bulup kırpar, ardından kırpımı gerçek ve değiştirilmiş örneklerle eğitilmiş bir sınıflandırıcıya verir. Ultralytics YOLO26 bu ikinci aşamaya uygundur: sınıflandırma modelleri her sınıf için ayrı klasör içeren bir veri kümesiyle eğitilir; dolayısıyla gerçek-sahte sınıflandırıcısını eğitmek için yüz kırpımlarından oluşan "gerçek" ve "sahte" klasörleri yeterlidir.

Tespit sistemleri, daha önce karşılaşmadıkları üretim yöntemlerine genelleme yapmakta zorlanır. Meta'nın Deepfake Tespit Yarışması'nda kazanan model, yeni videolardan oluşan gizli bir test kümesinde %65,18 ortalama kesinlik elde etti; açık test kümesindeki en iyi modelin sonucu ise %82,56'ydı. Tespit, üretimin gerisinde kaldığı için sektör kaynak doğrulamasına da başvurur: İçerik Kimlik Bilgileri (C2PA), medyanın nasıl yakalanıp düzenlendiğine ilişkin kriptografik olarak imzalanmış bir kayıt ekler; yapay zekâ filigranlama ise oluşturulan içeriğe gizli bir sinyal yerleştirir ve tespit sistemleri bunu daha sonra okuyabilir.

Deepfake'ler ve İlgili Kavramlar#

• Sentetik veri: Simüle edilmiş sürüş sahnelerinden işlenmiş ürün görüntülerine kadar, modelleri eğitmek veya test etmek için kullanılan yapay yollarla üretilmiş her türlü veri. Eğitim kümesini oluşturulan yüzlerin doldurduğu durumlarda deepfake teknikleri bu verinin kaynaklarından biridir.
• Bilgisayar tarafından oluşturulan görüntüler (CGI): Sanatçıların elle modellediği, donattığı ve canlandırdığı dijital karakterler ve efektler. Görsel efekt stüdyoları, aynı sahnede CGI'ı öğrenilmiş yüz değiştirme tekniğiyle giderek daha fazla bir arada kullanıyor.
• Shallowfake'ler: Bir klibi konuşanın konuşma bozukluğu varmış gibi duyulacak şekilde yavaşlatmak veya gerçek bir videoya yanlış bağlam içeren altyazı eklemek gibi, yapay zekâ kullanılmadan yapılan yanıltıcı düzenlemeler.

Düzenlemeler#

Yasalar artık deepfake'leri doğrudan hedef alıyor. AB Yapay Zekâ Yasası'nın 50. maddesi, 2 Ağustos 2026'dan itibaren deepfake oluşturmak için yapay zekâ kullanan dağıtımcıların içeriğin yapay olarak oluşturulduğunu veya değiştirildiğini açıklamasını, üretken sistem sağlayıcılarının ise çıktılarını makine tarafından okunabilir bir biçimde işaretlemesini zorunlu kılıyor. Amerika Birleşik Devletleri'nde Mayıs 2025'te imzalanan TAKE IT DOWN Yasası, rıza dışı mahrem deepfake'leri yayımlamayı federal suç hâline getirdi; 19 Mayıs 2026'dan itibaren kapsama giren platformların bu tür içerikleri geçerli bir talep üzerine 48 saat içinde kaldırması zorunlu oldu.