AI Watermarking
Yapay zeka filigranlama, makine tarafından algılanabilen bir sinyali oluşturulan görüntülere, metinlere, seslere veya videolara gizler. SynthID ve yeşil liste yöntemlerinin çalışma şekli ve başarısız oldukları durumlar.
Yapay zekâ filigranlama, bir üretken yapay zekâ sisteminin oluşturduğu içeriğe gizli ve makinelerce algılanabilir bir sinyal ekleme uygulamasıdır; böylece doğru anahtara sahip bir algılayıcı daha sonra bir görselin, videonun, ses kaydının veya metin parçasının bu sistemden geldiğini belirleyebilir. Sinyal, insanlarca fark edilmemek ve yeniden boyutlandırma ya da sıkıştırma gibi olağan düzenlemelere dayanmak üzere tasarlanır. Filigranlar, sentetik medya için veri kökeni yöntemlerinin bir parçasıdır ve düzenlemeler bunları zorunlu hâle getiriyor: AB Yapay Zekâ Tüzüğü'nün 50. maddesi, üretken sistem sağlayıcılarının çıktıları 2 Ağustos 2026'dan itibaren makinelerce okunabilir ve algılanabilir bir biçimde işaretlemesini gerektiriyor. Hâlihazırda piyasada bulunan sistemler için son tarih 2 Aralık 2026; Eylül 2025'ten beri yürürlükte olan Çin'in yapay zekâ tarafından oluşturulan içeriklerin etiketlenmesine ilişkin kuralları ise görünür etiketlerin yanı sıra dosya üst verisinde gizli etiketler de gerektiriyor.
Yapay Zekâ Filigranlama Nasıl Çalışır#
Güncel yöntemlerin çoğunda sinyal, içerik oluşturulurken eklenir; bu da sonradan eklenen bir işarete göre kaldırılmasını zorlaştırır.
- Görseller ve videolar: Eğitilmiş bir kodlayıcı, görüntünün tamamına yayılmış küçük değişiklikler yapar; eşlenik bir sinir ağı kod çözücü de sinyali daha sonra geri çıkarır. Google DeepMind'ın SynthID yöntemi Imagen, Veo ve Lyria gibi modellerin oluşturduğu görseller, videolar ve sesler için böyle çalışır. Meta'nın Stable Signature yöntemi ise gizil difüzyon modelinin kod çözücüsünde ince ayar yapar; böylece oluşturduğu her görüntü sabit bir ikili imza taşır. Diğer yöntemler, bir difüzyon modelinin gürültüyü gidererek oluşturduğu başlangıç gürültüsüne bir örüntü yerleştirir. Böylece işaret, ilk adımdan itibaren görüntünün gizil uzay temsiline işlenir.
- Metin: Bir büyük dil modeli (LLM), her belirteci bir olasılık dağılımından seçer; metin filigranı bu seçimleri yalnızca anahtar sahibinin sınayabileceği bir örüntüye doğru kaydırır. 2024'te Nature'da tanıtılan SynthID Text, kalitede ölçülebilir bir düşüşe yol açmadan yaklaşık 20 milyon Gemini yanıtında değerlendirildi ve Hugging Face Transformers'ta açık kaynak olarak sunuldu.
- Sonradan eklenen işaretler: Frekans alanı örüntüleri gibi klasik sinyal işleme filigranları, oluşturma sonrasında her dosyaya eklenebilir; ancak bunları kaldırmak genellikle daha kolaydır.
Görüntülerde algılama, kod çözücünün çıktı puanına; metinde ise belirteç dizisi üzerinde yapılan ve modele erişim gerektirmeyen istatistiksel bir teste dayanır.
Yeşil Liste Metin Filigranı#
Kirchenbauer ve çalışma arkadaşlarının A Watermark for Large Language Models başlıklı çalışmasındaki yöntem, söz dağarcığını "yeşil" bir kısım ve kalan "kırmızı" kısım olarak ayırmak için önceki belirteci gizli bir anahtarla özetler; ardından örnekleme öncesinde yeşil belirteçlerin logit değerlerine küçük bir eğilim ekler. Filigran içermeyen metinlerde yeşil belirteçler temel oranlarında görülürken filigranlı metinlerde çok daha sık görülür; bunu tek oranlı z-testi algılar. Aşağıdaki örnekte rastgele logit değerleri bir dil modelini temsil eder:
import torch
torch.manual_seed(0)
vocab, gamma, delta, length, key = 1000, 0.25, 2.0, 200, 42 # key is the secret shared with the detector
def green_list(prev):
"""Return the green 25% of the vocabulary, picked pseudorandomly from the key and previous token."""
return torch.randperm(vocab, generator=torch.Generator().manual_seed(key + prev))[: int(gamma * vocab)]
for bias in (0.0, delta): # ordinary sampling, then watermarked sampling
tokens = [0]
for _ in range(length):
logits = torch.randn(vocab) # stands in for a language model's next-token logits
logits[green_list(tokens[-1])] += bias
tokens.append(torch.multinomial(logits.softmax(0), 1).item())
# Detection needs only the text and the key: count green tokens and apply a one-proportion z-test
hits = sum(t in green_list(p) for p, t in zip(tokens, tokens[1:]))
z = (hits - gamma * length) / (length * gamma * (1 - gamma)) ** 0.5
print(f"bias {bias}: {hits}/{length} green tokens, z = {z:.1f}")Olağan örneklemede, 200 belirteçten 44'ü yeşil çıkar (z = -1.0); bu, beklenen %25'e yakındır. Filigranlı çalıştırmada ise 141 belirteç yeşil çıkar (z = 14.9); bu, makalenin metni filigranlı olarak işaretlemek için kullandığı z = 4 eşiğinin çok üzerindedir. Her belirteç kanıt sağladığından, uzun metinlerde algılama daha güvenilir olur. Kod veya olguların listesi gibi sıradaki belirtecin neredeyse zorunlu olduğu metinlerde ise sinyal daha zayıftır.
Filigranlama ve İlgili Yaklaşımlar#
- Content Credentials (C2PA): Bir dosyayı hangi aracın oluşturduğunu veya düzenlediğini kaydeden, kriptografik olarak imzalanmış bir üst veri manifestosu. Filigrandan çok daha fazla ayrıntı içerir, ancak bir dosya yeniden kodlandığında veya ekran görüntüsü alındığında kaybolur; bu yüzden ikisi çoğu zaman birlikte kullanılır.
- Deepfake ve yapay zekâ görüntüsü algılama: İçeriğe gömülü bir işaret olmadan, içerikteki üretim izlerini arayan sınıflandırıcılar. Her üreticinin çıktısında çalışırlar, ancak üreticiler geliştikçe olasılığa dayalı tahminleri kötüleşir. İnsanlar da bir görselin yapay zekâyla oluşturulup oluşturulmadığını gözle anlamak için benzer ipuçlarını kullanır.
- Steganografi: Gizli bir mesajı dosyanın içine saklama. Filigranlama, büyük miktarda veriyi gizlemektense sağlam algılamaya öncelik verirken steganografi tekniklerinden yararlanır.
Sentetik medyayı etiketleyen ve yapay zekâ çöplüğünü filtreleyen platformlarda genellikle şu denetimler birlikte kullanılır:
Sağlamlık ve Sınırlar#
Filigran; kırpma, yeniden boyutlandırma, renk değişimleri ve JPEG sıkıştırması gibi zararsız değişikliklere, ideal olarak da kasıtlı düşmanca saldırılara dayanmalıdır. Geliştiriciler, işaretlenmiş içeriğe veri artırma tarzı dönüşümler uygulayıp algılamanın ne sıklıkla başarılı olduğunu ölçerek bunu sınar. Güncel yöntemlerin bilinen zayıflıkları vardır:
- Yeniden oluşturma: Bir görüntüye gürültü ekleyip üretken bir modelle yeniden oluşturmak, görüntünün görünümünü benzer tutarken piksel düzeyindeki görünmez filigranları kaldırır.
- Başka sözcüklerle ifade etme ve çeviri: Filigranlı metni başka bir modelle yeniden yazmak veya çevirip tekrar çevirmek, algılayıcının saydığı belirteç örüntüsünü zayıflatır.
- Kapsam: Yalnızca işaret ekleyen sağlayıcıların çıktıları algılanabilir. Açık ağırlıklı modeller işaret olmadan çalıştırılabilir; bu nedenle filigranın bulunmaması, içeriğin insanlar tarafından oluşturulup oluşturulmadığı konusunda hiçbir şey söylemez.
- Sahtecilik: Bir yöntemi yeterince iyi öğrenen saldırgan, insan yapımı içeriğe o yöntemin işaretini ekleyerek yöntemin güvenilirliğini sarsabilir.
Görünür filigranlar, bilgisayarlı görü veri kümeleri için ayrı bir sorun oluşturur: modeller bunları kestirme yollar olarak öğrenir. Bilinen bir vakada, PASCAL VOC veri kümesi üzerinde eğitilen bir sınıflandırıcı, at fotoğraflarının yaklaşık beşte birinde görünen bir telif hakkı etiketinden kısmen yararlanarak atları tanımayı öğrendi; etiket kaldırıldığında ise başarısız oldu. Görünür işaretler ve logolar sıradan görüntü içeriği olduğundan, etiketli örneklerle eğitilen bir Ultralytics YOLO26 nesne algılama modeli bunları bir eğitim veri kümesi genelinde tespit edebilir; böylece ekipler, modele yanlış ipucunu öğretmeden önce işaretli görüntüleri kırpabilir veya kaldırabilir.










