YOLO'yu lisansla
Ultralytics Sözlüğüne dön

AI Watermarking

Yapay zeka filigranlama, makine tarafından algılanabilen bir sinyali oluşturulan görüntülere, metinlere, seslere veya videolara gizler. SynthID ve yeşil liste yöntemlerinin çalışma şekli ve başarısız oldukları durumlar.

Yapay zekâ filigranlama, bir üretken yapay zekâ sisteminin oluşturduğu içeriğe gizli ve makinelerce algılanabilir bir sinyal ekleme uygulamasıdır; böylece doğru anahtara sahip bir algılayıcı daha sonra bir görselin, videonun, ses kaydının veya metin parçasının bu sistemden geldiğini belirleyebilir. Sinyal, insanlarca fark edilmemek ve yeniden boyutlandırma ya da sıkıştırma gibi olağan düzenlemelere dayanmak üzere tasarlanır. Filigranlar, sentetik medya için veri kökeni yöntemlerinin bir parçasıdır ve düzenlemeler bunları zorunlu hâle getiriyor: AB Yapay Zekâ Tüzüğü'nün 50. maddesi, üretken sistem sağlayıcılarının çıktıları 2 Ağustos 2026'dan itibaren makinelerce okunabilir ve algılanabilir bir biçimde işaretlemesini gerektiriyor. Hâlihazırda piyasada bulunan sistemler için son tarih 2 Aralık 2026; Eylül 2025'ten beri yürürlükte olan Çin'in yapay zekâ tarafından oluşturulan içeriklerin etiketlenmesine ilişkin kuralları ise görünür etiketlerin yanı sıra dosya üst verisinde gizli etiketler de gerektiriyor.

Yapay Zekâ Filigranlama Nasıl Çalışır#

Güncel yöntemlerin çoğunda sinyal, içerik oluşturulurken eklenir; bu da sonradan eklenen bir işarete göre kaldırılmasını zorlaştırır.

  • Görseller ve videolar: Eğitilmiş bir kodlayıcı, görüntünün tamamına yayılmış küçük değişiklikler yapar; eşlenik bir sinir ağı kod çözücü de sinyali daha sonra geri çıkarır. Google DeepMind'ın SynthID yöntemi Imagen, Veo ve Lyria gibi modellerin oluşturduğu görseller, videolar ve sesler için böyle çalışır. Meta'nın Stable Signature yöntemi ise gizil difüzyon modelinin kod çözücüsünde ince ayar yapar; böylece oluşturduğu her görüntü sabit bir ikili imza taşır. Diğer yöntemler, bir difüzyon modelinin gürültüyü gidererek oluşturduğu başlangıç gürültüsüne bir örüntü yerleştirir. Böylece işaret, ilk adımdan itibaren görüntünün gizil uzay temsiline işlenir.
  • Metin: Bir büyük dil modeli (LLM), her belirteci bir olasılık dağılımından seçer; metin filigranı bu seçimleri yalnızca anahtar sahibinin sınayabileceği bir örüntüye doğru kaydırır. 2024'te Nature'da tanıtılan SynthID Text, kalitede ölçülebilir bir düşüşe yol açmadan yaklaşık 20 milyon Gemini yanıtında değerlendirildi ve Hugging Face Transformers'ta açık kaynak olarak sunuldu.
  • Sonradan eklenen işaretler: Frekans alanı örüntüleri gibi klasik sinyal işleme filigranları, oluşturma sonrasında her dosyaya eklenebilir; ancak bunları kaldırmak genellikle daha kolaydır.

Görüntülerde algılama, kod çözücünün çıktı puanına; metinde ise belirteç dizisi üzerinde yapılan ve modele erişim gerektirmeyen istatistiksel bir teste dayanır.

Yeşil Liste Metin Filigranı#

Kirchenbauer ve çalışma arkadaşlarının A Watermark for Large Language Models başlıklı çalışmasındaki yöntem, söz dağarcığını "yeşil" bir kısım ve kalan "kırmızı" kısım olarak ayırmak için önceki belirteci gizli bir anahtarla özetler; ardından örnekleme öncesinde yeşil belirteçlerin logit değerlerine küçük bir eğilim ekler. Filigran içermeyen metinlerde yeşil belirteçler temel oranlarında görülürken filigranlı metinlerde çok daha sık görülür; bunu tek oranlı z-testi algılar. Aşağıdaki örnekte rastgele logit değerleri bir dil modelini temsil eder:

import torch

torch.manual_seed(0)
vocab, gamma, delta, length, key = 1000, 0.25, 2.0, 200, 42  # key is the secret shared with the detector


def green_list(prev):
    """Return the green 25% of the vocabulary, picked pseudorandomly from the key and previous token."""
    return torch.randperm(vocab, generator=torch.Generator().manual_seed(key + prev))[: int(gamma * vocab)]


for bias in (0.0, delta):  # ordinary sampling, then watermarked sampling
    tokens = [0]
    for _ in range(length):
        logits = torch.randn(vocab)  # stands in for a language model's next-token logits
        logits[green_list(tokens[-1])] += bias
        tokens.append(torch.multinomial(logits.softmax(0), 1).item())

    # Detection needs only the text and the key: count green tokens and apply a one-proportion z-test
    hits = sum(t in green_list(p) for p, t in zip(tokens, tokens[1:]))
    z = (hits - gamma * length) / (length * gamma * (1 - gamma)) ** 0.5
    print(f"bias {bias}: {hits}/{length} green tokens, z = {z:.1f}")

Olağan örneklemede, 200 belirteçten 44'ü yeşil çıkar (z = -1.0); bu, beklenen %25'e yakındır. Filigranlı çalıştırmada ise 141 belirteç yeşil çıkar (z = 14.9); bu, makalenin metni filigranlı olarak işaretlemek için kullandığı z = 4 eşiğinin çok üzerindedir. Her belirteç kanıt sağladığından, uzun metinlerde algılama daha güvenilir olur. Kod veya olguların listesi gibi sıradaki belirtecin neredeyse zorunlu olduğu metinlerde ise sinyal daha zayıftır.

  • Content Credentials (C2PA): Bir dosyayı hangi aracın oluşturduğunu veya düzenlediğini kaydeden, kriptografik olarak imzalanmış bir üst veri manifestosu. Filigrandan çok daha fazla ayrıntı içerir, ancak bir dosya yeniden kodlandığında veya ekran görüntüsü alındığında kaybolur; bu yüzden ikisi çoğu zaman birlikte kullanılır.
  • Deepfake ve yapay zekâ görüntüsü algılama: İçeriğe gömülü bir işaret olmadan, içerikteki üretim izlerini arayan sınıflandırıcılar. Her üreticinin çıktısında çalışırlar, ancak üreticiler geliştikçe olasılığa dayalı tahminleri kötüleşir. İnsanlar da bir görselin yapay zekâyla oluşturulup oluşturulmadığını gözle anlamak için benzer ipuçlarını kullanır.
  • Steganografi: Gizli bir mesajı dosyanın içine saklama. Filigranlama, büyük miktarda veriyi gizlemektense sağlam algılamaya öncelik verirken steganografi tekniklerinden yararlanır.

Sentetik medyayı etiketleyen ve yapay zekâ çöplüğünü filtreleyen platformlarda genellikle şu denetimler birlikte kullanılır:

Sağlamlık ve Sınırlar#

Filigran; kırpma, yeniden boyutlandırma, renk değişimleri ve JPEG sıkıştırması gibi zararsız değişikliklere, ideal olarak da kasıtlı düşmanca saldırılara dayanmalıdır. Geliştiriciler, işaretlenmiş içeriğe veri artırma tarzı dönüşümler uygulayıp algılamanın ne sıklıkla başarılı olduğunu ölçerek bunu sınar. Güncel yöntemlerin bilinen zayıflıkları vardır:

  • Yeniden oluşturma: Bir görüntüye gürültü ekleyip üretken bir modelle yeniden oluşturmak, görüntünün görünümünü benzer tutarken piksel düzeyindeki görünmez filigranları kaldırır.
  • Başka sözcüklerle ifade etme ve çeviri: Filigranlı metni başka bir modelle yeniden yazmak veya çevirip tekrar çevirmek, algılayıcının saydığı belirteç örüntüsünü zayıflatır.
  • Kapsam: Yalnızca işaret ekleyen sağlayıcıların çıktıları algılanabilir. Açık ağırlıklı modeller işaret olmadan çalıştırılabilir; bu nedenle filigranın bulunmaması, içeriğin insanlar tarafından oluşturulup oluşturulmadığı konusunda hiçbir şey söylemez.
  • Sahtecilik: Bir yöntemi yeterince iyi öğrenen saldırgan, insan yapımı içeriğe o yöntemin işaretini ekleyerek yöntemin güvenilirliğini sarsabilir.

Görünür filigranlar, bilgisayarlı görü veri kümeleri için ayrı bir sorun oluşturur: modeller bunları kestirme yollar olarak öğrenir. Bilinen bir vakada, PASCAL VOC veri kümesi üzerinde eğitilen bir sınıflandırıcı, at fotoğraflarının yaklaşık beşte birinde görünen bir telif hakkı etiketinden kısmen yararlanarak atları tanımayı öğrendi; etiket kaldırıldığında ise başarısız oldu. Görünür işaretler ve logolar sıradan görüntü içeriği olduğundan, etiketli örneklerle eğitilen bir Ultralytics YOLO26 nesne algılama modeli bunları bir eğitim veri kümesi genelinde tespit edebilir; böylece ekipler, modele yanlış ipucunu öğretmeden önce işaretli görüntüleri kırpabilir veya kaldırabilir.

Çözümleri keşfet

Sporda bilgisayarlı görü

Sporda bilgisayarlı görü

Ultralytics YOLO'nun oyuncu ve top takibi, performans analitiği, antrenörlük içgörüleri ve sporcu rehabilitasyonuyla spor alanında görsel yapay zekâyı nasıl güçlendirdiğini keşfet.
Daha fazla bilgi edin
Hava görüntüleri için bilgisayarlı görü

Hava görüntüleri için bilgisayarlı görü

İHA ve hava görüntülerini Ultralytics YOLO ile tarım, su ürünleri yetiştiriciliği, koruma çalışmaları ve jeo-uzamsal analiz için gerçek zamanlı içgörülere dönüştür.
Daha fazla bilgi edin
Havacılıkta bilgisayarlı görü

Havacılıkta bilgisayarlı görü

Uçak denetimi, pistteki yabancı madde tespiti, havaalanı yer operasyonları ve kompozit malzeme kusurlarının tespiti için Ultralytics YOLO ile havacılık ve uzay sektöründe bilgisayarlı görü uygula.
Daha fazla bilgi edin
Güvenlikte bilgisayarlı görü

Güvenlikte bilgisayarlı görü

Ultralytics YOLO modelleriyle her sahayı koru. Görsel yapay zekâ; çevre izleme, tehdit tespiti, plaka tanıma ve iş yeri güvenliğini destekler.
Daha fazla bilgi edin
Robotikte bilgisayarlı görü

Robotikte bilgisayarlı görü

Ultralytics YOLO modelleriyle daha akıllı makinelere güç ver. Robotikte görsel yapay zekâ; otonom navigasyonu, algılamayı, nesne takibini ve gerçek zamanlı kontrolü destekler.
Daha fazla bilgi edin
Lojistikte bilgisayarlı görü

Lojistikte bilgisayarlı görü

Ultralytics YOLO modelleriyle lojistiği kolaylaştır. Görüntü yapay zekâsı; paket denetimini, ayrıştırmayı, araç takibini ve gerçek zamanlı depo güvenliği izlemeyi mümkün kılar.
Daha fazla bilgi edin
Perakendede bilgisayarlı görü

Perakendede bilgisayarlı görü

Ultralytics YOLO modelleriyle perakendeyi yeniden tasarla. Görüntü yapay zekâsı; envanter takibini, raf izlemeyi, kuyruk yönetimini ve daha kapsamlı müşteri analizlerini mümkün kılar.
Daha fazla bilgi edin
Sağlık hizmetlerinde bilgisayarlı görü

Sağlık hizmetlerinde bilgisayarlı görü

Ultralytics YOLO modelleriyle sağlık çözümleri geliştir. Sağlık hizmetlerinde görüntü yapay zekâsı; daha hızlı tıbbi görüntüleme, daha akıllı tanı ve hasta takibini mümkün kılar.
Daha fazla bilgi edin
Üretimde bilgisayarlı görü

Üretimde bilgisayarlı görü

Ultralytics YOLO modelleriyle üretimi optimize et. Görsel yapay zekâ; kalite kontrolünü, kusur tespitini, kişisel koruyucu donanım uyumunu ve montaj hattı otomasyonunu destekler.
Daha fazla bilgi edin
Otomotivde bilgisayarlı görü

Otomotivde bilgisayarlı görü

Ultralytics YOLO modelleriyle otomotivde bilgisayarlı görüden yararlan. Görsel yapay zekâ; daha akıllı yollar için yol güvenliğini, sürüş desteğini ve araç otomasyonunu ileri taşır.
Daha fazla bilgi edin
Tarımda bilgisayarlı görü

Tarımda bilgisayarlı görü

Ultralytics YOLO modelleriyle akıllı tarıma görüntü yapay zekâsı kazandır. Daha yüksek ve akıllı verim için mahsul izleme, hayvan takibi ve hassas tarımı destekle.
Daha fazla bilgi edin

Geleceğin yapay zekasını birlikte inşa edelim!

Makine öğreniminin geleceğine yolculuğuna başla