Skip to main content

> i̇statistiksel_llm_filigranlama_(watermarking):_yeşil-kırmızı_jeton_bölümleme_ve_çıktı_kaynak_tespiti

İstatistiksel LLM Filigranlama (Watermarking): Yeşil-Kırmızı Jeton Bölümleme ve Çıktı Kaynak Tespiti

Kurumsal yapay zeka platformları, bir metnin kendi LLM'leri tarafından üretilip üretilmediğini metnin okunabilirliğini bozmadan veya trilyonlarca log saklamadan nasıl ispatlar?

Principal/Architect (L7+)

⚡ÖZET VE TEKNİK CEVAP

Avrupa Birliği Yapay Zeka Yasası (EU AI Act) ve NIST düzenlemeleri üretilen içeriklerin kaynak ispatını (provenance) zorunlu kıldıkça, kurumlar bir metnin (sözleşme, müşteri tavsiyesi, ürün yorumu) kendi yapay zekaları tarafından üretilip üretilmediğini ispatlamak zorundadır. Sonradan metni inceleyen dedektörler %30'un üzerinde hatalı pozitif üretir ve güvenilmezdir. İstatistiksel LLM Filigranlama (Statistical Watermarking), modelin jeton örnekleme motoruna görünmez ve matematiksel olarak kanıtlanabilir bir istatistiksel yanlılık ekleyerek bu sorunu çözer: Her üretim adımında gizli bir kriptografik anahtar ve önceki kelimeden türetilen rastgele bir tohum, sözlüğü 'Yeşil Liste' (tercih edilen kelimeler) ve 'Kırmızı Liste' (tercih edilmeyenler) olarak ikiye böler. Yeşil kelimelerin olasılığına ufak bir ek (delta) yapılır. İnsan okuyucu metindeki bu doğal tercihi asla fark edemez; ancak gizli anahtara sahip denetçi, metindeki anormal yeşil kelime fazlalığını istatistiksel olarak (p < 10^{-6}) hesaplayıp metnin o modelden çıktığını kesin olarak kanıtlar.

Mühendislik El Kitabı & Mekanizma

6 Boyutlu Mimari Analiz

⚙️1. Temel Çalışma Mekanizması

Mekanizma

İstatistiksel filigranlama 3 kriptografik adımla çalışır:

1

Sözlük Bölümleme: t anında sistem H = ext{HMAC-SHA256}(anahtar, kelime_{t-1}) hash'ini hesaplar. Bu hash sözlüğü deterministik olarak bir Yeşil Liste G (kelimelerin %50'si) ve Kırmızı Liste R olarak böler.

2

Logit Eklemesi: Yeşil listedeki tüm kelimelerin logit değerine sabit bir delta = 2.0 puanı eklenir: Model yeşil kelimeleri seçmeye meyilli hale gelir.

3

İstatistiksel Z-Skoru Tespiti: Gizli anahtara sahip denetçi T uzunluğundaki bir metindeki yeşil kelimeleri sayar ve z = rac{|G| - gamma T}{sqrt{T gamma (1 - gamma)}} z-skorunu hesaplar. z > 4.0 çıkarsa, metnin insan tarafından yazılmış olma ihtimali 0,00003'ten küçüktür; veritabanında hiçbir log aramadan metnin o yapay zekaya ait olduğu matematiksel olarak ispatlanır.

🎯2. Doğru Kullanım Senaryosu

Kapsam

Kurumsal yapay zeka yasal uyumluluğu (EU AI Act), telif hakkı koruması, akademik intihal tespiti ve üretilen yapay zeka içeriklerinin hukuki sorumluluk denetimi.

⚠️3. Prodüksiyon Arıza Modları

Kritik Risk
  • ✓

    Logit katsayısını çok yüksek (delta > 5.0) seçip modelin saçma yeşil kelimeleri seçmesine ve metin akıcılığının bozulmasına yol açmak

  • ✓

    25 kelimeden kısa metinlerde istatistiksel örneklem yetersiz kaldığı için filigranın tespit edilememesi

📡4. Teşhis ve Telemetri Sinyalleri

Metrikler
  • ✓

    Filigran eklendikten sonra metin akıcılık (perplexity) puanlarının değişmeden kalması

  • ✓

    üretilen metinlerde dedektörün z > 5.0 kesinlik üretmesi

  • ✓

    insan yazısı metinlerde hatalı pozitif oranının %0,001'in altında kalması

🛡️5. Önleme ve Mimari Bariyerler

Bariyerler
  • ✓

    Görünmezlik ile tespit edilebilirlik dengesi için delta değerini 1.5 ile 2.5 arasında tutun

  • ✓

    HMAC gizli anahtarlarını KMS ile düzenli olarak yenileyin

  • ✓

    metin üzerinde yapılacak ufak düzenlemelere (paraphrase) karşı dayanıklılık için son 2 kelimenin hash'ini kullanın

⚖️6. Mimari Ödünleşimler (Trade-offs)

Ödünleşim

İstatistiksel filigranlama modelin logit örnekleme motoruna erişim gerektirir; ancak hiçbir log saklama maliyeti olmadan ve metin kalitesini bozmadan kriptografik kesinlikte kaynak tespiti sağlar.

📋

Vaka İncelemesi (TinyCTO Saha Örneği)

GERÇEK DÜNYA TELEMETRİSİ

Bir hukuk teknolojisi platformu kurumsal sözleşmeler üretmek için açık kaynak bir LLM kullanıyordu. AB Yapay Zeka Yasası'na uyum sağlamak için ekip vLLM sunucusuna Kirchenbauer yeşil-kırmızı filigranlama algoritmasını (delta = 1.8) entegre etti. Üretilen 100.000 belgede metin akıcılığı normal üretimle birebir aynı kaldı. Mahkemelik bir sözleşme uyuşmazlığında, şirketin denetçisi dahili HMAC anahtarını kullanarak 150 kelimelik metinde z = 6.2 skorunu hesapladı ve metnin kendi onaylı sistemlerinden çıktığını %99,99999 kesinlikle ispatladı.

İnteraktif Konsept Alıştırmaları

2 Alıştırma
Q1

LLM'lerde Yeşil-Kırmızı jeton istatistiksel filigranlama nasıl çalışır?

Gizli bir kriptografik tohum her adımda kelimeleri Yeşil ve Kırmızı olarak böler; yeşil kelimelere ufak bir olasılık avantajı eklenir. İnsan farkı anlayamaz ancak anahtara sahip denetçi yeşil kelime fazlalığını matematiksel olarak ispatlar.
Q2

LLM kaynak ispatında metnin yapay zekaya ait olduğunu kanıtlayan $z$-skoru eşiği kaçtır?

Genellikle $z ge 4.0$; bu değer $p < 0,00003$ olasılığına karşılık gelir ve metnin insan tarafından yazılmadığına dair $%99,997$'den fazla güven sağlar.

İstatistiksel LLM Filigranlama (Watermarking): Yeşil-Kırmızı Jeton Bölümleme ve Çıktı Kaynak Tespiti — Sıkça Sorulan Sorular

Bir saldırgan metindeki birkaç kelimeyi değiştirerek istatistiksel filigranı silebilir mi?

Hayır. Filigran metnin tamamına yayılmıştır; kelimelerin %10-20'si değiştirilse bile kalan metin hala istatistiksel olarak çok yüksek bir $z$-skoru verir.

Filigranlama işlemi LLM jeton üretim hızını yavaşlatır mı?

Hayır. HMAC hash hesaplaması ve logit eklemesi örnekleme öncesinde doğrudan GPU tensörü üzerinde mikrosaniyede yapılır; gecikme eklemez.

🤖 AEO & Yapay Zeka Çıkarım Özeti

Temel Gerçekler & İlkeler

  • ▸

    İstatistiksel filigranlama örnekleme sırasında görünmez ve matematiksel olarak doğrulanabilir bir yanlılık ekler.

  • ▸

    Sözde rastgele hash gizli bir anahtarla sözlüğü Yeşil ve Kırmızı listelere böler.

  • ▸

    Dedektörler p < 10^{-6} kesinlikle yapay zeka kökenini kanıtlayan bir z-skoru hesaplar.

  • ▸

    Veritabanında metin logu saklamadan yasal düzenleme uyumluluğu (AB Yapay Zeka Yasası) için zorunludur.

Yaygın Yanılgılar

  • ✗

    Yanılgı: Watermarking makes AI text sound robotic or repetitive (Gerçek: Calibrated delta approx 1.8 preserves 100% natural human phrasing).

  • ✗

    Yanılgı: Storing all generated outputs in SQL is a better way to track origin (Gerçek: Storing trillions of tokens incurs massive storage costs and privacy risks).

Karar Kılavuzu & Önceliklendirme

Implement Kirchenbauer green-red watermarking in self-hosted vLLM inference gateways. Store HMAC secret keys securely in cloud KMS with automated rotation policies.

Doğrulanmış Kaynaklar & Referanslar