Kaynak zehirleme, veri zehirleme, sentetik uzlaşma ve kaynak aklama…

Doğrudan cevap

Kaynak veya veri zehirleme, sistemin öğrendiği ya da bulduğu bilgi ortamının yanıltıcı içerikle kirletilmesidir. Birbirini kopyalayan çok sayıda sayfa, gerçekte var olmayan bir ortak görüş üretebilir. NOMOS GEO buna “sentetik uzlaşma” der. Zayıf bir iddianın kopyalar ve atıflar yoluyla güvenilir görünmesine ise “kaynak aklama” denir. Denetim sayfa sayısını değil; ilk kaynağı, bağımsızlığı, değişiklik geçmişini ve her kaynağın iddiayı gerçekten destekleyip desteklemediğini inceler.

Sade dille

Bir yanlış söylentinin yüz kez fotokopisini çektiğinizi düşünün. Masada yüz kâğıt vardır; fakat yüz ayrı tanık yoktur. AI sistemi de aynı cümlenin kopyalarını bağımsız doğrulamalar sanarsa yanlış bir çoğunluk görüntüsü oluşur.

Neden önemli?

Zehirlenmiş bilgi, yanlış varlık eşleştirmesine, hatalı öneriye, uydurma itibara veya gerçek kaynakların görünmez kalmasına yol açabilir. Kopya sayısı yüksek olduğu için hata güvenilir görünebilir ve uzun süre yaşayabilir.

Karıştırma

Veri zehirleme, eğitim, ince ayar veya vektör kaydı verisinin kasıtlı biçimde bozulmasıdır.
Kaynak zehirleme, bilgi seçimi veya araştırma yüzeyinin yanıltıcı içerikle kirletilmesidir.
Sentetik uzlaşma, bağımsız olmayan tekrarların bağımsız görüşler gibi görünmesidir.
Kaynak aklama, zayıf veya uydurma iddianın kopya ve atıf zinciriyle güçlü görünmesidir.
Yanlış bilgi her zaman saldırı değildir; kasıt kanıtlanamıyorsa olayın niyeti UNRESOLVED kalabilir.

Ne yapmalısın?

Her maddi iddia için ilk bulunabilen kaynağı ve sonraki kopya ilişkilerini çıkarın.
Metin benzerliği, yayın zamanı, sahiplik, bağlantı ve atıf izleriyle köken kümeleri oluşturun.
URL sayısı yerine bağımsız köken, otorite, güncellik ve doğrudan iddia desteğini ölçün.
Şüpheli kaynakları silmeden önce karantinaya alın ve bilgi seçimi etkisini durdurun.
İddiayı resmî kayıt, birincil belge veya gerçekten bağımsız kaynakla yeniden doğrulayın.
Etkilenen indeks, vektör kaydı, önbellek ve türetilmiş kayıtları belirleyip kontrollü biçimde yeniden oluşturun.
Düzeltmeden sonra aynı soru ve kaynak kümesiyle tekrar test yapın.

Nasıl denetlersin?

Kaynakların kaç tanesi gerçekten bağımsız bir kökene sahip?
En eski kaynak iddiayı kanıtlıyor mu, yoksa yalnız ileri sürüyor mu?
Kopyalar veya döngüsel atıflar bağımsız doğrulama gibi sayılmış mı?
Kaynak sahipliği, yayın tarihi ve değişiklik geçmişi korunmuş mu?
Şüpheli içerik hangi model, indeks, vektör kaydı ve çıktıları etkiledi?
Düzeltme yalnız görünür sayfada mı, bütün türetilmiş yüzeylerde mi yapıldı?
Kasıt kanıtı olmadan saldırgan niyet kesinleştirilmiş mi?

Sınır

Yüksek metin benzerliği tek başına kopyalama veya kötü niyet kanıtı değildir; farklı kaynakların aynı olguyu benzer biçimde anlatması mümkündür. Buna karşılık kaynak çeşitliliği de tek başına doğruluk kanıtlamaz. Niyet ve köken belirsizse sonuç açıkça UNRESOLVED tutulmalıdır.