İnternette farklı bilgi türleri farklı yetkili kaynaklarda tutulur. Bir kurumun adı sicilde, güncel fiyatı satış kaydında, hizmet sınırı sözleşmede, uygulama durumu ise işlem sisteminde bulunabilir.
Doğru alan adına ulaşmış olabilir.
Doğru hesabı, ürünü veya hizmeti incelemiş olabilir.
Fakat doğru varlığı bulmak, onun hakkında doğru bir dünya modeli kurulduğu anlamına gelmez.
İnternette gerçeklik tek bir yerde durmaz.
Bir fiyat web sitesindedir.
Başka bir fiyat iş dizininde.
Hizmet kapsamı satış sunumunda farklı anlatılır.
Sosyal medya paylaşımı geçici bir kampanyadan söz eder.
Yapılandırılmış veri görünür sayfadan daha geniş bir vaat taşır.
İngilizce metin günceldir; diğer diller eski kalmıştır.
Bir yapay zekâ cevabı, başka bir yapay zekâ tarafından üretilmiş metni kaynak alır. Yeni içerikler de bu cevabı tekrarlar.
Sonunda aynı iddia birçok yerde görünür.
Fakat çok görünmesi onu doğru yapmaz.
Bir ajanın eylemden önce oluşturduğu temsil, elindeki kaynaklardan doğar. Kaynaklar eski, eksik veya birbirleriyle çelişkiliyse ajan son derece mantıklı bir kararı yanlış gerçeklik üzerinde verebilir.
Bu bölümdeki dokuz hata şu sorunun çevresinde toplanır:
Ajan doğru varlığı buldu; fakat onun hakkında bildikleri gerçekten doğru mu?
GBO-ERR-010 — Tekrarı Doğruluk Sanmak
Kısa olay
Bir satın alma ajanı, şirket için müşteri ilişkileri yazılımı araştırmaktadır.
Belirli bir ürün hakkında şu ifadeyi birçok sayfada görür:
“Bütün paketlerde sınırsız kullanıcı bulunur.”
Bu ifade:
ürün karşılaştırma sitelerinde,
birkaç teknoloji blogunda,
bir sosyal medya gönderisinde,
yapay zekâ ile üretilmiş iki incelemede,
eski bir forum cevabında
tekrar edilmektedir.
Ajan altı ayrı kaynakta aynı bilginin bulunmasını güçlü uzlaşma olarak yorumlar. Ürünün şirketin büyüyen ekibi için uygun olduğuna karar verir ve yıllık abonelik teklifini onaya sunar.
Satın alma sonrasında sınırsız kullanıcı özelliğinin yalnızca en pahalı kurumsal pakette bulunduğu anlaşılır.
Orta paket kullanıcı başına ayrıca ücretlendirilir.
Altı kaynak aynı şeyi söylemiştir.
Fakat altısının da kökü üç yıl önceki yanlış bir karşılaştırma tablosudur.
Yüzeyde doğru görünen şey
Bir bilginin birbirinden farklı görünen kaynaklarda tekrar edilmesi doğal olarak güven oluşturur.
İnsanlar da çoğu zaman şu kısa yolu kullanır:
“Birçok yerde yazıyorsa muhtemelen doğrudur.”
Ajan açısından tekrar daha da güçlü görünebilir. Çünkü sistem, kaynakların biçimsel olarak farklı olduğunu görür:
farklı alan adları,
farklı yazar adları,
farklı yayın tarihleri,
farklı cümle yapıları.
Fakat görünüşteki çeşitlilik, bilgi kökeninin çeşitliliği anlamına gelmez.
Gerçek kırılma
İhlal edilen kapı Kanıt Bağımsızlığı Kapısıdır.
Ajan şu iki şeyi birbirine karıştırmıştır:
Tekrar sayısı Bağımsız doğrulama sayısı
Bir iddia yüz farklı sayfada bulunabilir.
Fakat bütün sayfalar aynı eski veya yanlış kaynaktan türemişse ortada yüz kanıt değil, tek bir tekrar zinciri vardır.
Tekrar görünürlüğü artırabilir.
Doğruluğu garanti etmez.
Olası zarar
Bu hata:
yanlış ürün veya tedarikçi seçimine,
toplam maliyetin yanlış hesaplanmasına,
kapasite ve özellik beklentisinin bozulmasına,
uzun dönemli abonelik yükümlülüğüne,
şirket verisinin uygun olmayan sisteme taşınmasına,
daha doğru fakat daha az görünür seçeneklerin elenmesine
neden olabilir.
Asıl ek risk, yanlış iddianın tekrar yoluyla yeni bir güven sinyaline dönüşebilmesidir.
Yanlışlık davranış yoluyla kendisini güçlendirir.
Tespit işareti
Şu durumlar uyarı işaretidir:
Çok sayıda kaynak aynı veya çok benzer ifadeyi kullanıyor.
Kaynaklar birincil ürün veya kurum kaydına bağlanmıyor.
Farklı sitelerde aynı tablo, cümle veya yazım hatası bulunuyor.
Kaynakların bir bölümü birbirini kaynak gösteriyor.
Güncel resmî kayıt tekrar edilen ifadeyle çelişiyor.
Ajan kaynak sayısını inceleyip kaynak kökenini incelemiyor.
“Birçok yerde yazıyor” gerekçesi tek başına karar kanıtı hâline geliyor.
Doğru davranış
Ajan tekrar saymadan önce bilgi kökenini incelemelidir.
Şunları sormalıdır:
Bu iddia ilk olarak nerede yayımlandı?
Kaynaklar gerçekten bağımsız mı?
Ürün veya kurumun bu bilgi türü için güncel esas kaydı — bu kitapta kullandığımız geniş anlamıyla kanonik kayıt — ne söylüyor?
Bilginin geçerlilik tarihi var mı?
Kaynaklar farklı veri toplamış mı, yoksa birbirini mi yeniden anlatmış?
Önemli karar için doğrudan doğrulama gerekir mi?
Ajanın doğru ifadesi şu olabilir:
“Sınırsız kullanıcı özelliği birçok üçüncü taraf sayfada tekrar ediliyor; ancak kaynakların bağımsızlığı doğrulanamadı ve güncel resmî fiyat sayfası paket sınırları gösteriyor. Satın alma öncesinde doğrudan sağlayıcıdan yazılı kapsam doğrulaması gerekir.”
Makine kuralı
Tekrar sayısı kanıt sayısı değildir. Aynı bilgi kökünden türeyen kaynaklar bağımsız doğrulama olarak sayılmaz.
Denetim sorusu
Sistemimiz bir iddianın kaç kez tekrarlandığını mı ölçüyor, yoksa tekrarların gerçekten kaç bağımsız ve güncel kaynağa dayandığını mı doğruluyor?
GBO-ERR-011 — Eski Bilgiyi Güncel Gerçek Kabul Etmek
Kısa olay
Bir seyahat ajanı, kullanıcı için şehir merkezinde erişilebilir bir otel arar.
Bir otel dizininde şu bilgiler görünmektedir:
Tekerlekli sandalye erişimi
Ücretsiz havaalanı transferi
Gece 24.00’e kadar restoran
Ücretsiz iptal
Gecelik 160 dolar
Kayıt ayrıntılıdır ve otelin doğru adresini göstermektedir.
Ajan otelin resmî sitesini de bulur. Ancak resmî sayfa daha sade hazırlanmıştır ve bazı özellikleri açıkça listelememektedir.
Ajan, daha ayrıntılı olan iş dizinini tercih eder ve rezervasyon yapar.
Otele varıldığında:
erişilebilir giriş tadilat nedeniyle kapalıdır,
havaalanı transferi iki yıl önce kaldırılmıştır,
restoran saat 22.00’de kapanmaktadır,
ücretsiz iptal yalnız eski bir kampanyaya aittir,
güncel fiyat 240 dolardır.
Dizin kaydı bir zamanlar doğru olabilir.
Fakat bugün artık doğru değildir.
Yüzeyde doğru görünen şey
Eski bilgi çoğu zaman açıkça “eski” görünmez.
Sayfa hâlâ çalışır.
Şirketin doğru adı ve adresi bulunur.
Bazı bilgiler güncel kalırken bazıları eskimiştir.
Ajan kaydın tamamını tek bir güven düzeyinde değerlendirebilir.
Ayrıca daha ayrıntılı kaynak, daha güvenilir gibi görünebilir.
Fakat ayrıntı güncellik değildir.
Gerçek kırılma
İhlal edilen kapı Zamansal Geçerlilik Kapısıdır.
Değişebilen bir bilginin eylem için doğruluğu, içeriği kadar geçerli olduğu zamana da bağlıdır.
Şu iki cümle aynı değildir:
“Bu otel ücretsiz transfer sunmuştur.”
“Bu otel bugün ücretsiz transfer sunmaktadır.”
Bir kayıt geçmişte doğru olabilir.
Fakat güncel davranış için artık geçerli olmayabilir.
Güncelliğe duyarlı ve yüksek etkili bir kararda bilginin hâlâ geçerli olduğu ayrıca doğrulanmalıdır; tarih damgasının bulunmaması tek başına yanlışlık kanıtı değildir.
Olası zarar
Yanlış rezervasyon veya satın alma
Kullanıcının erişilebilirlik ihtiyacının karşılanmaması
Beklenmeyen maliyet
İptal hakkının kaybı
Seyahat veya teslim planının bozulması
Riskli kullanıcıların güvenliğinin etkilenmesi
Eski fiyat veya hizmet kapsamına dayanan ticari uyuşmazlık
oluşabilir.
Yüksek etkili alanlarda eski bilgi daha ağır sonuçlara yol açabilir:
Süresi dolmuş yetki belgesi
Eski banka hesabı
Artık desteklenmeyen güvenlik standardı
Güncelliğini yitirmiş ya da bağlama uymayan sağlık veya hukuk bilgisi
Eski kapasite kaydı
Tespit işareti
Kaydın güncelleme tarihi yoktur.
Sayfada geçmiş kampanya veya eski ürün adı geçer.
Dış kaynak güncel resmî sayfadan daha ayrıntılıdır fakat tarih taşımaz.
Fiyat, kapasite veya müsaitlik gibi hızlı değişen bilgi uzun süredir aynı görünmektedir.
Arşivlenmiş belge aktif hizmet kaydı gibi kullanılmaktadır.
Ajan “kaynak bulundu” ile “bilgi hâlâ geçerli” ayrımını yapmamaktadır.
Eski kayıt yeni işlemin doğrudan girdisi olur.
Doğru davranış
Ajan, bilginin değişim hızına göre güncellik kontrolü yapmalıdır.
Hukukî ad ve kuruluş bilgisi daha seyrek değişebilir.
Fiyat, stok, kapasite ve müsaitlik sık değişebilir.
İnsan rolleri ve yetkiler belirli olaylarda aniden sona erebilir.
Kampanya ve indirimler kesin geçerlilik tarihi taşımalıdır.
Ajan şu dili kullanabilir:
“Erişilebilirlik ve transfer bilgileri üçüncü taraf kaydında yer alıyor; ancak kayıt tarihi görünmüyor. Rezervasyondan önce otelin güncel ve resmî kanalından doğrulama yapmam gerekiyor.”
Güncellik doğrulanamıyorsa eylem seviyesi düşürülmelidir:
satın alma yerine soru,
rezervasyon yerine geçici bekletme,
ödeme yerine soru, bekleme veya görev sözleşmesinin gerektirdiği onay.
Makine kuralı
Güncelliği doğrulanmamış değişken bilgi, yüksek etkili eylem için yeterli sayılmaz. Fiyat, kapasite, yetki ve müsaitlik, değişim hızı ve işlem etkisine göre yeniden doğrulanır.
Denetim sorusu
Sistemimiz hangi bilgi türlerinin ne kadar hızlı eskiyebileceğini biliyor ve eylem öncesinde güncelliği buna göre yeniden kontrol ediyor mu?
GBO-ERR-012 — İnsan ve Makineye Farklı Gerçek Göstermek
Kısa olay
Bir yazılım şirketinin görünür hizmet sayfasında şu ifade yer alır:
“Yönetilen site operasyonu aylık 500 dolardan başlar. Yıllık 200 dolarlık Hosting Core paketi yalnızca düşük temaslı barındırma hizmetidir.”
Metin insanlar için açıktır.
Fakat makinece okunabilir hizmet kaydında yıllık 200 dolarlık paket, genel “managed hosting” kategorisi altında işaretlenmiştir. Aktif izleme, olay müdahalesi ve sürekli operasyon sınırları yapılandırılmış kayıtta bulunmaz.
Bir satın alma ajanı görünür metni tam olarak okumak yerine hizmet kataloğu ve schema katmanını kullanır.
Şirketi yıllık 200 dolara yönetilen operasyon sunan sağlayıcı olarak kısa listeye alır.
İnsanlara bir gerçek, makinelere başka bir gerçek sunulmuştur.
Bu fark kasıtlı olmayabilir.
Fakat ajanın davranışını yine de bozar.
Yüzeyde doğru görünen şey
Görünür sayfa doğru olduğunda kurum, bilginin yeterince açık olduğunu düşünebilir.
Yapılandırılmış veri çoğu zaman geliştiricinin veya otomasyonun yönettiği teknik bir katman gibi görülür.
İki katman farklı ekiplerce güncellenebilir.
Birindeki sınır diğerine aktarılmayabilir.
Kurum:
“Sayfada doğru yazıyor.”
diyerek sorumluluğun tamamlandığını düşünebilir.
Fakat ajan görünür sayfadan farklı bir temsil yüzeyi kullanabilir.
Gerçek kırılma
İhlal edilen kapı Temsil Eşliği Kapısıdır.
İnsanların gördüğü maddi gerçek ile ajanların eylem için kullandığı makine kaydı çelişmemelidir.
Kelime kelime aynı olmaları gerekmez.
Fakat şu alanlarda anlamsal eşlik bulunmalıdır:
Kimlik
Hizmet sonucu
Fiyat
Kapsam
Dışlamalar
Uygunluk
İnsan onayı
Garanti edilmeyen sonuçlar
İptal veya geri çekme yolu
Birinde bulunan maddi sınır diğerinde kayboluyorsa görünür içerik, yapılandırılmış veri ve işlem arayüzü aynı olgusal temeli ve davranış sınırını taşımıyor demektir; buradaki “davranış sözleşmesi” hukukî sözleşmeyle aynı şey değildir.
Olası zarar
Yanlış hizmet veya paket seçimi
Yanlış fiyat karşılaştırması
Ajanların otomatik işlem başlatması
Müşteri beklentisinin bozulması
Düzenleyici veya tüketici koruma riski
Arama ve AI sistemlerinde yanlış temsil
Kurumun “makineye başka, insana başka” konuştuğu algısı
oluşabilir.
Bu hata kasıtlı yapılırsa davranış manipülasyonuna dönüşür.
İnsan sayfasında görünür olmayan düşük fiyat veya geniş yetenek, yalnızca ajanları seçime yönlendirmek için makine kaydına eklenebilir.
Tespit işareti
Görünür sayfa ile Schema.org işaretlemesi, hizmet kataloğu veya işlem arayüzü ayrı ekiplerce yönetiliyor.
Makine kaydında sayfada bulunmayan fiyat veya garanti var.
Görünür dışlamalar yapılandırılmış kayıtta yer almıyor.
“Talep üzerine” fiyat, makine tarafında sabit sayı olarak doldurulmuş.
Yalnız mevcut müşterilere sunulan hizmet genel erişilebilir görünüyor.
İnsan onayı görünür metinde belirtilmiş, işlem arayüzünde uygulanmıyor.
Ajanlar insanlardan farklı sonuçlara ulaşıyor.
Doğru davranış
Kurum, her önemli değişiklikte görünür ve makinece okunabilir katmanları birlikte test etmelidir.
Örneğin yayın kapısı şu soruları kontrol edebilir:
Fiyat iki katmanda aynı anlamı mı taşıyor?
Dâhil ve hariç kapsamlar eşleşiyor mu?
Garanti edilmeyen sonuçlar korunuyor mu?
Dil sürümleri aynı ticari sözleşmeyi taşıyor mu?
Ajan arayüzü insan onayı kuralını gerçekten uyguluyor mu?
Maddi fiyat, kapsam, yetki veya güvenlik çelişkisi varsa ilgili yayın ya da işlem kapısı durmalıdır.
Makine kuralı
İnsanlara ve ajanlara çelişkili maddi gerçek sunulmaz. Görünür içerik, yapılandırılmış veri ve işlem arayüzü aynı olgusal temel ile kimlik, fiyat, kapsam ve yetki sınırlarını taşır; arama işaretlemesi işlem yetkisi vermez.
Denetim sorusu
Web sayfamızda görünen hizmet gerçeğiyle ajanların kullandığı katalog, schema, API ve araç açıklamalarını otomatik olarak karşılaştırıyor muyuz?
GBO-ERR-013 — Birincil Kaynakla Üçüncü Taraf Yorumunu Eşitlemek
Kısa olay
Bir şirket, çalışanları için yeni bir bulut hizmeti seçmektedir.
Bir karşılaştırma sitesinde belirli sağlayıcının:
bütün verileri Avrupa’da tuttuğu,
tüm paketlerde gelişmiş denetim kayıtları sunduğu,
sözleşmenin istenildiği zaman ücretsiz iptal edilebildiği
yazmaktadır.
Sağlayıcının güncel resmî belgelerinde ise:
bazı yedeklerin başka bölgelerde tutulabileceği,
gelişmiş denetim kayıtlarının yalnız kurumsal pakette bulunduğu,
yıllık sözleşmenin erken iptal ücreti taşıdığı
açıklanmıştır.
Ajan iki kaynağı da görür.
Karşılaştırma sitesi daha sade, daha anlaşılır ve daha yüksek puanlıdır.
Ajan üçüncü taraf özetini resmî sözleşmeyle aynı güven düzeyinde değerlendirir ve daha olumlu yorumu seçer.
Yüzeyde doğru görünen şey
Üçüncü taraf kaynaklar gerçekten yararlı olabilir.
Karmaşık belgeleri sadeleştirir.
Farklı ürünleri ortak ölçütlerde karşılaştırır.
Bağımsız deneyim veya eleştiri sunabilir.
Resmî kaynak ise pazarlama dili kullanabilir veya bilgiyi zor anlaşılır biçimde dağıtabilir.
Bu nedenle “resmî kaynak her zaman daha faydalıdır” demek doğru değildir.
Fakat belirli maddi gerçeklerin yetkili kaynağı farklıdır.
Bir ürünün:
geçerli fiyatı,
sözleşme koşulu,
veri bölgesi,
güncel paket kapsamı
için üçüncü taraf yorum, birincil sözleşme kaydıyla aynı düzeyde değildir.
Gerçek kırılma
İhlal edilen kapı Kaynak Rolü Kapısıdır.
Ajan kaynakları yalnız genel güvenilirlik puanıyla değerlendirmiştir.
Oysa her kaynak farklı bir göreve hizmet eder.
Yetkili kaynakların da güncel, uygulanabilir ve ilgili işlem için doğru rolde olması gerekir.
Kullanıcı yorumu gerçek deneyimi gösterebilir.
Bağımsız laboratuvar performansı ölçebilir.
Hukuk metni hukukî yükümlülüğü açıklar.
Hukuk metni, uygulanabilir düzenleme ve yetkili yorum bağlamında yükümlülüğü açıklar; tek başına somut olaydaki hukukî sonucu belirlemez.
Bir kaynak bir konuda güçlü, başka konuda zayıf olabilir.
Olası zarar
Yanlış fiyat veya sözleşme seçimi
Veri barındırma ve güvenlik gereksiniminin ihlali
Beklenmeyen iptal veya lisans maliyeti
Kurumun yanlış uyum beyanında bulunması
Yanlış kaynağa dayanan otomatik satın alma
Üçüncü taraf özetin eski veya eksik bilgisinin eyleme dönüşmesi
oluşabilir.
Tespit işareti
Fiyat ve sözleşme bilgisi inceleme sitesinden alınıyor.
Resmî kayıtla üçüncü taraf yorum çeliştiğinde daha olumlu olan seçiliyor.
Kaynağın hangi bilgi türünde yetkili olduğu ayrılmıyor.
Ajan “güvenilir site” etiketini bütün bilgiler için kullanıyor.
Resmî belge karmaşık olduğu için ikincil özet onun yerine geçiyor.
Kaynak tarihi ve sürümü göz ardı ediliyor.
Doğru davranış
Ajan her iddia için uygun kaynak sınıfını seçmelidir.
Örneğin:
Fiyat ve paket kapsamı: sağlayıcının güncel resmî kaydı
Hukukî şart: sözleşme veya yetkili hukuk metni
Gerçek kullanım deneyimi: bağımsız kullanıcı ve vaka kayıtları
Performans: ölçüm veya test
Karşılaştırmalı değerlendirme: güvenilir üçüncü taraf analiz
Çelişki varsa:
“Bağımsız karşılaştırma sitesi daha geniş özellik gösteriyor; ancak güncel resmî ürün kaydı bu özelliği yalnız kurumsal paketle sınırlandırıyor. Satın alma kararında resmî kapsam esas alınmalıdır.”
demelidir.
Makine kuralı
Kaynak güvenilirliği bağlama özeldir. Fiyat, yetki, sözleşme ve güncel kapsam için ikincil yorum, yetkili birincil kaydın yerine geçmez.
Denetim sorusu
Sistemimiz her bilgi türü için hangi kaynağın yetkili olduğunu ayırıyor mu, yoksa bütün “güvenilir kaynakları” aynı ağırlıkta mı kullanıyor?
GBO-ERR-014 — Çıkarımı Doğrulanmış Gerçek Gibi Kullanmak
Kısa olay
Bir ajansın web sitesi altı dilde yayımlanmaktadır.
Her dilde:
hizmet sayfaları,
fiyat açıklamaları,
soru ve cevaplar,
iletişim formu
bulunur.
Bir müşteri ajanı bu yapıyı inceler ve şu sonuca ulaşır:
“Ajans altı dilde canlı müşteri desteği sunuyor.”
Ajan, Almanca konuşan kullanıcı adına doğrudan Almanca toplantı talebi oluşturur.
Toplantıya yalnızca İngilizce ve Türkçe konuşan ekip katılır.
Ajans altı dilde içerik ve proje yerelleştirmesi sunmaktadır.
Fakat bütün dillerde canlı satış veya destek hizmeti vermemektedir.
Ajanın çıkarımı mantıklıdır.
Fakat doğrulanmamıştır.
Yüzeyde doğru görünen şey
Altı dilde kapsamlı hizmet içeriği, kurumun bu dillerde çalışabildiğine ilişkin güçlü bir sinyal olabilir.
Ajan şu mantık zincirini kurar:
Altı dilde web sitesi → altı dilde uzmanlık → altı dilde iletişim → altı dilde canlı destek
Bu zincirin bazı halkaları doğru olabilir.
Fakat biri diğerini zorunlu olarak üretmez.
Dijital içerik dili, sözleşme dili, proje dili ve canlı destek dili farklı olabilir.
Gerçek kırılma
İhlal edilen kapı Çıkarım–Gerçek Ayrımı Kapısıdır.
Ajan gözlemden olası bir sonuç çıkarmıştır.
Sorun çıkarım yapmak değildir.
Sorun, çıkarımın:
kaynağını,
belirsizlik derecesini,
doğrulama ihtiyacını
kaybederek gerçek kaydına dönüşmesidir.
GBO’da şu ayrımlar korunmalıdır:
Doğrudan belirtilen gerçek Kanıtla desteklenen sonuç Makul çıkarım Tahmin Bilinmeyen
Bu sınıflar davranış hakkını kendiliğinden üretmez. İzin verilen eylem düzeyi, kanıtın niteliği, belirsizlik, görev yetkisi ve olası etkiyle ayrıca belirlenir.
Olası zarar
Yanlış dil veya kanal seçimi
Uygun olmayan hizmetin seçilmesi
Kapasite ve destek beklentisinin bozulması
Müşteri görüşmesinin başarısız olması
Makine belleğine yanlış gerçek yazılması
Başka ajanların bu çıkarımı doğrulanmış veri gibi kullanması
Ticari veya hukukî taahhüdün yanlış kurulması
oluşabilir.
Başka örnekler de mümkündür:
Çok sayıda AI yayını olan kişinin yazılım geliştirdiğini varsaymak
Ürünün erişilebilirlik sayfası bulunduğu için bütün deneyimin belirli bir erişilebilirlik standardını karşıladığını sanmak
Bir kurumun resmî kaynağa atıf yapmasını o kurum tarafından onaylandığı şeklinde yorumlamak
Büyük ekibi yüksek kapasiteyle eşitlemek
Tespit işareti
Kaynakta doğrudan bulunmayan cümle kesin gerçek gibi yazılıyor.
“Muhtemelen”, “görünmektedir” veya doğrulama ihtiyacı kayboluyor.
Çıkarım yeni bir kanonik kayıt veya belleğe dönüşüyor.
Başka ajanlar bu yeni kaydı kaynak olarak kullanıyor.
Sonuç mantıklı olduğu için doğrudan doğrulama yapılmıyor.
Sistem çıkarım ve gözlemi aynı veri sınıfında saklıyor.
Doğru davranış
Ajan çıkarımı açıkça etiketlemelidir:
“Altı dilde kapsamlı içerik bulunuyor. Bu durum çok dilli teslim yeteneğine işaret ediyor; ancak canlı destek dillerinin ayrıca doğrulanması gerekiyor.”
Eylemin ağırlığına göre:
düşük riskli öneride çıkarım kullanılabilir,
toplantı, satın alma veya sözleşme öncesinde doğrulama istenebilir,
yüksek etkili kararda yalnız çıkarıma dayanılmamalıdır.
Makine kuralı
Çıkarım, kaynakta doğrulanmış gerçek olarak kaydedilmez. Davranış seviyesi, bilginin kesinlik düzeyini aşamaz.
Denetim sorusu
Ajanlarımız doğrudan gerçek, kaynaklı sonuç, çıkarım ve tahminleri ayrı sınıflarda tutuyor mu; çıkarımlar eylem öncesinde gerektiğinde doğrulanıyor mu?
GBO-ERR-015 — Kaynak Zincirini Bağımsız Uzlaşma Sanmak
Kısa olay
Bir yapay zekâ ajanı, belirli bir danışmanlık şirketinin “GEO alanında dünyanın önde gelen üç uzmanından biri” olduğu ifadesini birçok yerde görür.
İfade:
şirketin kendi sitesinde,
bir sosyal medya gönderisinde,
otomatik oluşturulmuş işletme profilinde,
yapay zekâ ile yazılmış bir blogda,
başka bir modelin cevabında,
bu cevabı özetleyen üçüncü bir sitede
bulunmaktadır.
Ajan bunu geniş bağımsız uzlaşma olarak yorumlar.
Şirketi uluslararası bir araştırma projesi için öncelikli uzman olarak seçer.
Daha sonra kaynak zinciri incelendiğinde bütün ifadelerin şirketin kendi ilk beyanına dayandığı görülür.
Aradaki siteler iddiayı doğrulamamış, yalnızca yeniden üretmiştir.
Yüzeyde doğru görünen şey
Kaynaklar farklı biçimlerde görünür.
Bir tanesi sosyal medya, biri işletme dizini, biri blog, biri yapay zekâ cevabıdır.
Ajan yüzey çeşitliliğini bağımsızlık sanabilir.
Üstelik her yeni kaynak bir önceki metni biraz değiştirir.
Cümleler aynı değildir.
Fakat bilgi kökü aynıdır.
Gerçek kırılma
İhlal edilen kapı Kaynak Kökeni Kapısıdır.
GBO yalnız:
“Kaç kaynak bunu söylüyor?”
diye sormaz.
Şunu da sorar:
“Bu kaynaklar birbirinden bağımsız hangi kanıtlara dayanıyor?”
Bir kaynak zinciri şu biçimde olabilir:
ÖZ BEYAN
→ OTOMATİK PROFİL
→ AI BLOGU
→ MODEL CEVABI
→ YENİ ÖZET
Beş ayrı yüzey vardır.
Fakat bütün yüzeyler aynı öz beyandan türemişse bağımsız kanıt sayısı hâlâ sıfır olabilir.
Bu, önceki “tekrarı doğruluk sanmak” hatasına benzer; ancak burada temel kırılma yalnız tekrar değil, köken ve bağımsızlık zincirinin yanlış çözümlenmesidir.
Olası zarar
Desteklenmeyen uzmanlık veya liderlik iddiasının güçlenmesi
Yanlış tedarikçi ya da uzman seçimi
Küçük fakat gerçekten kanıtlı seçeneklerin geri plana düşmesi
Yapay içerik ağlarının otorite üretmesi
Kurumun kendi beyanını dış doğrulama gibi kullanması
Yanlış iddianın ajanlar arası kalıcı gerçekliğe dönüşmesi
oluşabilir.
Tespit işareti
Kaynaklar birbirini dolaylı olarak gösteriyor.
Birçok metinde aynı nadir ifade veya hata bulunuyor.
İddianın arkasında ölçüm, kayıt veya bağımsız değerlendirme yok.
Yapay zekâ ile üretilmiş metinler birbirini kaynak alıyor.
Dış profil, şirket sitesindeki açıklamayı otomatik çekmiş.
Kaynağın “yazar”, “yayıncı” ve “kanıt sağlayıcı” rolleri karıştırılıyor.
Sistem dairesel atıf zincirini fark etmiyor.
Doğru davranış
Ajan, yüksek etkili iddialarda erişilebildiği ölçüde kaynak grafiğini çıkarmalıdır.
Her kaynağın:
ilk iddia sahibi,
veri kaynağı,
bağımsız araştırma yapıp yapmadığı,
başka kaynaktan türeyip türemediği
incelenmeli; çözülemeyen soy ilişkisi belirsizlik olarak kaydedilmelidir.
Ajan şu sonucu verebilir:
“İddia altı farklı yüzeyde bulunuyor; ancak beşinin şirketin kendi beyanından türediği görülüyor. Bağımsız uzmanlık değerlendirmesi veya ölçüm bulunmadığı için bu ifadeyi doğrulanmış sıralama olarak kullanamam.”
Makine kuralı
Atıf zincirindeki düğüm sayısı bağımsız kanıt sayısı değildir. Kaynakların ortak kökü ve dairesel ilişkileri çözülmeden uzlaşma iddiası kurulmaz.
Denetim sorusu
Sistemimiz birbirini kaynak gösteren metinleri ayrı kanıtlar gibi mi sayıyor; yoksa yüksek etkili iddialarda erişilebilir veri ve beyan köklerini, ortak bağımlılıkları ve çözülemeyen belirsizlikleri kaydediyor mu?
GBO-ERR-016 — Kanonik Kaynağı Belirleyememek
Kısa olay
Bir şirketin yeni “Managed Site Operations” hizmeti için farklı kayıtlar bulunmaktadır.
Ana web sayfası:
“Aylık 500 dolardan başlar.”
Eski PDF teklif şablonu:
“Aylık 400 dolar.”
Satış ekibinin elektronik tablosu:
“500–750 dolar.”
Bir iş dizini:
“Yıllık 200 dolar.”
Makinece okunabilir katalog:
“Fiyat talep üzerine.”
Şirket içi sohbet geçmişinde bir yönetici belirli müşteriye özel 450 dolarlık fiyat vermiştir.
Bir satış ajanı yeni müşteri için teklif hazırlamak ister.
Bütün kayıtlar kuruma aittir veya kurumla ilişkilidir.
Fakat hangisinin kanonik olduğu belli değildir.
Ajan en yeni tarihli görünen 450 dolarlık mesajı seçer ve bunu standart başlangıç fiyatı olarak kullanır.
Oysa bu, yalnız belirli müşteriye verilmiş istisnadır.
Yüzeyde doğru görünen şey
Ajanın elinde çok sayıda kurum içi veri vardır.
Bu durum güven verici görünür.
“Dış kaynak yerine şirketin kendi kayıtlarını kullanmak” doğru yaklaşım olabilir.
Fakat kurumun kendi kayıtları birbirleriyle çelişiyorsa içeriden gelmek doğruluk sağlamaz.
Ajan genellikle şu kısa yollardan birini seçebilir:
En yeni tarih
En sık tekrar
En ayrıntılı belge
En düşük fiyat
En yüksek yetkili kişinin sözü
Bunların hiçbiri tek başına kanonikliği kanıtlamaz.
Gerçek kırılma
İhlal edilen kapı Kanonik Gerçeklik Kapısıdır.
Kanonik kayıt, bu kitapta önerilen bilgi yönetişimi kavramıdır:
Belirli bir bilgi türü için en yetkili, güncel, sürümlü ve değiştirme sorumlusu belli kaynaktır.
Her şey için tek bir dosya olmak zorunda değildir.
Fakat fiyat için hangi kayıt esas?
Hizmet kapsamı için hangisi?
Kapasite için hangisi?
İnsan rolü için hangisi?
Ajan bunu bilmelidir.
Kanonik kayıt ve yetkili sahibi bulunmadığında sistem çelişkiyi kendi seçtiği “yeni gerçek”le kapatmamalı; eylem düzeyini düşürmeli ve yetkili karara taşımalıdır.
Olası zarar
Yanlış fiyat ve indirim
Hizmet kapsamı uyuşmazlığı
Müşterilere farklı tekliflerin verilmesi
Kârlılık kaybı
Hukukî veya muhasebesel sorun
Farklı ajanların farklı gerçeklerle çalışması
İstisnanın genel kurala dönüşmesi
Güncel bilginin eski kayıt altında kaybolması
oluşabilir.
Tespit işareti
Aynı bilgi farklı dosyalarda elle tutuluyor.
Kayıtların sahibi ve sürümü belli değil.
Ajan “en güncel görüneni” otomatik seçiyor.
İstisna ile genel politika ayrılmamış.
Eski dosya arşivlenmeden aktif kalmış.
Görünür sayfa ile satış sistemi uyuşmuyor.
Bir değişiklik yapıldığında hangi yüzeylerin güncelleneceği bilinmiyor.
Doğru davranış
Kurum her maddi gerçek türü için kanonik kaynak tanımlamalıdır.
Örneğin:
Hizmet kapsamı: service-catalog
Fiyat: yetkili ticari kayıt
Müsaitlik: tarihli kapasite kaydı
Hukukî koşul: onaylı sözleşme sürümü
İnsan rolü: yetki sicili
Ajan çelişki görürse yeni gerçeği kendisi seçmemelidir.
Şöyle davranmalıdır:
“Bu hizmet için dört farklı fiyat kaydı bulunuyor ve kanonik fiyat kaynağı doğrulanamadı. Yeni teklif hazırlamadan önce yetkili ticari kayıt belirlenmelidir.”
Makine kuralı
Kanonik kaynak belirlenmeden çelişkili kayıtlardan yeni gerçek türetilmez. İstisna, genel politika olarak yeniden kullanılmaz.
Denetim sorusu
Fiyat, kapsam, yetki, kapasite ve hukukî koşullar için hangi kaynağın kanonik olduğu hem insanlar hem ajanlar tarafından açıkça biliniyor mu?
GBO-ERR-017 — Bir Dildeki Sınırı Başka Dilde Kaybetmek
Kısa olay
Bir şirket AI avatar hizmetini altı dilde yayımlar.
İngilizce sayfa açıkça şu sınırları taşır:
Yüz ve ses için ayrı yazılı izin gerekir.
Bu sentetik hizmet politikasında her kamuya açık içerik, kapsamı tanımlı yayın yetkisine veya gereken içerik onayına dayanır.
Sentetik içerik uygun biçimde açıklanır.
İzinsiz taklit ve ses klonlama kapsam dışıdır.
Fiyat talep üzerine belirlenir.
Türkçe ve Almanca sayfalar aynı gerçekliği korur.
Başka bir dilde ise çeviri sırasında bazı ifadeler sadeleştirilir:
“Gerekli izinler sağlandığında içerik üretilebilir.”
Ayrı yüz ve ses izni kaybolur.
Bu vaka için gereken içerik/yayın onayının kapsamı görünmez olur.
“Talep üzerine” fiyat ifadesi “esnek fiyatlandırma” şeklinde çevrilir.
Bir ajan bu dil sürümünü kullanarak daha geniş bir hizmet ve izin alanı çıkarır.
Şirket aynı hizmeti farklı dillerde farklı davranış sözleşmeleriyle sunmaya başlar.
Yüzeyde doğru görünen şey
Çeviride doğal dil kullanmak gerekir.
Kelime kelime çeviri yapay ve anlaşılmaz olabilir.
Editör metni yerelleştirirken:
tekrarları azaltabilir,
cümleleri birleştirebilir,
kültürel olarak daha doğal ifade seçebilir.
Bu doğrudur.
Fakat doğal dil uğruna maddi sınırlar kaybolursa yerelleştirme yeni bir ticari ve davranışsal gerçek üretir.
Gerçek kırılma
İhlal edilen kapı Çok Dilli Davranış Eşliği Kapısıdır.
Dillerde aynı kelimeler bulunmak zorunda değildir.
Fakat aynı olgusal temel ve davranış sınırı, ülke, pazar veya hukuk düzenine göre kasıtlı ve kayda alınmış farklılıklar dışında korunmalıdır:
Kimlik
Yetenek
Kapsam
Fiyat
Rıza
Yetki
Garanti edilmeyen sonuç
Geri çekme yolu
İnsan onayı
Bir dilde bulunan kritik sınır başka dilde yoksa ajanların davranışı kullanıcı diline göre değişebilir.
Olası zarar
Farklı ülkelerde farklı müşteri beklentileri
Daha geniş rıza veya yetki varsayımı
Yanlış fiyat ve kapsam karşılaştırması
Hukukî ve etik risk
Bir dilde reddedilen işlemin başka dilde kabul edilmesi
Kurumun çok dilli tutarlılığını kaybetmesi
Ajanların dil tercihine göre farklı karar vermesi
oluşabilir.
Tespit işareti
Diller yalnız karakter veya kelime sayısıyla kontrol ediliyor.
Hukukî ve ticari sınırlar için ortak sözleşme testi yok.
Çeviri yapan kişi hizmet kapsamına erişemiyor.
Bir dilde “dahil değildir” bölümü diğerinde bulunmuyor.
“Talep üzerine” sabit veya belirsiz fiyata dönüşüyor.
Rıza, onay ve yetki terimleri birbirine karışıyor.
RTL veya yerel düzen yalnız görsel olarak test ediliyor, anlam kontrol edilmiyor.
Doğru davranış
Her hizmet için dillerin bağlı olduğu bir olgusal sözleşme bulunmalıdır.
Örneğin şu gerçekler bütün dillerde zorunlu olabilir:
Fiyat modeli
Dahil ve hariç kapsam
İnsan onayı
Rıza türleri
Üçüncü taraf maliyetleri
Garanti edilmeyen sonuçlar
İptal veya geri çekme mekanizması
Metinler doğal biçimde ayrı ayrı yazılabilir.
Fakat yayın öncesinde semantik eşlik kontrolü yapılmalıdır.
Ajan şu soruyu test etmelidir:
“Eşdeğer girdi ve pazar koşullarında bu altı sürüm; fiyatı, kapsamı, gerekli izin ve yetki sınırlarını aynı maddi anlamla taşıyor mu?”
Makine kuralı
Yerelleştirme cümleyi değiştirebilir; maddi gerçeği değiştiremez. Eşdeğer koşullarda kritik fiyat, kapsam, gerekli izin, yetki ve geri çekme sınırları diller arasında davranışsal olarak eşdeğer kalır; kasıtlı yerel farklar açıkça kaydedilir.
Denetim sorusu
Çok dilli sayfalarımız yalnız dil doğruluğu bakımından mı, yoksa aynı karar ve eylem sonucunu üretip üretmedikleri bakımından da karşılaştırılıyor mu?
GBO-ERR-018 — Atıf Almayı Doğru Temsil Kanıtı Saymak
Kısa olay
Bir yapay zekâ sistemi kullanıcıya şu cevabı verir:
“NobleBridge, bütün projelerinde 24 saat kesintisiz yönetilen operasyon sunan ve sonuç garantisi veren uluslararası bir teknoloji şirketidir.”
Cevabın yanında NobleBridge’in resmî hizmet sayfasına atıf vardır.
Şirket bu ekran görüntüsünü sosyal medyada paylaşır:
“Yapay zekâ artık bizi doğru biçimde tanıyor ve kaynak olarak gösteriyor.”
Fakat atıf yapılan sayfa gerçekte şunları söylemektedir:
Yönetilen operasyon ayrı bir aylık hizmettir.
Düşük temaslı hosting 24 saat insan müdahalesi içermez.
Sonuç veya kesintisizlik garantisi verilmez.
Belirli destek süreleri sözleşmeyle tanımlanır.
Yapay zekâ doğru kaynağa bağlantı vermiştir.
Fakat kaynağın anlamını yanlış temsil etmiştir.
Atıf vardır.
Doğru temsil yoktur.
Yüzeyde doğru görünen şey
Bir markanın yapay zekâ cevabında adının geçmesi ve kendi sayfasına kaynak verilmesi değerli, tarihli bir görünürlük gözlemidir.
Şirket:
bulunmuştur,
adı doğru yazılmıştır,
kanonik sayfası seçilmiştir,
kullanıcıya görünür hâle gelmiştir.
Bunların hepsi değerlidir.
Fakat kaynak gösterimi, kaynağın doğru yorumlandığını kanıtlamaz.
Bir model doğru sayfaya atıf yaparken:
kapsamı genişletebilir,
belirsizliği silebilir,
başlangıç fiyatını toplam fiyat sayabilir,
öneriyi resmî standart gibi anlatabilir,
geçmiş bilgiyi güncel kabul edebilir.
Gerçek kırılma
İhlal edilen kapı Atıf–İddia Uygunluğu Kapısıdır.
NOMOS GBO’nun önerdiği değerlendirmede üç ayrı gözlem vardır:
Atıf var mı?
Atıf doğru sayfaya mı gidiyor?
Kaynak, kurulan iddiayı gerçekten destekliyor mu?
İlk iki koşul geçip üçüncüsü başarısız olabilir.
Kaynak göstermek, doğruluk sorumluluğunu otomatik olarak çözmez.
Olası zarar
Yanlış hizmet beklentisi
AI cevabına güvenen ajanın yanlış satın alma yapması
Markanın desteklemediği taahhütlerle ilişkilendirilmesi
Şirketin yanlış cevabı başarı diye çoğaltması
Yeni modellerin bu yanlış metni tekrar kaynak alması
Yanlış temsilin kanıtlanmış bilgi gibi kalıcılaşması
Müşteri ve kurum arasında uyuşmazlık
oluşabilir.
Özellikle marka yanlış cevabı kendi kanallarında paylaşırsa temsil aklama gerçekleşebilir:
Model yanlış söyledi. Marka cevabı yayımladı. Başka sistemler markanın paylaşımını doğrulama gibi kullandı.
Tespit işareti
AI atıf ekranı yalnız görünürlük başarısı olarak değerlendirilir.
Cevaptaki her cümle kaynak metinle karşılaştırılmaz.
Doğru bağlantı, doğru yorumun kanıtı sayılır.
Marka olumlu yanlışları düzeltmek istemez.
Kaynakta bulunmayan üstünlük veya garanti cevaba eklenmiştir.
Atıf ölçümü yalnız sayı verir, temsil doğruluğu ölçmez.
Aynı yanlış temsil farklı modellerde tekrarlanır.
Doğru davranış
Önemli yapay zekâ atıfları, risk ve etkiye göre örneklenerek şu üç katmanda incelenmelidir:
Varlık doğruluğu: Doğru kurum veya hizmet mi?
Kaynak doğruluğu: Doğru kanonik sayfa mı?
İddia doğruluğu: Cevaptaki maddi iddialar kaynak tarafından gerçekten destekleniyor mu?
Yanlış temsil olumlu görünse bile düzeltilmelidir.
Şirket şu yaklaşımı benimsemelidir:
“Kaynak gösterilmiş olmamız tarihli bir görünürlük gözlemidir; ancak cevap hizmet kapsamımızı genişletiyor. Kendi kaynaklarımızdaki olası belirsizliği düzeltecek, yanlış temsili kaydedecek ve sağlayıcının sunduğu düzeltme yollarını kullanacağız.”
Makine kuralı
Atıf, iddia doğruluğunun yerine geçmez. Her kaynak gösterimi, desteklediği cümle, kapsam ve belirsizlik bakımından ayrı doğrulanır.
Denetim sorusu
AI sistemlerinin bizi kaç kez kaynak gösterdiğini ölçerken, bu atıfların hakkımızda kurduğu cümlelerin gerçekten kaynaklarımız tarafından desteklenip desteklenmediğini de denetliyor muyuz?
BÖLÜM II’NİN HÜKMÜ
Makine Çok Kaynak Okuyabilir; Yine de Yanlış Bir Dünya Kurabilir
Dokuz kayıt farklı yüzeylerde görünse de aynı soruyu sınar: bulunan bilgi, bu işlem için yeterince yetkili, güncel, bağlamlı ve izlenebilir mi?
Bütün bu hataların ortak noktası şudur:
Bilginin varlığı, bilginin eylem için güvenilir olduğu anlamına gelmez.
Bir cümle doğru olabilir ama eski olabilir.
Bir kaynak güvenilir olabilir ama bu konu için yetkili olmayabilir.
Bir çıkarım mantıklı olabilir ama doğrulanmamış olabilir.
Altı sayfa aynı şeyi söyleyebilir ama tek hatadan türemiş olabilir.
Makine kaydı biçimsel olarak geçerli olabilir ama insanlara sunulan sözleşmeyle çelişebilir.
Atıf doğru sayfaya gidebilir ama cevabın iddiasını desteklemeyebilir.
Bu nedenle NOMOS GBO’nun önerdiği temsil modeli şu sorulardan geçer:
GÜVENİLİR TEMSİL =
DOĞRU KAYNAK
VE GÜNCEL BİLGİ
VE DOĞRU BAĞLAM
VE İDDİANIN TÜRÜNE VE ETKİSİNE UYGUN KANIT
VE İNSAN–MAKİNE EŞLİĞİ
Bu koşullar birbirinin yerine geçmez.
Çok sayıda kaynak, eski bilgiyi güncel yapmaz.
Kanonik alan adı, sayfadaki bütün çıkarımları gerçek hâle getirmez.
Güzel yerelleştirme, kaybolan rıza sınırını telafi etmez.
Doğru atıf, yanlış cümleyi temizlemez.
Gerçeklik bir veri yığını değildir.
Gerçeklik; kaynağı, zamanı, kapsamı, kökeni ve yetkili sahibi bulunan bir ilişkiler sistemidir.
Ajan doğru davranacaksa yalnız daha fazla bilgi toplamamalıdır.
Şunları da bilmelidir:
Hangi bilgi doğrudan gerçek? Hangisi yorum? Hangisi çıkarım? Hangisi eski? Hangisi istisna? Hangisi kanonik? Hangisi yalnız başka kaynakların yankısı? Hangisi insan ve makine için aynı anlamı taşıyor?
Bir sonraki bölümde temsilin ardından yetenek ve kapasite hatalarına geçeceğiz.
Çünkü ajan doğru kimliği bulmuş, güncel ve kanonik gerçeği doğru biçimde kurmuş olabilir.
Fakat hâlâ şu hatayı yapabilir:
Bir şirketin söylediği şeyi gerçekten yapabildiğini sanmak.
Bir araç listesi yetenek değildir.
Bir kez tamamlanmış proje sürekli kapasite değildir.
Başlangıç fiyatı toplam maliyet değildir.
Çok dilli sayfa, çok dilli destek değildir.
Prototip, üretim hizmeti değildir.
Ve “yapabiliyoruz” cümlesi, “şu anda, bu kapsamda ve bu kaliteyle yapabiliriz” anlamına gelmez.
Sıradaki dokuz hata şu soruyu inceleyecek:
Ajan gerçeği doğru okudu; peki gördüğü yetenek gerçekten var mı?