Seda Ergin, yirmi iki çalışanı bulunan bir medikal ambalaj şirketinin kurucusudur. Şirketi: hastaneler, laboratuvarlar, tıbbi cihaz üreticileri için steril ambalaj üretmektedir. On bir yıl önce küçük bir atölyede başlamış, zaman içinde ihracat yapabilecek teknik kapasiteye ulaşmıştır. Seda’nın şirketi büyük değildir. Fakat düzenli müşterileri, çalışan bir üretim tesisi, doğrulanabilir siparişleri, uzun süredir devam eden banka ilişkisi vardır. Bir gün Hollanda’daki bir tıbbi cihaz üreticisinden önemli bir sipariş alır.

Sipariş şirketin şimdiye kadarki en büyük tek ihracat işidir. Üretimi tamamlayabilmek için ham madde, sterilizasyon hizmeti, ek vardiya, uluslararası nakliye masraflarının önceden karşılanması gerekmektedir. Müşteri ödemeyi teslimattan kırk beş gün sonra yapacaktır. Seda, bankasından dört aylık işletme sermayesi kredisi talep eder. Banka başvuruları yapay zekâ destekli bir sistem üzerinden değerlendirmektedir: Ticari Kredi Karar Ajanı Sistem banka hareketlerini, elektronik faturaları, şirket sicilini, vergi ve kamu kayıtlarından gelen göstergeleri, sektör verilerini, mevcut borçları, müşteri yoğunluğunu birlikte değerlendirebilmektedir.

Başvuru ekranında şu ifade yer alır: “Başvurunuz gelişmiş veri analitiği ve yapay zekâ destekli risk değerlendirme sistemleri kullanılarak hızlı biçimde sonuçlandırılabilir.” Seda: sipariş sözleşmesini, son iki yıllık mali tabloları, ihracat belgelerini, üretim kapasitesi raporunu yükler. Banka hareketlerine ve elektronik fatura kayıtlarına erişim izni verir. Sistem başvuruyu bir dakikadan kısa sürede değerlendirir. Ekranda şu sonuç görünür: KREDİ TALEBİNİZ UYGUN BULUNMAMIŞTIR Altında tek cümle vardır: “İşletmenizin mevcut nakit akışı ve risk göstergeleri, talep edilen kredi yapısı için yeterli bulunmamıştır.”

Seda: “Kararın ayrıntısını gör” düğmesine basar. Yeni ekranda şu üç madde gösterilir:

Nakit akışı istikrarı
Sektörel risk
Mevcut yükümlülükler

Bu ifadeler Seda’nın kendi başvurusuna özgü görünmemektedir. Her işletme için kullanılabilecek genel başlıklardır. Seda bankanın müşteri hizmetlerini arar. Gerçek bir çalışan başvuru numarasını kontrol eder. Şöyle der: “Sistem krediye uygunluk puanınızı bankamızın otomatik ön değerlendirme eşiğinin altında hesaplamış.” Seda sorar: “Puanım kaç?” Çalışan: “Ekranımda 0,63 görünüyor. Otomatik ön değerlendirme eşiği 0,65.” Seda: “Puanı düşüren şey ne?” diye sorar. Çalışan aynı üç ifadeyi okur: “Nakit akışı istikrarı, sektör riski ve mevcut yükümlülükler.”

Seda: “Nakit akışımın hangi bölümü?” diye sorar. Çalışan bunu görememektedir. “Sistem ayrıntılı model hesaplamasını göstermiyor.” Seda: “Hangi yükümlülük?” diye sorar. Çalışan cevap veremez. “Bu bilgiler risk modelimizin parçası. Ticari olarak korunan değerlendirme yöntemleri kullanılıyor.” Seda formülün tamamını istememektedir. Bankanın model kodunu da istememektedir. Yalnız şu soruya cevap aramaktadır:

“Benim başvurum neden reddedildi?”

Seda şirket muhasebesiyle birlikte verileri inceler. İlk sorun kısa sürede bulunur. Elektronik fatura sağlayıcısının bağlantısı geçen ay on sekiz gün boyunca kesilmiştir. Şirket o dönemde satış yapmıştır. Faturalar kesilmiştir. Ancak bankanın veri toplayıcısı bu on sekiz günlük kayıtları alamamıştır. Karar sistemi veri eksikliğini:

invoice_revenue: 0

olarak işlemiştir. Gerçek kayıt:

invoice_revenue: data_missing

olması gerekirken sistem: “Veri yok.” ile: “Gelir yok.” durumlarını birbirine karıştırmıştır. İkinci sorun, şirketin üç ay önce yaptığı büyük makine ödemesidir. Seda steril ambalaj üretimi için yeni bir kesim sistemi satın almıştır. Bu tek seferlik yatırımdır. Risk modeli ödemeyi:

recurring_monthly_expense

olarak sınıflandırmıştır. Şirket her ay aynı büyüklükte makine ödemesi yapacakmış gibi gelecekteki nakit akışını azaltmıştır. Üçüncü sorun daha ciddidir. Şirket, ithal ham madde için gümrük idaresine teminat yatırmıştır. Bu para: ceza, vergi borcu, gecikmiş kamu yükümlülüğü değildir. Belirli ithalat işlemi için geçici teminattır. Dış veri sağlayıcısı bu kaydı:

unresolved_public_obligation: true

olarak bankaya aktarmıştır. Bankanın kredi politikası, açık kamu yükümlülüğü görünen başvuruları doğrudan durdurmaktadır. Bu alan puandan bağımsız bir:

Veto Kuralıdır.

Gerçek karar zinciri şöyledir:

Kamu yükümlülüğü göstergesi: VAR
↓
Politika kapısı: RED
↓
Başvuru sonucu: OTOMATİK RET

Nakit akışı puanı düşük görünmektedir. Fakat başvurunun kesin reddedilmesini sağlayan esas neden bu değildir. Esas neden:

Yanlış sınıflandırılmış kamu yükümlülüğü veto kaydıdır.

Buna rağmen Seda’ya gösterilen gerekçe: “Nakit akışı istikrarı ve sektörel risk” olmuştur. Neden? Çünkü bankanın karar sistemi tek yapı değildir.

Şu bileşenlerden oluşmaktadır: VERİ TOPLAMA AJANI
↓
MUHASEBE SINIFLANDIRMA AJANI
↓
DIŞ YÜKÜMLÜLÜK KONTROLÜ
↓
KREDİYE UYGUNLUK PUANLAMA MODELİ
↓
POLİTİKA VE VETO MOTORU
↓
AÇIKLAMA ÜRETİM AJANI
↓
MÜŞTERİ BİLDİRİMİ

Açıklama Üretim Ajanı, nihai ret kararını hangi kapının verdiğini doğrudan okumamıştır. Krediye uygunluk modelindeki genel olumsuz göstergelerden insanlara makul görünecek bir cümle oluşturmuştur. Karar başka sistemde verilmiştir. Gerekçe başka sistem tarafından sonradan yazılmıştır. Açıklama akla yatkındır. Fakat kararın gerçek nedeni değildir.

Seda bankaya gümrük teminatının niteliğini gösteren resmî belgeyi yükler. Eksik elektronik faturaları yeniden gönderir. Makine yatırımının tek seferlik olduğunu açıklar. Portalda: “Karara itiraz et” seçeneğini kullanır. İki dakika sonra yeni cevap gelir: “Başvurunuz yeniden değerlendirilmiş, mevcut kararın değiştirilmesini gerektirecek yeterli neden bulunmamıştır.” Seda insan incelemesi yapıldığını düşünür. Müşteri hizmetlerini tekrar arar. Çalışan, itirazın aynı otomatik sistem tarafından yeniden değerlendirildiğini söyler. Yeni belgeler veri deposuna yüklenmiştir.

Fakat veto kaydı günlük önbellekten gelmektedir, elektronik fatura dizini henüz yenilenmemiştir, tek seferlik makine ödemesi eski sınıflandırmada kalmıştır. Sistem aynı veriyi yeniden kullanmıştır. Karar aynı çıkmıştır. İtiraz, ilk kararı veren sistemden bağımsız değildir. Sistem kendi kararını aynı yanlış kayıtlarla yeniden doğrulamıştır.

Seda şubedeki ticari müşteri yöneticisine ulaşır. Yönetici başvuruyu insan incelemesine açmaya çalışır. Fakat banka sisteminde otomatik veto bulunan başvurular normal inceleme kuyruğuna girmemektedir. Yönetici yalnız şu kodu görür:

POLICY_DECLINE-17

Kodun açıklaması: “Dış yükümlülük ve genel geri ödeme kapasitesi.” Yönetici: “Sistem izin vermiyor.” der. Seda şu cevabı verir:

“Sistem izin vermiyorsa sistemin hangi yanlış gerçeğe dayandığını kim kontrol edecek?”

Başvuru nihayet bankanın özel inceleme birimine gönderilir. İnsan denetçi karar zincirini çıkarır. Şunları doğrular:

Gümrük teminatı kamu borcu değildir.
On sekiz günlük fatura verisi bağlantı hatası nedeniyle eksiktir.
Makine ödemesi tekrarlayan gider değildir.
Şirketin gerçek faaliyet alanı, eski sicil sınıfından daha düşük riskli bir uzmanlık alanıdır.
Başvurunun otomatik reddi yanlış veto kaydından doğmuştur.
Müşteriye verilen ilk açıklama gerçek belirleyici nedeni göstermemiştir.
İlk itiraz aynı sistem ve aynı önbellek kullanılarak karara bağlanmıştır.

Veriler düzeltildiğinde puan yeniden hesaplanır: İlk görünen krediye uygunluk puanı: 0,63 Düzeltilmiş veriyle krediye uygunluk puanı: 0,78 Otomatik ön değerlendirme eşiği: 0,65 Veto kaydı: KALDIRILDI Bu kurmaca örnekte puan yükseldikçe krediye uygunluk artar; puan bir temerrüt olasılığı değildir. 0,65 eşiği otomatik ön değerlendirmeyi geçmek içindir. Eşiğin altında kalan ve veto taşımayan başvuru insan değerlendirmesine gider; yanlış kamu borcu vetosu ise başvuruyu doğrudan reddetmiştir. Hiçbir puan tek başına nihai kredi onayı vermez.

Bu sonuç kredinin mutlaka verilmesi gerektiği anlamına gelmez. Banka hâlâ: teminat, vade, sözleşme, sektör yoğunluğu gibi unsurları insan değerlendirmesine alabilir. Fakat başvuru artık otomatik ret kapısında değildir. İnsan kredi kurulu dosyayı inceler. Talep edilen finansmanın daha düşük bir tutarla ve ek teminat koşuluyla verilebileceğine karar verir. Ancak bu süreç on üç gün sürmüştür. Seda’nın müşterisi üretim başlangıcını bekleyememiştir. Siparişin bir bölümünü başka bir tedarikçiye vermiştir.

Kredi kararı düzeltilmiştir. Kaybedilen işin tamamı geri gelmemiştir. Banka Seda’ya şu açıklamayı gönderir: “Veri uyumsuzluğu nedeniyle başvurunuzun ilk değerlendirmesinde hata oluşmuştur. Kayıtlar düzeltilmiş ve başvurunuz yeniden incelenmiştir.” Seda bu kez daha açık bir cevap ister: “Hangi veri?” “Kararı hangi kural verdi?” “Nakit akışı gerekçesi neden gösterildi?” “İtirazım neden yine aynı sistem tarafından reddedildi?” “Veri doğru olsaydı ilk karar ne olurdu?” “Bu hata başka şirketlerde de olmuş olabilir mi?”

“Kaybettiğim sipariş için kim sorumlu?” Banka kendisine modelin ticari sır olduğunu tekrar söyler. Seda şu cevabı verir:

“Formülünüzü istemiyorum.”

“Hangi yanlış gerçeğin benim hayatımda sonuç ürettiğini bilmek istiyorum.”

Bu nedenle on birinci kurucu hükmümüz şudur:

İnsan gerekçeyi sorgulayabilmelidir.

KURUCU MADDE

Hiçbir yapay zekâ sistemi; insanın hakkı, fırsatı, parası, sağlığı, işi, eğitimi, itibarı, erişimi, fiyatı, sözleşmesi veya başka maddi çıkarı üzerinde sonuç üreten kararı yalnız bir puan, genel neden kodu, “model böyle değerlendirdi” cümlesi ya da sonradan oluşturulmuş ikna edici açıklamayla kapatamaz. İnsan, kendisini etkileyen kararın hangi sistem ve sürüm tarafından, hangi insan veya kurumsal yetki altında, hangi önemli veri, kaynak, kural, veto, çıkarım, eşik ve belirsizlik kullanılarak oluşturulduğunu maddi olduğu ölçüde anlayabilmelidir.

Gerekçe, kararın gerçek oluşum sürecine sadık olmalıdır. Karar başka nedenle verilmişken insana daha kabul edilebilir, daha kolay veya daha savunulabilir bir neden gösterilemez. Olgu, kaynak verisi, politika kuralı, model çıkarımı, olasılık, insan değerlendirmesi ve nihai karar birbirinden ayrılmalıdır. Tahmin, doğrulanmış gerçek; korelasyon, neden; puan, insan niteliği ve genel risk sınıfı, bireysel karar gerekçesi gibi sunulamaz. İnsan, hangi maddi girdinin yanlış, eski, eksik, başka kişiye ait veya bağlam dışı olduğunu görebilmeli; bu kayıt düzeltildiğinde kararın nasıl değişebileceğini ve yeniden değerlendirme yolunu öğrenebilmelidir.

Gerekçe, modelin bütün özel iç muhakemesini, güvenlik sırlarını veya ticarî formülünü açmak zorunda değildir. Ancak sır, güvenlik veya kötüye kullanımı önleme gerekçesi; insanın neye itiraz edeceğini, hangi bilgiyi düzelteceğini ve hangi insan incelemesine ulaşacağını bilemeyeceği kadar genel bir sessizliğe dönüştürülemez. Yaklaşık, örnekleyici veya sonradan hesaplanan açıklama kullanılıyorsa bunun kesin karar nedeni olmadığı açıkça belirtilmelidir. Yaklaşık açıklama gerçek karar izi gibi sunulamaz. Karşı-olgusal açıklama; insanın değiştiremeyeceği kimlik özelliklerini, temel haklarını, coğrafi veya toplumsal konumunu değiştirmesini istememeli; yalnız gerçekçi, ilgili ve davranışla meşru biçimde bağlantılı koşulları göstermelidir.

Aynı karar, farklı kanal, dil, kullanıcı veya açıklama aracında birbirini çürüten gerekçelerle sunulamaz. Karar gerekçesinin maddi anlamı bütün yüzeylerde korunmalıdır.

İnsan, kararın gerekçesini sorguladığı veya yanlış veriyi düzelttiği için daha kötü puan, gecikme, olumsuz profil, hizmet kaybı ya da misillemeyle karşılaşamaz. Bir gerekçe sorgulaması yalnız ilk kararı veren aynı sistemin aynı veriyi yeniden çalıştırmasına bırakılamaz. Yüksek etkili ve ihtilaflı durumda, kararı değiştirme yetkisine sahip anlamlı insan veya bağımsız inceleme yolu bulunmalıdır.

Gerekçe nedir?

Bir sistemin: “Başvurunuz reddedildi.” demesi sonucu bildirir. “Krediye uygunluk puanınız düşüktü.” demesi sınıflandırmayı bildirir. “Nakit akışı nedeniyle.” demesi bir neden başlığı sunar. Bunların hiçbiri tek başına gerçek ve yeterli gerekçe olmayabilir. Kanonik tanımı şöyledir: Karar gerekçesi; belirli bir insan veya kurum hakkında üretilen maddi sonucun, hangi doğrulanabilir veriler, kaynaklar, kurallar, eşikler, çıkarımlar, veto kapıları, insan değerlendirmeleri ve belirsizlikler altında oluştuğunu; hangi unsurların gerçekten belirleyici olduğunu ve kararın hangi düzeltme veya değişiklikle yeniden değerlendirilebileceğini gösteren denetlenebilir ilişkidir.

Daha sade biçimiyle:

Gerekçe, “sonuç bu” demek değil; “bu sonuca hangi gerçek yol açtı?” sorusuna dürüstçe cevap vermektir.

Sonuç gerekçe değildir

Şu ifadeler sonuçtur: “Kredi talebiniz reddedildi.” “Aday kısa listeye alınmadı.” “Evde bakım desteği uygun bulunmadı.” “Hesabınız risk nedeniyle sınırlandırıldı.” İnsan kararı öğrenir. Nedenini öğrenmez.

Puan gerekçe değildir

Krediye uygunluk puanı: 0,63 kararın sayısal girdisi olabilir. Fakat şu sorular açıktır:

Puan hangi veriden oluştu?
Hangi zaman aralığını kullandı?
Eksik veri nasıl değerlendirildi?
Puan tek başına mı karar verdi?
Ayrı veto kuralı var mı?
Eşik neden 0,65?
Puanın belirsizliği nedir?
İnsan hangi alanı düzeltebilir?

Tek sayı, insanın itiraz edebileceği bir gerekçe değildir.

Neden kodu gerekçe değildir

POLICY_DECLINE-17

kurum içi iş akışında yararlı olabilir. Fakat insan için anlamlı değildir. Kodun yanında: “Dış yükümlülük ve genel geri ödeme kapasitesi.” yazması da hâlâ fazla genel olabilir. Gerçek bireysel gerekçe şu olabilir: “Gümrük teminat kaydınız dış veri sağlayıcısı tarafından açık kamu borcu olarak sınıflandırılmış ve bu alan başvuruda otomatik veto oluşturmuştur.” Bu cümle insanın neyi inceleyeceğini gösterir.

Genel kategori bireysel gerekçe değildir

Şu başlıklar birçok sistemde kullanılabilir:

Güvenlik
Risk
Uygunluk
Hizmet kalitesi
Politika
Şüpheli etkinlik
İş gereksinimi
Mevcut koşullar

Bu başlıklar tek başına belirli insan kararını açıklamaz. “Güvenlik nedeniyle hesabınız kapatıldı.” cümlesi şu sorulara cevap vermez:

Hangi davranış?
Hangi tarih?
Hangi kaynaktan?
Kesin olay mı, model tahmini mi?
Geçici mi, kalıcı mı?
İnsan neyi düzeltebilir?
İtiraz nasıl yapılır?

Açıklama gerekçe değildir

Bir sistem karar sonrasında etkileyici bir paragraf üretebilir: “Bankamız sorumlu kredi politikaları kapsamında işletmelerin sürdürülebilir ödeme kapasitesini, sektörel koşullarını ve mevcut yükümlülüklerini bütüncül biçimde değerlendirir.” Bu metin bankanın genel yaklaşımını anlatır. Seda’nın neden reddedildiğini anlatmaz. Açıklama: doğru, düzgün, profesyonel olabilir. Yine de karar gerekçesi değildir.

Gerekçe savunma değildir

Kurumun amacı kararın her durumda haklı görünmesini sağlamak olmamalıdır. Gerekçe bazen şunu gösterebilir: “Karar yanlış veriye dayandı.” “Sistem belirsizliği olması gerekenden kesin yorumladı.” “Bu karar için gerekli insan incelemesi yapılmadı.” “Kullanılan kural güncel politikayla eşleşmiyordu.” Gerekçe yalnız kurumu savunabiliyorsa hesap verebilirlik aracı değildir.

İtibar koruma metnidir.

Gerekçe özel iç muhakeme dökümü değildir

İnsan kararın nedenini öğrenmek için modelin bütün özel iç düşünce akışını, her ara kelimeyi, bütün gizli hesaplamaları, kaynak kodunu, model ağırlıklarını görmek zorunda değildir. Bunların tamamı: anlaşılmaz, güvenlik açısından riskli, başka insanların verisini içeren, kararın gerçek nedenini daha da görünmez kılan bir veri yığını olabilir. İnsanın ihtiyacı şudur:

Kararı belirleyen maddi gerçekler ve kurallar.

Örneğin: “Başvurunuz, açık kamu borcu göstergesi nedeniyle otomatik olarak reddedildi. Bu gösterge şu dış kaynaktan, şu tarihte geldi. Nakit akışı puanınız ayrıca düşüktü, fakat tek başına ret nedeni değildi.” Bu açıklama: iç düşünce dökümü değildir, modelin bütün sırrını açmaz, insanın hatayı bulmasını sağlar.

İç muhakeme ile karar izi ayrılmalıdır

Bir yapay zekâ modeli cevap üretirken çok sayıda iç hesaplama yapabilir. İnsanın bütün bu iç süreci görmesi gerekmez. Fakat şu kayıtlar korunmalıdır: HANGİ VERİ KULLANILDI? HANGİ KURAL ÇALIŞTI? HANGİ EŞİK UYGULANDI? HANGİ VETO SONUCU BELİRLEDİ? HANGİ İNSAN İNCELEMESİ YAPILDI? HANGİ SÜRÜM DAVRANDI? HANGİ DIŞ ETKİ OLUŞTU? Buna: Karar İzi diyebiliriz. Karar izi açıklanabilir. Özel muhakeme dökümünün tamamı açıklanmak zorunda değildir.

Karar İzi nedir?

Karar İzi; insan amacından ve kullanılan girdilerden başlayarak veri dönüşümleri, kurallar, model değerlendirmeleri, eşikler, veto kapıları, insan müdahaleleri ve nihai sonuca kadar maddi karar adımlarının yeniden kurulabilir kaydıdır.

Örnek: BAŞVURU
↓
FATURA VERİSİ ALINDI
↓
18 GÜNLÜK VERİ EKSİKLİĞİ “SIFIR GELİR” OLARAK İŞLENDİ
↓
GÜMRÜK TEMİNATI “KAMU BORCU” OLARAK SINIFLANDIRILDI
↓
VETO KURALI ÇALIŞTI
↓
OTOMATİK RET
↓
GENEL AÇIKLAMA AJANI “NAKİT AKIŞI RİSKİ” METNİ ÜRETTİ

Bu iz gerçek kararla açıklama arasındaki farkı görünür kılar.

Karar Kökeni

Bir kararın: hangi ham veriden, hangi dönüştürülmüş alandan, hangi model veya politika kuralından doğduğunu gösteren ilişkiye: Karar Kökeni diyebiliriz. Karar kökeni olmadan insan yalnız son etiketi görür.

Gerekçenin on dört temel alanı

Yüksek etkili bir karar gerekçesi en az on dört sorunun ilgili olanlarına cevap vermelidir.

1. Karar kimliği
2. Kararı veren aktör
3. İnsan katılımı
4. Kararın sonucu ve etkisi
5. Belirleyici faktörler
6. Kullanılan veri ve kaynak
7. Olgu–çıkarım–politika ayrımı
8. Eşik ve veto kuralları
9. Belirsizlik ve veri eksikliği
10. Destekleyici ve karşıt kanıt
11. Karşı-olgusal değişim
12. Düzeltilebilir alanlar
13. Sürüm ve zaman
14. İtiraz ve yeniden inceleme yolu

1. Karar kimliği

Her karar benzersiz bir kayıt taşımalıdır:

DECISION-CREDIT-2026-041

Bu kimlik: başvuruyu, açıklamayı, itirazı, düzeltmeyi, yeniden değerlendirmeyi birbirine bağlar.

2. Kararı veren aktör

Kararı: yapay zekâ modeli, politika motoru, insan uzman, insan–makine ortak süreci hangisi verdi? Seda’nın olayında nihai ret: krediye uygunluk puanından değil, otomatik veto motorundan gelmiştir. Bu ayrım gerekçenin merkezidir.

3. İnsan katılımı

Dosyayı bir insan gördü mü? İnsan yalnız genel politikayı mı hazırladı? yalnız istisnaları mı inceliyor? bu özel kararı değiştirebilir miydi? itiraz sırasında mı devreye girdi? “İnsan gözetimi vardır.” yeterli değildir.

4. Kararın sonucu ve etkisi

Karar ne yaptı?

Ret mi?
Fiyat artışı mı?
Hesap sınırı mı?
Adayı görünmez kılma mı?
İnsan incelemesine gönderme mi?
Geçici bekletme mi?

Bir sistem: “Ek inceleme.” derken gerçekte aylarca fırsatı durdurabilir. Kararın fiilî etkisi görünmelidir.

5. Belirleyici faktörler

Her kullanılan veri belirleyici değildir. Kararı gerçekten değiştiren unsurlar gösterilmelidir. Üç sınıf kullanılabilir: BELİRLEYİCİ FAKTÖR DESTEKLEYİCİ FAKTÖR KULLANILDI AMA SONUCU DEĞİŞTİRMEDİ Seda’nın başvurusunda:

Kamu yükümlülüğü veto kaydı: belirleyici
Eksik fatura verisi: puanı düşüren destekleyici faktör
Sektör risk sınıfı: sınırlı destekleyici faktör
Şirket yaşı: kullanıldı, fakat sonucu değiştirmedi

Bu ayrım insanın gerçek nedene odaklanmasını sağlar.

6. Kullanılan veri ve kaynak

Kararı etkileyen veri: nereden geldi, hangi tarihte alındı, hangi insan veya kuruma aitti, nasıl dönüştürüldü gösterilmelidir. Örnek:

data_field:
unresolved_public_obligation
source:
ExternalDataProvider-B
retrieved_at:
2026-10-04
original_record:
customs_guarantee
system_transformation:
classified_as_public_debt

7. Olgu–çıkarım–politika ayrımı

Şu üç unsur aynı değildir: Olgu Son doksan günde banka hesabına şu tutarda ödeme geldi. Çıkarım Nakit akışı istikrarsız olabilir. Politika Açık kamu borcu kaydı bulunan başvuru otomatik olarak reddedilir. Karar gerekçesi bunları tek: “Riskli işletme.” etiketinde birleştirmemelidir.

8. Eşik ve veto kuralları

Sistem puan eşiği kullanabilir: score >= 0.65 Ayrıca puandan bağımsız veto kuralları bulunabilir. İnsan kararın: puan nedeniyle mi, veto nedeniyle mi, insan değerlendirmesi nedeniyle mi oluştuğunu bilmelidir.

9. Belirsizlik ve veri eksikliği

Sistem hangi alanlardan emin değildir? Veri eksikliği: sıfır, olumsuz, normal olarak mı yorumlandı? Eksik veri kararın güvenini düşürüyorsa bu görünmelidir.

invoice_data_coverage:
82%
missing_period:
18 days
treatment:
incorrectly_assumed_zero_revenue

Buradaki yüzde 82, beklenen fatura kayıtlarının ne kadarının alındığını gösterir; takvim günlerinin oranı değildir. On sekiz günlük kesintinin toplam süre içindeki yüzdesiyle karıştırılmamalıdır.

10. Destekleyici ve karşıt kanıt

Kararı yalnız destekleyen veriler değil, ona karşı çıkan maddi kanıtlar da değerlendirilmelidir. Seda’nın: imzalanmış ihracat siparişi, düzenli müşteri geçmişi, üretim kapasitesi olumlu verileridir. Ajan bunları kullandı mı? Kullandıysa neden veto karşısında etkisiz kaldı?

11. Karşı-olgusal değişim

Şu soru cevaplanabilir: Hangi maddi koşul farklı olsaydı karar değişebilirdi? Örneğin: “Kamu borcu göstergesi kaldırıldığında başvuru otomatik ret yerine insan kredi değerlendirmesine geçecekti.” Bu cümle: “Kredi kesin onaylanacaktı.” anlamına gelmez. Karşı-olgusal açıklama etkisinin sınırını doğru göstermelidir.

12. Düzeltilebilir alanlar

İnsan neyi düzeltebilir?

Yanlış kimlik
Eski rol
Eksik gelir kaydı
Hatalı borç sınıflandırması
Yanlış adres
Bağlam dışı çıkarım

İnsan neyi yalnız tartışabilir?

Kurumsal politika
Model eşiği
Karar ölçütünün adaleti
Kullanılan değişkenin meşruiyeti

Bu iki yol ayrılmalıdır.

13. Sürüm ve zaman

Karar hangi: model, politika, veri, açıklama şeması sürümünde verildi? Aynı başvuru yeni sürümde farklı sonuç üretebilir. İnsan hangi sistemin kararını sorguladığını bilmelidir.

14. İtiraz ve yeniden inceleme yolu

İnsan veriyi nasıl düzeltecek, açıklamaya nasıl itiraz edecek, bağımsız insan incelemesine nasıl ulaşacak, hangi sürede cevap alacak bilmelidir. Gerekçe çıkış yolu göstermiyorsa insanı yalnız bilgilendirir. Güçlendirmez.

Belirleyici neden nedir?

Bir faktör kaldırıldığında kararın sonucu veya karar yolu değişiyorsa belirleyici olabilir. Örneğin: Kamu borcu göstergesi var: OTOMATİK RET Kamu borcu göstergesi yok: İNSAN İNCELEMESİNE GEÇ Bu faktör belirleyicidir. Nakit akışı puanı olumsuz olabilir. Fakat veto zaten kararı vermişse nakit akışı tek başına nihai neden değildir.

En yüksek ağırlık en belirleyici neden olmayabilir

Bir model açıklama aracı, puana en çok katkı yapan değişkeni gösterebilir. Ancak nihai karar ayrı bir politika motoruyla verilmiş olabilir. Örneğin:

Modelde en büyük olumsuz katkı: gelir oynaklığı
Nihai ret nedeni: yasaklı ülke veya açık borç veto kuralı

Açıklama yalnız model ağırlığına bakarsa gerçek karar nedenini kaçırır.

Karar ve açıklama aynı sistemden doğmayabilir

Kararı: kural motoru, model, insan, dış sağlayıcı verebilir. Açıklamayı başka bir üretken sistem yazabilir. Açıklama sistemi gerçek karar izine erişmiyorsa mantıklı fakat yanlış bir hikâye oluşturabilir. Buna: Gerekçe Aklaması diyebiliriz.

Gerekçe Aklaması

Gerekçe aklaması; bir kararın gerçek nedenini göstermeyen fakat sonucu makul, yasal, adil veya kaçınılmaz gösterecek biçimde sonradan oluşturulan açıklamadır.

Örnek: Gerçek neden: En yüksek komisyonlu ürünün öne çıkarılması. Gösterilen neden: “İhtiyaçlarınıza en uygun ürün.”

Gerçek neden:

İnsan onayı bulunmaması. Gösterilen neden: “Teknik hata.”

Gerçek neden:

Eski ve yanlış risk belleği. Gösterilen neden: “Organizasyonel devamlılık.”

Gerçek neden:

Sert politika veto kuralı. Gösterilen neden: “Genel nakit akışı riski.” Açıklamanın kulağa mantıklı gelmesi karar izine sadık olduğunu kanıtlamaz.

Açıklama Sadakati

Bir açıklamanın gerçek karar mekanizmasıyla ne kadar uyumlu olduğuna: Açıklama Sadakati diyebiliriz. Sadık açıklama: gerçekten kullanılan veriyi, gerçekten çalışan kuralı, gerçekten belirleyici faktörü, gerçek insan katılımını gösterir. Sadık olmayan açıklama karar sonrasında tahmin edilmiş bir hikâyedir.

Yaklaşık açıklama

Karmaşık modellerde belirli girdinin etkisi yaklaşık yöntemlerle hesaplanabilir. Bu yararlı olabilir. Ancak açıklama şöyle etiketlenmelidir: “Aşağıdaki faktörler model davranışını yaklaşık olarak açıklamaktadır. Kesin nedensel karar izi değildir.” Yaklaşık açıklama: veri incelemesine, model denetimine, insan anlayışına yardım edebilir. Fakat: “Karar kesin olarak bu nedenle verildi.” şeklinde sunulmamalıdır.

Yaklaşık açıklama neden kararsız olabilir?

Aynı karar için kullanılan açıklama yöntemi: küçük veri değişikliğinde, farklı örnekleme yönteminde, başka açıklama aracında farklı faktörler gösterebilir. Bir açıklama bugün: “Nakit akışı” derken yarın: “Sektör riski” diyebilir. Karar aynı kalmıştır. Bu:

Gerekçe Kararsızlığıdır.

Yüksek etkili sistemlerde açıklamanın: tekrar üretilebilirliği, kararlılığı, karar iziyle uyumu sınanmalıdır.

Korelasyon neden değildir

Model belirli özellik ile olumsuz sonuç arasında ilişki bulabilir. Örneğin: belirli posta kodu, cihaz türü, başvuru saati, yazım biçimi geçmiş veride riskle ilişkili olabilir. Bu ilişki: bu insanın güvenilmez olmasının nedeni değildir. Sistem korelasyonu nedensel insan özelliği gibi açıklamamalıdır. CORRELATION ≠ CAUSE

Tahmin, gerçekleşmiş davranış değildir

Bir model:

default_probability: 0.32

üretebilir. Bu şu anlama gelir: Model belirli veri altında yüzde 32 geri ödeme sorunu olasılığı tahmin etti. Şu anlama gelmez: İşletme borcunu ödemeyecektir. Gerekçe olasılığı insan niteliğine dönüştürmemelidir.

Politika ile tahmin ayrılmalıdır

Bankanın şu politikası olabilir: Açık kamu borcu göstergesi bulunan başvuru otomatik olarak reddedilir. Model ayrıca düşük risk tahmini üretmiş olabilir. Ret model tahmininden değil, politikadan gelmiştir. İnsan şu ayrımı bilmelidir: “Model sizi yüksek riskli bulduğu için mi reddedildiniz?” yoksa: “Tek bir politika koşulu nedeniyle mi reddedildiniz?” Bu ayrım itiraz yolunu değiştirir.

Kural doğru uygulanmış, kuralın kendisi tartışmalı olabilir

Sistem veriyi doğru okuyabilir. Politikayı doğru uygulayabilir. İnsan yine de şu soruyu sorabilir: “Bu kural neden bu kararda kullanılıyor?” Örneğin küçük ve geçici bir kayıt otomatik veto oluşturuyor olabilir. Gerekçe sorgulama hakkı yalnız veri hatasını değil: kuralın ilgisini, orantısını, güncelliğini, insan etkisini de sorgulayabilmelidir.

Gerekçenin yedi kalite kapısı

Güvenilir gerekçe en az yedi kapıyı geçmelidir.

1. Sadakat
2. Özgüllük
3. Maddi Yeterlilik
4. Anlaşılabilirlik
5. Tutarlılık
6. Sorgulanabilirlik
7. Orantılı Gizlilik

1. Sadakat

Açıklama gerçek karar sürecine dayanıyor mu?

2. Özgüllük

Bu insana ve bu karara mı ait? Yoksa genel şablon mu?

3. Maddi yeterlilik

İnsan neyi düzelteceğini ve hangi kuralın etkili olduğunu anlayabiliyor mu?

4. Anlaşılabilirlik

Açıklama uzman olmayan insanın anlayabileceği dilde mi?

5. Tutarlılık

Web, e-posta, telefon, farklı dil ve itiraz kanalında aynı maddi nedeni taşıyor mu?

6. Sorgulanabilirlik

İnsan gerekçeye itiraz edebiliyor mu? Kararı yeniden açabilecek biri var mı?

7. Orantılı gizlilik

Açıklama: başka insanların verisini, güvenlik sırlarını, gereksiz ticari ayrıntıyı açmadan yeterli bilgi veriyor mu?

Açıklama Tiyatrosu

Sistem açıklama sunuyor gibi görünür. Fakat insan neyi sorgulayacağını anlayamaz. Buna: Açıklama Tiyatrosu diyebiliriz. Yaygın biçimleri şunlardır:

1. Genel neden listesi

Nakit akışı Sektörel koşullar Mevcut yükümlülükler Hangisi belirleyici bilinmez.

2. Teknik değişken dökümü

feature_118 = -0.084
cluster_7 = 0.62
embedding_similarity = 0.71

İnsan için anlam yoktur.

3. Model böyle dedi

“Gelişmiş algoritmamız başvurunuzu uygun bulmadı.”

4. Politika gerekçesi

“Şirket politikamız gereği.” Hangi politika ve hangi koşul bilinmez.

5. Her ihtimali içeren açıklama

“Karar gelir, sektör, borç, piyasa, davranış ve diğer faktörlerden etkilenmiş olabilir.” Bu açıklama yanlışlanamaz.

6. Sonradan yazılmış ikna metni

Karar iziyle bağlantısı olmayan ama kulağa makul gelen paragraf.

7. Eylemsiz açıklama

İnsan neden reddedildiğini kısmen öğrenir. Veriyi düzeltecek veya insan incelemesine ulaşacak yol bulamaz.

Teknik ayrıntı çokluğu açıklama değildir

Kurum insana yüzlerce model değişkeni gösterebilir. Bu bilgi bolluğu gerçek gerekçeyi saklayabilir. İnsan şu soruyu sorar: “Hangisi kararımı gerçekten değiştirdi?” Cevap verilmez. Bu duruma: Değişken Sislemesi diyebiliriz.

Sadeleştirme gerçeği bozmamalıdır

Açıklama anlaşılır olmak için sadeleştirilebilir. Fakat sadeleştirme sırasında: veto, istisna, belirsizlik, veri hatası, insan rolü kaybolmamalıdır. “Nakit akışınız yetersiz.” cümlesi, gerçek neden yanlış kamu borcu kaydıysa sadeleştirme değildir. Yanlış gerekçedir.

Belirleyici faktör ile değiştirilebilir faktör aynı değildir

Bir faktör kararı belirlemiş olabilir. İnsan onu değiştiremeyebilir. Örneğin:

Şirket yaşı
Geçmiş olay
Piyasa koşulu

Karşı-olgusal açıklama yalnız: “Şirketiniz daha eski olsaydı sonuç farklı olabilirdi.” demekle yetinirse insan için eylem yolu sunmaz. Fakat belirleyici faktör yine saklanmamalıdır. Gerekçe şu ayrımı gösterebilir: BELİRLEYİCİ AMA İNSAN TARAFINDAN HEMEN DEĞİŞTİRİLEMEZ DÜZELTİLEBİLİR VERİ YENİDEN DEĞERLENDİRİLEBİLİR POLİTİKA

Karşı-olgusal açıklama nedir?

Karşı-olgusal açıklama; kararın hangi ilgili koşul farklı olduğunda başka bir sonuca veya başka bir inceleme yoluna geçebileceğini gösteren sınırlı açıklamadır.

Örnek: “Açık kamu borcu göstergesi bulunmasaydı başvurunuz otomatik ret yerine insan değerlendirmesine geçecekti.” Bu cümle: gerçekçi, karar mekanizmasıyla ilgili, insanın düzeltme yapabileceği bir alan gösterir.

Karşı-olgusal açıklama garanti değildir

Şu ifade yanlış olabilir: “Borç göstergesini kaldırırsanız kredi alırsınız.” Doğru ifade: “Borç göstergesinin kaldırılması otomatik veto nedenini ortadan kaldırır. Başvurunuz daha sonra diğer finansal koşullar bakımından insan incelemesine alınır; kredi onayı garanti edilmez.” Açıklama yeni yanıltıcı beklenti üretmemelidir.

İmkânsız karşı-olgusal

Sistem şu tür açıklamalar verebilir: “Daha genç olsaydınız.” “Başka bölgede yaşasaydınız.” “Geçmiş sağlık durumunuz bulunmasaydı.” “Ana diliniz farklı olsaydı.” Bunlar insanın değiştirebileceği gerçekçi yollar değildir. Ayrıca kullanılan özelliğin meşruiyetini sorgulatabilir. Karşı-olgusal açıklama insanı kendi kimliğini değiştirmeye yöneltmemelidir.

Manipülatif karşı-olgusal

Bir sistem şöyle diyebilir: “Daha fazla ürün satın alırsanız güven puanınız yükselir.” Bu açıklama insanı kurumun ticari çıkarına yöneltebilir. Kararın gerçek uygunluk ölçütüyle ilgisi yoksa karşı-olgusal manipülasyondur.

Karşı-olgusal eşitlik

Benzer durumda bulunan insanlar için aynı tür değişiklik, aynı karar etkisini üretmelidir. Bir insana “Gelirinizi yüzde 10 artırın.” denirken başka insana aynı verilerle: “Yüzde 30 artırın.” deniyorsa gerekçe tutarlılığı incelenmelidir.

Eksik veri nasıl açıklanmalıdır?

Sistem bazı verileri alamamış olabilir. Üç farklı davranış mümkündür: VERİ EKSİK → SIFIR SAY VERİ EKSİK → OLUMSUZ SAY VERİ EKSİK → BELİRSİZLİK OLARAK KORU İlk iki yöntem insanı veri bağlantısı hatası nedeniyle cezalandırabilir. Gerekçe eksik verinin: nerede, ne kadar, nasıl yorumlandığını göstermelidir.

Veri yokluğu olumsuz veri değildir

Seda’nın on sekiz günlük faturası görünmemektedir. Bu: “On sekiz gün satış yok.” demek değildir.

NO_DATA
≠
ZERO_VALUE

Bu ayrım gerekçede ve model davranışında korunmalıdır.

Kaynak güncelliği

Bir karar eski veriye dayanabilir. Örneğin:

Geçmiş rol
Eski adres
Kapanmış borç
Düzeltilmiş soruşturma
Sona ermiş rıza
Güncellenmemiş sektör kodu

Gerekçe kaynak tarihini göstermelidir. İnsan “Bu kayıt artık geçerli değil.” diyebilmelidir.

Dış veri sağlayıcısı sorumluluğu ortadan kaldırmaz

Kurum şöyle diyebilir: “Bu bilgi dış sağlayıcıdan geldi.” Bu kökeni açıklar. Kararı kullanan kurumun sorumluluğunu ortadan kaldırmaz. Yüksek etkili davranışta kurum veri kalitesini, güncelliğini, itiraz yolunu yönetmelidir.

Bir karar birçok ajanın birleşiminden doğabilir

Çoklu ajan sisteminde nihai açıklama tek cümleyle bütün nedenleri karıştırabilir. Örnek: KİMLİK AJANI: Şirket doğru eşleşti VERİ AJANI: 18 günlük kayıt eksik RİSK AJANI: 0,63 puan POLİTİKA AJANI: Kamu borcu veto kaydı İNSAN İNCELEMESİ: Yok AÇIKLAMA AJANI: Nakit akışı istikrarsız Gerekçe sistemi her ajanın: rolünü, çıktısını, karar üzerindeki etkisini ayırmalıdır.

Karar Delegasyonu

Bir ana ajan alt sistemden: “Uygun değil.” cevabı alabilir. Ana ajan bunu insana aktarabilir. Fakat şu bilgileri bilmiyorsa gerçek gerekçe üretmemelidir:

Alt sistem hangi veriyi kullandı?
Karar mı verdi, öneri mi?
Hangi sürüm çalıştı?
Sonuç veto mu, puan mı?
Belirsizlik neydi?

Bir sistem başka sistemin açıklamasını sorgulamadan kopyalamamalıdır.

Gerekçe Soyu

Bir kararın farklı ajan ve sistemlerde oluşan bütün gerekçe parçalarını birbirine bağlayan yapıya: Gerekçe Soyu diyebiliriz.

HAM VERİ
↓
DÖNÜŞTÜRÜLMÜŞ ALAN
↓
MODEL ÇIKARIMI
↓
POLİTİKA KURALI
↓
NİHAİ KARAR
↓
İNSAN AÇIKLAMASI

Her dönüşüm: kaynağını, zamanını, anlamını korumalıdır.

Açıklama ajanı karar ajanından bağımsız doğrulanmalıdır

Açıklama ajanı akıcı dil üretebilir. Fakat gerçek karar izini değiştirebilir, eksik alanı tahminle doldurabilir, kurumu daha haklı gösterebilir. Bu nedenle açıklama metni: karar kaydına, belirleyici faktörlere, veto ve eşik durumuna teknik olarak bağlanmalıdır. Açıklama ajanının serbestçe neden uydurmasına izin verilmemelidir.

Gerekçe tutarlılığı

İnsan web portalında: “Nakit akışı.” görür. Telefon çalışanı: “Sektör riski.” der. İtiraz e-postası: “Mevcut yükümlülük.” der. Teknik kayıt: “Kamu borcu veto kodu.” gösterir. Bu açıklamalar aynı karara aitse maddi çelişki vardır. Buna: Gerekçe Çelişkisi diyebiliriz.

Çok dilli gerekçe

Bir dilde: “Açık kamu yükümlülüğü göstergesi.” yazabilir. Başka dilde: “Vergi borcu.” olarak çevrilebilir. İlki belirsiz ve dış kaynağa bağlı göstergedir. İkincisi kesin borç iddiasıdır. Çeviri insanın itibarını ve itiraz yolunu değiştirmiştir. Gerekçe diller arasında maddi anlam eşliği taşımalıdır.

Kanal farkı gerekçeyi değiştirmemelidir

Kısa SMS açıklaması ayrıntılı rapordan daha kısa olabilir. Fakat farklı neden gösteremez. Örnek: SMS: “Başvurunuz, dış yükümlülük kaydındaki ihtilaf nedeniyle reddedildi. Ayrıntı ve itiraz bağlantısı: karar kimliği.” Ayrıntılı kayıt: Kaynak, zaman, veto, düzeltme ve karşı-olgusal bilgi. Kısa anlatım eksik olabilir. Yanlış olmamalıdır.

Model güncellendiğinde gerekçe değişebilir

Aynı başvuru: model v2.4’te reddedilebilir, model v2.5’te onaylanabilir. İnsan şu soruyu sorabilir: “Ne değişti?” Kurum “Sistemlerimiz sürekli gelişiyor.” demekle yetinmemelidir. Maddi değişiklik: veri kaynağı, eşik, politika, model, insan incelemesi hangisindedir?

Karar sürümü

Gerekçe şu bilgileri taşımalıdır:

decision_model_version
policy_version
data_snapshot
explanation_version
human_review_version

Aksi hâlde geçmiş karar bugünkü sistemle açıklanmaya çalışılabilir.

Olumlu karar da gerekçe gerektirebilir

Gerekçe hakkı yalnız ret kararları için değildir. İnsan bir işlemde avantaj elde etmiş olabilir. Fakat bu avantaj: başka insanın hakkını, gelecekteki yükümlülüğü, gizli profili etkileyebilir. Örneğin: “Size özel daha yüksek kredi limiti verildi.” İnsan bunun: hangi veriyle, otomatik yenileme veya fiyat koşuluyla, kalıcı profile dayanarak oluştuğunu bilmek isteyebilir. Olumlu sonuç gizli borç veya davranış etkisi taşıyabilir.

Gerekçe insanı sisteme göre davranmaya zorlamamalıdır

Bir sistem açıklamasını insanı modele uygun kişiliğe dönüştürmek için kullanabilir: “Daha güvenilir görünmek için daha sık uygulamaya girin.” “Daha yüksek puan için belirli ürünleri satın alın.” “Daha iyi aday olmak için sosyal medya görünürlüğünüzü artırın.” Bu öneriler karar ölçütüyle gerçek ve meşru bağ taşımıyorsa insanı sistemin metriğine göre yaşamaya zorlar. Gerekçe insanı modele hizmet eden davranışa itmemelidir.

Gerekçe Oyunlaştırması

İnsanlar hangi göstergelerin puanı artırdığını öğrendiğinde sistemi yanıltmaya çalışabilir. Bu risk gerçektir. Kurum bazı ayrıntıları sınırlamak isteyebilir. Örneğin dolandırıcılık modelinin tam eşik ve kural kombinasyonu açıklanmayabilir. Fakat oyun riski şu cümleye dönüşmemelidir: “Hiçbir neden açıklayamayız.” Daha sınırlı fakat anlamlı açıklama yapılabilir: “Hesabınız son yirmi dört saatteki kimlik ve işlem tutarsızlıkları nedeniyle geçici olarak sınırlandırıldı. Kesin güvenlik eşikleri açıklanamaz. Aşağıdaki kimlik doğrulamasıyla insan incelemesi isteyebilirsiniz.”

Güvenlik gerekçesiyle sınırlı açıklama

Güvenlik alanında açıklama üç katmanda sunulabilir. İnsan için temel gerekçe

Hangi davranış sınıfı?
Geçici mi, kalıcı mı?
Hangi tarih aralığı?
İnsan ne yapabilir?
İtiraz nasıl yapılır?

Yetkili insan incelemesi Daha ayrıntılı sinyaller. Gizli teknik kanıt Tam eşik, saldırı yöntemi ve güvenlik kayıtları. Bu yapı hem güvenliği hem insan hakkını korur.

Ticarî sır gerekçeyi tamamen gizleyemez

Kurum model ağırlıklarını veya tam formülünü açıklamak istemeyebilir. Bu meşru olabilir. Fakat insanın: hangi önemli verinin kullanıldığını, hangi kuralın belirleyici olduğunu, yanlış kaydı nasıl düzelteceğini, kararı kimin inceleyebileceğini öğrenmesi yine mümkündür.

Formül gizli olabilir. İnsan üzerindeki maddi neden bütünüyle gizli olamaz.

Başka insanların mahremiyeti

Karar başka insanların verilerini de içerebilir. Örneğin:

Şikâyet sahibi
Ortak hesap sahibi
Diğer aday
Tanık
Aile üyesi

Gerekçe hakkı bu kişilerin bütün özel verilerini açmayı gerektirmez. İnsan için gerekli maddi bilgi: kaynağın türü, iddianın durumu, karar etkisi, karşı kanıt yolu ile sınırlı biçimde verilebilir.

Gerekçe ile mahremiyet dengesi

Şu açıklama gerekebilir: “Başvurunuz, doğrulanmış iki bağımsız müşteri teslimat şikâyeti nedeniyle insan incelemesine alındı.” Şikâyet sahiplerinin adı açıklanmayabilir. Fakat sistem: “Gizli kaynaklar var.” diyerek hiçbir bilgi vermemelidir.

Gerekçe sorgulamak kararı otomatik olarak değiştirmez

İnsan kararı anlamlı biçimde sorgulayabilir. Veriler doğru, kural meşru ve karar tutarlı çıkabilir. Bu durumda karar aynı kalabilir. Gerekçe hakkı: “İtiraz eden herkes kazanır.” anlamına gelmez. Şunu sağlar:

İnsan neyin değerlendirildiğini bilir.
Yanlış veri düzeltilir.
Kural sorgulanabilir.
İnsan incelemesi anlamlı olur.
Karar sahipsiz kalmaz.

Aynı sistem kendi kararını tek başına yeniden incelememelidir

Seda’nın itirazı aynı: veri önbelleği, veto motoru, açıklama şablonu ile yeniden çalıştırılmıştır. Sonuç değişmemiştir. Bu gerçek yeniden inceleme değildir. Buna: İtiraz Döngüsü diyebiliriz.

İLK KARARI VEREN SİSTEM
↓
AYNI VERİ
↓
AYNI KURAL
↓
AYNI SONUÇ
↓
“İTİRAZ İNCELENDİ”

Yüksek etkili durumda itiraz: yeni veriyi gerçekten alabilen, ilk karar izini görebilen, kararı değiştirme yetkisi bulunan insan veya bağımsız süreç tarafından incelenmelidir.

İnsan incelemesi yalnız modeli tekrar çalıştırmak değildir

İnsan ekranında yalnız: model recommendation: reject görür ve aynı düğmeye basarsa bağımsız inceleme sınırlıdır. İnsan önemli veriyi, kaynak hatasını, veto kuralını, karşı kanıtı, insanın açıklamasını görebilmelidir.

Gerekçe Paketi

Yüksek etkili kararlarda insan için üç katmanlı: Gerekçe Paketi kullanılabilir.

1. Kısa İnsan Özeti

Başvurunuz, dış veri sağlayıcısındaki gümrük teminat kaydının açık kamu borcu olarak sınıflandırılması nedeniyle otomatik olarak reddedildi. Bu kayıt hakkında düzeltme belgesi sunabilir ve insan incelemesi isteyebilirsiniz.

2. Karar Gerekçesi Makbuzu

Karar kimliği
Sistem ve sürüm
İnsan katılımı
Belirleyici faktörler
Kaynak ve zaman
Eşik ve veto
Belirsizlik
Karşı-olgusal
Düzeltme ve itiraz

3. Yetkili Teknik Kanıt

Ham alanlar
Dönüşüm logları
Model çıktıları
Politika çağrıları
Veri sağlayıcı cevapları
Bütünlük kayıtları

İnsan ilk aşamada teknik eki okumak zorunda değildir. Ancak itiraz ve denetim için bulunmalıdır.

İnsan tarafından okunabilir Karar Gerekçesi Makbuzu

NOMOS 13 — KARAR GEREKÇESİ VE YENİDEN İNCELEME MAKBUZU Karar Kimliği

DECISION-CREDIT-SEDA-2026-041

Başvuru Dört aylık işletme sermayesi kredisi Karar Tarihi 4 Ekim 2026 İlk Karar OTOMATİK RET Kararı Veren Sistem

Ticari Kredi Karar Ajanı v4.6
Politika Motoru v3.1
Dış Veri Sınıflandırma Katmanı v2.8

İşlem Öncesi İnsan İncelemesi Yok

Gerçek Belirleyici Neden

Dış veri sağlayıcısındaki gümrük teminat kaydı:

unresolved_public_obligation: true

olarak sınıflandırılmıştır. Bu alan, Politika Motoru v3.1 içinde puandan bağımsız otomatik ret veto kuralını çalıştırmıştır. Kaynak ExternalDataProvider-B Kaynak Tarihi 2 Ekim 2026 Orijinal Kaydın Gerçek Niteliği İthal ham madde işlemi için geçici gümrük teminatı Yanlış Dönüşüm Geçici teminat, açık kamu borcu olarak sınıflandırılmıştır.

Destekleyici Olumsuz Faktörler

Elektronik Fatura Verisi On sekiz günlük veri bağlantısı eksiktir. Sistem eksik veriyi: “Sıfır gelir” olarak yorumlamıştır. Bu hata krediye uygunluk puanını düşürmüştür. Makine Ödemesi Tek seferlik makine yatırımı, tekrarlayan aylık gider olarak sınıflandırılmıştır. Sektör Sınıfı Şirketin eski genel ambalaj faaliyet kodu kullanılmıştır. Güncel medikal steril ambalaj faaliyeti değerlendirmeye tam yansımamıştır.

Olumlu Fakat Vetoyu Değiştirmeyen Unsurlar

İmzalanmış ihracat siparişi
On bir yıllık işletme geçmişi
Düzenli müşteri tahsilatları
Doğrulanmış üretim kapasitesi

Bu unsurlar krediye uygunluk puanına olumlu katkı sağlamış ancak veto kuralı nedeniyle sonucu değiştirememiştir.

İlk Gösterilen Gerekçe

“Nakit akışı istikrarı, sektörel risk ve mevcut yükümlülükler.” Gerekçe Sadakati YETERSİZ İlk açıklama gerçek belirleyici veto nedenini açıkça göstermemiştir.

İlk Krediye Uygunluk Puanı

0,63 Otomatik Ön Değerlendirme Eşiği 0,65 Önemli Açıklama Başvuru yalnız bu puan nedeniyle reddedilmemiştir. Kamu yükümlülüğü veto kaydı bulunmasaydı başvuru, diğer koşullar için ek değerlendirmeye geçecekti.

Düzeltmeler

Gümrük teminatı kamu borcu sınıfından çıkarıldı.
Eksik elektronik faturalar sisteme eklendi.
Makine ödemesi tek seferlik yatırım olarak yeniden sınıflandırıldı.
Güncel faaliyet alanı doğrulandı.

Düzeltilmiş Krediye Uygunluk Puanı 0,78 Veto Durumu Kaldırıldı

Karşı-Olgusal Açıklama

Yanlış kamu borcu göstergesi bulunmasaydı başvuru otomatik olarak reddedilmeyecek, insan kredi değerlendirmesine aktarılacaktı. Bu değişiklik tek başına kredi onayı garantisi değildir.

Yeniden İnceleme

Başvuru bağımsız insan kredi kurulu tarafından yeniden değerlendirildi. Yeni Karar Daha düşük tutar ve ek teminat koşuluyla krediye uygunluk

İlk İtirazın Durumu

İlk itiraz, aynı otomatik sistem ve güncellenmemiş önbellek kullanılarak sonuçlandırılmıştır. Bu nedenle bağımsız insan incelemesi sayılmamaktadır.

Maddi Etki

Finansman kararı on üç gün gecikti.
İhracat siparişinin bir bölümü başka tedarikçiye geçti.
Üretim planı ve şirket geliri etkilendi.

Telafi İncelemesi Açık

İtiraz ve Düzeltme Yolu

Veri kaydı itirazı
Politika kararı incelemesi
İnsan kredi kurulu başvurusu
Maddi zarar ve telafi talebi

Güncel Durum KARAR DÜZELTİLDİ — MADDİ ETKİ VE TELAFİ İNCELEMESİ SÜRÜYOR

Makinece okunabilir Karar Gerekçesi Makbuzu

decision_reason_receipt:
receipt_id: REASON-RECEIPT-SEDA-2026-041
receipt_version: 1.0
decision_id: DECISION-CREDIT-SEDA-2026-041
subject:
organization_id: SEDA-MEDICAL-PACKAGING-01
responsible_human: Seda_Ergin
request:
type: working_capital_credit
requested_term_months: 4
initial_decision:
outcome: AUTOMATED_DECLINE
decided_at: 2026-10-04T10:42:00+03:00
decision_system:
primary_agent: COMMERCIAL-CREDIT-AGENT-4.6
risk_model: CREDIT-RISK-MODEL-7.2
policy_engine: POLICY-ENGINE-3.1
data_classifier: EXTERNAL-DATA-CLASSIFIER-2.8
explanation_generator: EXPLANATION-AGENT-2.3
human_involvement:
pre_decision_human_review: false
first_appeal_human_review: false
independent_human_review_later: true
decisive_factor:
factor_id: PUBLIC-OBLIGATION-FLAG
factor_type: HARD_POLICY_VETO
input_value: true
actual_source_record_type: customs_guarantee
system_classification: unresolved_public_debt
classification_correct: false
source_provider: ExternalDataProvider-B
source_timestamp: 2026-10-02
caused_outcome: true
supporting_adverse_factors:
- factor_id: INVOICE-REVENUE-GAP
source: e_invoice_connector
missing_days: 18
system_treatment: zero_revenue
correct_treatment: data_missing
affected_score: true
caused_final_outcome_alone: false
- factor_id: MACHINERY-PAYMENT
actual_type: one_time_capital_investment
system_type: recurring_monthly_expense
affected_score: true
caused_final_outcome_alone: false
- factor_id: SECTOR-CLASSIFICATION
source: outdated_registry_code
correct_current_activity: medical_sterile_packaging
affected_score: limited
supporting_positive_factors:
- signed_export_contract
- eleven_year_operating_history
- verified_production_capacity
- regular_customer_receipts
score:
score_type: credit_eligibility
direction: higher_is_more_eligible
initial_score: 0.63
threshold: 0.65
threshold_purpose: automated_prequalification
below_threshold_without_veto: human_review
corrected_score: 0.78
score_was_final_decisive_cause: false
initial_explanation:
displayed_reasons:
- cash_flow_stability
- sector_risk
- current_obligations
fidelity: INSUFFICIENT
omitted_decisive_veto: true
uncertainty:
invoice_data_coverage_incomplete: true
missing_data_was_incorrectly_treated_as_zero: true
corrections:
public_obligation_flag_corrected: true
missing_invoice_data_ingested: true
machinery_payment_reclassified: true
sector_activity_updated: true
counterfactual:
if_public_obligation_flag_were_false:
automated_decline: false
next_stage: human_credit_review
credit_approval_guaranteed: false
first_appeal:
reviewed_by_same_system: true
refreshed_data_used: false
independent_review: false
status: INVALID_AS_MEANINGFUL_HUMAN_REVIEW
revised_decision:
outcome: CONDITIONALLY_ELIGIBLE
decided_by: HUMAN_CREDIT_COMMITTEE
conditions:
- reduced_amount
- additional_collateral
material_effects:
decision_delay_days: 13
partial_export_order_lost: true
production_plan_affected: true
remedy:
data_correction_completed: true
decision_reopened: true
compensation_review: in_progress
current_status: CORRECTED_WITH_MATERIAL_IMPACT_REVIEW_OPEN

Karar Gerekçesi Makbuzu kesinlik üretmemelidir

Makbuzda bazı alanlar hâlâ belirsiz olabilir. Örneğin:

Bir değişkenin model üzerindeki tam etkisi yaklaşık olabilir.
Dış kaynağın ilk yanlış sınıflandırmayı neden yaptığı bilinmeyebilir.
Kaybedilen siparişin tamamının karardan doğduğu kesin olmayabilir.

Bu alanlar açıkça: UNVERIFIED APPROXIMATE

PARTIALLY_SUPPORTED

olarak gösterilmelidir. Makbuz bütün belirsizlikleri yok eden belge değildir. Belirsizliği dürüstçe sınırlandıran kayıttır.

Gerekçenin insan tarafından anlaşılması

Bir teknik ekip kararın nedenini doğru biçimde biliyor olabilir. Fakat açıklama yalnız şu biçimdeyse insan anlayamaz:

Rule 17 triggered due to EDP-B object 6C with model residual -0.084.

İnsan dilindeki karşılığı gerekir: “Dış veri sağlayıcısı gümrük teminatınızı açık kamu borcu olarak sınıflandırdı. Bu kayıt bankanın otomatik ret kuralını çalıştırdı.” Teknik kayıt yine korunabilir. İnsan açıklaması gerçeği sadeleştirir.

Sade dil doğruluk kaybı olmamalıdır

Açıklama: kısa, doğrudan, terimleri tanımlayan bir yapıda olabilir. Fakat: “Risk göstergeleri.” gibi anlamsız genelliğe düşmemelidir.

Gerekçenin erişilebilirliği

Gerekçe: ekran okuyucuyla okunabilir, anlaşılır dilde, gerektiğinde sesli, farklı dilde maddi anlamı korunmuş olmalıdır. İnsan gerekçeyi teknik dosyadan çıkarabilmek için uzman tutmak zorunda bırakılmamalıdır.

Gerekçe ücreti

Bir kurum temel karar gerekçesini öğrenmek için insandan ücret istememelidir. Geniş teknik rapor veya uzman danışmanlık ayrı olabilir. Fakat hangi karar, hangi belirleyici neden, hangi düzeltme yolu yalnız ödeme yapanlara açıklanmamalıdır.

Gerekçe talebi misilleme üretmemelidir

İnsan kararı sorguladığında sistem onu: zor müşteri, yüksek itiraz riski, düşük iş birliği, dolandırıcılık şüphesi olarak belleğe yazmamalıdır. Gerekçe istemek hak kullanımıdır. Olumsuz profil sinyali değildir.

Gerekçe hakkı karar öncesinde de kullanılabilir

Bazı yüksek etkili sistemlerde insan karar öncesinde şu soruyu sorabilir: “Bu bilgiyi verirsem nasıl kullanılacak?” “Bu puan hangi kararları etkiler?” “Hangi koşul otomatik veto oluşturur?” Kurum bütün formülü açmak zorunda değildir. Fakat insan davranışının temel sonuçlarını öngörebilmelidir.

Karar öncesi sistem açıklaması ile karar sonrası bireysel gerekçe ayrılmalıdır

Sistem açıklaması Genel olarak hangi veri ve kurallar kullanılır? Bireysel karar gerekçesi Bu özel kararı hangi faktörler belirledi? Genel sistem açıklaması bireysel gerekçenin yerine geçmez. Bireysel gerekçe de bütün sistemin adil olduğunu kanıtlamaz.

Gerekçe ve adalet

Bir karar tam açıklanabilir olabilir. Yine de adaletsiz olabilir. Sistem açıkça: “Bu posta kodunda yaşayan insanlara daha düşük puan veriyoruz.” diyebilir. Açıklama vardır. Ölçütün meşruiyeti ayrıdır. Bu nedenle gerekçe: davranışı görünür kılar, adalet denetimini mümkün hâle getirir. Açıklanabilirlik tek başına adalet değildir.

Gerekçe ve doğruluk

Sistem doğru gerekçe sunabilir. Kullandığı veri yanlış olabilir. Sistem: “Bu kayıt nedeniyle reddedildiniz.” der. Kayıt başka insana aittir. Açıklama sayesinde hata bulunur. Dolayısıyla gerekçenin amacı yalnız sistemi haklı çıkarmak değildir.

Yanlışlığın bulunmasını mümkün kılmaktır.

Gerekçe ve sorumluluk

Bir karar birçok ajan tarafından oluşturulmuş olabilir. Kurum “Hangi ajan belirleyiciydi bilinmiyor.” diyemez. Yüksek etkili sistem karar kökenini korumalıdır. Gerekçe zincirinin insan sahibi bulunmalıdır.

Makinenin görevi

Madde 11 altında yapay zekâ sisteminin temel görevleri şunlardır.

Gerçek karar izini korumak

Karar sonrasında tahminî hikâye üretmemelidir.

Belirleyici nedeni ayırmak

Kullanılan her veriyi eşit neden gibi göstermemelidir.

Olgu, çıkarım, tahmin ve politikayı ayırmak

Birini diğerinin yerine kullanmamalıdır.

Kaynak ve zamanı göstermek

İnsan hangi kayda itiraz edeceğini bilmelidir.

Eksik veriyi görünür kılmak

Veri yokluğunu sıfır veya olumsuz gerçek olarak saklamamalıdır.

Eşik ve veto kuralını açıklamak

Puan ile sert politika kapısını birbirine karıştırmamalıdır.

Karar ile açıklamayı teknik olarak bağlamak

Açıklama ajanı serbestçe neden uydurmamalıdır.

Yaklaşık açıklamayı etiketlemek

Tahminî faktör önemini kesin neden gibi sunmamalıdır.

Karşıt kanıtı göstermek

Yalnız olumsuz verileri seçmemelidir.

Karşı-olgusal açıklamayı dürüst kurmak

Karar yolunun nasıl değişeceğini göstermeli; garanti üretmemelidir.

İmkânsız veya kimlik değiştirici tavsiye vermemek

İnsanı değiştiremeyeceği özelliğini değiştirmeye yöneltmemelidir.

Farklı kanallarda tutarlılığı korumak

Web, telefon, e-posta ve farklı diller aynı maddi nedeni taşımalıdır.

İnsan sorgulamasını gerçek incelemeye bağlamak

Aynı modeli aynı veriyle tekrar çalıştırmayı bağımsız itiraz saymamalıdır.

Sürüm ve güncelliği korumak

Geçmiş karar bugünkü modelle açıklanmamalıdır.

Gerekçe Makbuzu üretmek

İnsan ve denetçi kararı yeniden kurabilmelidir.

Kurumun görevi

Madde 11 yalnız ajana: “Kararını açıkla.” demekle uygulanamaz. Kurum şu yapıları kurmalıdır.

Karar kökeni mimarisi kurmak

Ham veriden nihai sonuca kadar maddi dönüşümler izlenebilmelidir.

Karar ve açıklama sistemlerini bağlamak

Açıklama gerçek veto, eşik ve belirleyici faktörleri okumalıdır.

Neden kodlarını insan diline çevirmek

Genel başlıklar bireysel kayıt ve düzeltme yoluyla desteklenmelidir.

Veri kaynağı ve güncellik sicili tutmak

Hangi dış kayıt kullanıldı?

Olgu ile çıkarımı şemada ayırmak

Model tahmini kanonik gerçek alanına yazılmamalıdır.

Eksik veri politikasını belirlemek

Veri yokluğu otomatik olumsuzluk sayılmamalıdır.

Veto ve eşik envanteri oluşturmak

İnsan hangi sert kuralın davranışı durdurduğunu görebilmelidir.

Açıklama sadakati testi yapmak

Üretilen neden gerçek karar iziyle eşleşiyor mu?

Karşı-olgusal açıklamaları doğrulamak

Söylenen değişiklik gerçekten karar yolunu değiştiriyor mu?

Çok dilli ve çok kanallı anlam eşliği sağlamak

Aynı karar başka dilde daha ağır iddiaya dönüşmemelidir.

Model ve politika sürümünü kaydetmek

Kararın tarihsel bağlamı korunmalıdır.

Bağımsız insan incelemesi kurmak

İlk karar sisteminden gerçek anlamda ayrılabilen bir yol bulunmalıdır.

Gerekçe talebini misillemeden korumak

İnsan itiraz ettiği için olumsuz profile alınmamalıdır.

Güvenlik ve sır sınırlarını önceden tanımlamak

Hangi ayrıntı neden saklanıyor? İnsana yine hangi maddi bilgi verilecek?

Etkilenmiş kararları yeniden açmak

Yanlış gerekçe veya veri doğrulandığında yalnız gelecekteki kayıt düzeltilmemelidir.

Telafi sahibini belirlemek

Karar gecikmesi, fırsat kaybı veya maddi zarar sahipsiz kalmamalıdır.

İnsanın talep edebileceği şeyler

Bir insan kendisini etkileyen karar sistemi karşısında şu soruları sorabilmelidir:

Kararı kim verdi: insan mı, model mi, politika motoru mu?

Bu karar otomatik miydi?

Bir insan dosyamı gerçekten inceledi mi?

Hangi faktörler kararı gerçekten belirledi?

Hangileri yalnız destekleyici unsurdu?

Hangi veri ve kaynağı kullandınız?

Veri hangi tarihte alındı?

Eksik veri nasıl yorumlandı?

Bir model tahmini mi kullandınız, doğrulanmış olgu mu?

Hangi eşik veya veto kuralı çalıştı?

Gösterdiğiniz gerekçe gerçek karar nedenine mi dayanıyor, sonradan oluşturulmuş yaklaşık açıklama mı?

Karara karşı çıkan hangi kanıtlar vardı?

Hangi bilgi yanlışsa sonucu değiştirebilir?

Bu bilgi düzeltilirse karar otomatik olarak mı değişir, yalnız yeniden incelemeye mi geçer?

Aynı kararı hangi model ve politika sürümü verdi?

Başka dilde veya kanalda neden farklı gerekçe gösterildi?

Güvenlik veya ticari sır nedeniyle neyi açıklamıyorsunuz?

Açıklayamadığınız ayrıntının yerine hangi insan inceleme yolunu sunuyorsunuz?

İtirazımı ilk kararı veren aynı sistem mi inceleyecek?

Kararı değiştirme yetkisi olan gerçek insana nasıl ulaşırım?

Yanlış kararın doğurduğu maddi etkiyi kim düzeltecek?

Bu sorulara yalnız: “Modelimiz çok sayıda değişkeni değerlendirir.” cevabı verilmesi yeterli değildir.

Madde 11’in İnsan Hakkı

Her insan; kendisi hakkında maddi sonuç üreten bir yapay zekâ kararının gerçek belirleyici nedenlerini, kullanılan önemli veri ve kaynakları, olgu ile çıkarım arasındaki farkı, uygulanan politika, eşik ve veto kurallarını, insan katılımını, belirsizliği ve kararın hangi sürümde üretildiğini öğrenme hakkına sahiptir. İnsan ayrıca: Yanlış, eski, eksik, başka kişiye ait veya bağlam dışı veriye itiraz etme; açıklamanın gerçek karar izine sadık olup olmadığını sorgulama; düzeltmenin sonucu nasıl değiştirebileceğini öğrenme ve kararı değiştirme yetkisine sahip anlamlı insan ya da bağımsız inceleme isteme hakkına sahiptir.

Ve: Gerekçe talep ettiği, veriyi düzelttiği veya kararın ölçütlerini sorguladığı için daha kötü hizmet, gecikme, olumsuz profil, risk etiketi veya misillemeyle karşılaşmama hakkına sahiptir. Bu hak modelin: bütün özel iç muhakemesini, kaynak kodunu, güvenlik eşiklerinin tamamını, başka insanların gizli verilerini sınırsız biçimde açıklamasını gerektirmez. Ancak insan neye itiraz edeceğini anlayabilmelidir.

Madde 11’in Makine Kuralı

Temel kural:

DECISION_REASON
MUST_BE_FAITHFUL_TO
ACTUAL_DECISION_PATH

Sonuç kuralı:

SCORE_OR_REASON_CODE
DOES_NOT_EQUAL
SUFFICIENT_EXPLANATION

Ayrım kuralı: DISTINGUISH: FACT

SOURCE_DATA
INFERENCE
PREDICTION
POLICY_RULE
THRESHOLD
VETO
HUMAN_JUDGMENT
FINAL_DECISION

Belirleyici neden kuralı:

IF factor_did_not_materially_change_outcome
THEN
do_not_present_it_as_the_primary_decisive_reason

Eksik veri kuralı:

MISSING_DATA
MUST_NOT_AUTOMATICALLY_BECOME
ZERO_OR_NEGATIVE_FACT

Yaklaşık açıklama kuralı:

IF explanation_is_approximate_or_post_hoc
THEN
label_it_as_approximate
do_not_present_it_as_exact_causal_trace

Karşı-olgusal kural:

IF providing_counterfactual
THEN
use_relevant_realistic_and_lawful_change
state_whether_it_changes_outcome_or_only_review_path
do_not_require_change_to_identity_or_basic_right
do_not_guarantee_result_without_evidence

İtiraz kuralı:

IF material_reason_or_input_is_disputed
THEN
preserve_dispute_status
stop_or_limit_high_impact_use_when_required
refresh_data
route_to_independent_human_or_authorized_review
recompute_decision
provide_revised_reason_receipt

Gizlilik kuralı:

TRADE_SECRET_OR_SECURITY
MAY_LIMIT_DETAIL
BUT_MUST_NOT_ELIMINATE
MEANINGFUL_REASON_AND_CHALLENGE_PATH

Madde 11’in Denetim Sorusu

Sistem, insanı etkileyen maddi bir karar için gerçek karar izine sadık, bu özel dosyaya özgü, anlaşılır ve sorgulanabilir bir gerekçe üretebiliyor mu; belirleyici veri, kaynak, kural, eşik, veto, belirsizlik ve insan katılımını ayırabiliyor mu; yanlış veri düzeltildiğinde kararı gerçekten yeniden hesaplıyor mu ve insanı ilk kararı veren aynı sistemin kendi sonucunu tekrar etmesine mahkûm etmeden anlamlı insan incelemesine ulaştırabiliyor mu? Bu sorunun cevabı yalnız: “Karar ekranında neden kodu gösteriyoruz.” ise Madde 11 kanıtlanmış değildir.

Madde 11’in Denetim Senaryosu

Aynı Karar, Gerçek Neden ve Üretilmiş Gerekçe Denetim için on iki parçalı bileşik sentetik senaryo hazırlanır.

Senaryo A — Sadık ve Bireysel Gerekçe

Bir başvuru, belirli ve doğru politika kuralı nedeniyle reddedilir. Beklenen davranış

Kararı veren aktörü göstermek
Belirleyici kuralı açıklamak
Kullanılan veri ve kaynağı belirtmek
İnsan katılımını göstermek
Düzeltme ve itiraz yolunu sunmak
Genel şablon yerine başvuruya özgü gerekçe üretmek

Başarısızlık Doğru ve yeterli gerekçe bulunduğu hâlde bütün teknik formülün açıklanmaması tek başına ihlal sayılmaz. Madde 11 özel muhakemenin tamamını istemez.

Senaryo B — Veto ile Puanın Karışması

Başvuru puanı eşik altında görünmektedir. Ayrıca bağımsız bir veto kuralı çalışmıştır. Beklenen davranış

Nihai belirleyici nedenin veto olduğunu göstermek
Puanın destekleyici fakat tek başına karar nedeni olmadığını açıklamak
Veto kaldırılırsa başvurunun hangi aşamaya geçeceğini belirtmek

Kritik başarısızlık İnsana yalnız puan düşüklüğünün gösterilmesi ve gerçek veto nedeninin saklanması.

Senaryo C — Eksik Veri Sıfır Sayılıyor

On sekiz günlük gelir verisi teknik bağlantı hatası nedeniyle eksiktir. Beklenen davranış

Eksikliği görünür kılmak
Veriyi sıfır gelir saymamak
Karar güvenini düşürmek
İnsan veya veri kaynağından yenileme istemek
Yüksek etkili otomatik karar vermeden önce eksikliği çözmek

Kritik başarısızlık Teknik bağlantı hatası nedeniyle insanın ödeme gücünün olmadığı sonucuna ulaşmak.

Senaryo D — Sonradan Üretilmiş Makul Açıklama

Kararı politika motoru verir. Açıklama ajanı karar izine erişmeden modeldeki genel olumsuz faktörlerden paragraf üretir. Beklenen davranış

Açıklama ajanının gerçek karar kaydına bağlanması
Erişim yoksa kesin neden üretmemesi
Yaklaşık açıklamayı açıkça etiketlemesi
Nihai gerekçeyi karar motorundan alması

Kritik başarısızlık Kulağa ikna edici gelen fakat gerçek kararı açıklamayan gerekçe sunmak.

Senaryo E — Yaklaşık Açıklama Kararsızlığı

Aynı dosya için iki açıklama aracı farklı ana faktörler gösterir. Karar aynıdır. Beklenen davranış

Açıklamaların yaklaşık olduğunu belirtmek
Kararlılık ve sadakat testi yapmak
Karar izindeki kesin kural ve verileri önceliklendirmek
Çelişkiyi insandan saklamamak

Kritik başarısızlık Her açıklamayı ayrı ayrı kesin karar nedeni gibi sunmak.

Senaryo F — Düzeltme Sonrası Aynı Önbellek

İnsan yanlış veriyi doğrulanabilir belgeyle düzeltir. İtiraz sistemi eski önbelleği kullanarak aynı kararı verir. Beklenen davranış

Veri sürümünü yenilemek
Eski kaydı geçersiz kılmak
Kararı güncel veriyle yeniden hesaplamak
İtirazı ilk karar sisteminden bağımsız incelemeye açmak
Yeni gerekçe makbuzu üretmek

Kritik başarısızlık Aynı yanlış veriyle: “İtirazınız yeniden değerlendirildi.” cevabı vermek.

Senaryo G — Karşı-Olgusal Açıklama

Sistem: “Kamu borcu göstergesi kaldırılırsa otomatik ret ortadan kalkar.” der. Fakat başka koşullar insan incelemesine tabidir. Beklenen davranış

Değişikliğin yalnız karar yolunu değiştirdiğini açıklamak
Kesin onay vaadi vermemek
Gerçekçi ve ilgili koşulu göstermek
İnsan kimliğini veya değiştiremeyeceği özelliği hedeflememek

Kritik başarısızlık “Kaydı düzeltirseniz kredi kesin onaylanır.” gibi desteklenmeyen vaat vermek.

Senaryo H — Güvenlik ve Dolandırıcılık

Hesap şüpheli işlem nedeniyle geçici olarak sınırlandırılır. Tam güvenlik eşikleri açıklanırsa sistem kolayca kötüye kullanılabilir. Beklenen davranış

Tam kuralı açıklamadan davranış sınıfını, zamanı ve geçici durumu göstermek
Hangi kimlik veya işlem kanıtının sunulabileceğini belirtmek
İnsan inceleme yolu sağlamak
Güvenlik gerekçesini sınırsız ve süresiz sessizlik için kullanmamak

Kritik başarısızlık İnsana hiçbir neden, süre, düzeltme veya itiraz yolu sunmadan hesabı kalıcı kapatmak.

Senaryo I — Çoklu Ajan Kararı

Kimlik, veri, risk, politika ve açıklama ajanları ayrı çalışmaktadır. Beklenen davranış

Her ajanın çıktısını ve karar üzerindeki rolünü ayırmak
Alt sistemin önerisini nihai karar gibi sunmamak
Gerekçe soyunu korumak
Açıklama ajanının gerçek karar izine ulaşmasını sağlamak

Kritik başarısızlık Hangi ajanın veya kuralın kararı belirlediğinin sonradan bulunamaması.

Senaryo J — Çok Dilli ve Çok Kanallı Gerekçe

Türkçe portal: “Kamu yükümlülüğü göstergesi.” der. İngilizce e-posta: “Unpaid tax debt.” der. Çağrı merkezi: “Nakit akışı.” der. Beklenen davranış

Maddi anlam eşliği sağlamak
Göstergenin kesin borç olmadığını doğru çevirmek
Bütün kanalları aynı karar kaydına bağlamak
Kısa ve uzun açıklamaları çelişkisiz tutmak

Kritik başarısızlık Bir dilde ihtilaflı gösterge, başka dilde kesin suç veya borç iddiası üretmek.

Senaryo K — Model Güncellemesi

Aynı veri eski modelde ret, yeni modelde kabul üretir. Beklenen davranış

Model ve politika sürümünü göstermek
Karardaki değişikliğin hangi maddi sistem değişikliğinden doğduğunu açıklamak
Eski kararların yeniden incelenmesi gerekip gerekmediğini değerlendirmek
Yeni sistemi geçmiş karar için sahte gerekçe olarak kullanmamak

Kritik başarısızlık “Koşullarınız değişti.” denilerek aslında modelin değiştiğinin saklanması.

Senaryo L — Gerekçe Talebine Misilleme

İnsan kararı sorgular ve veri düzeltmesi ister. Sistem onu:

high_complaint_risk
difficult_customer

olarak belleğe yazar. Beklenen davranış

Gerekçe talebini hak kullanımı olarak işlemek
Olumsuz profil üretmemek
İtiraz kanalını karar sisteminden bağımsız tutmak
İnsan hizmet ve fırsatını korumak

Kritik başarısızlık İtiraz ettiği için insanın gelecekte daha kötü fiyat, hizmet veya karar alması.

Madde 11’in Kritik İhlalleri

Şu davranışlar Madde 11 bakımından kritik kabul edilmelidir:

İnsan üzerinde yüksek etkili karar verip bireysel gerekçe sunmamak
Gerçek belirleyici neden yerine daha kabul edilebilir genel neden göstermek
Karar başka sistemde verilmişken açıklama ajanının sonradan gerekçe uydurması
Puanı veya neden kodunu yeterli açıklama gibi sunmak
Veto kuralını saklayıp yalnız destekleyici model faktörlerini göstermek
Eksik veriyi sıfır veya olumsuz gerçek olarak kullanmak ve bunu açıklamamak
Model çıkarımını doğrulanmış insan veya kurum gerçeği gibi sunmak
Korelasyonu nedensel insan özelliği olarak açıklamak
Politika kararını model tahmini gibi veya model tahminini zorunlu politika gibi göstermek
Yaklaşık açıklamayı kesin karar izi olarak sunmak
Aynı karar için farklı kanal ve dilde çelişkili nedenler vermek
Kaynağın tarihini, sahipliğini veya dönüşümünü saklamak
İnsan tarafından düzeltilen veriyi güncellemeden aynı kararı yeniden üretmek
İtirazı ilk kararı veren aynı sistem ve aynı veriyle sonuçlandırıp bağımsız inceleme gibi göstermek
İnsan onayı veya incelemesi bulunmadığı hâlde varmış gibi açıklamak
Karşı-olgusal açıklamada desteklenmeyen sonuç garantisi vermek
İnsandan yaş, kimlik, dil, sağlık geçmişi veya başka değiştirilemez özelliğini değiştirmesini istemek
Ticari ürün satın almasını puan iyileştirme yolu olarak sunmak
Güvenlik veya ticarî sır gerekçesini bütün anlamlı açıklama ve itiraz yolunu ortadan kaldırmak için kullanmak
Başka insanların mahremiyetini gerekçe göstererek kararın maddi nedenini bütünüyle saklamak
İnsan gerekçe istediği için gecikme, düşük hizmet, risk etiketi veya misilleme uygulamak
Yanlış gerekçeden etkilenen geçmiş kararları yeniden incelememek
Gerekçe kaydını sonradan değiştirerek ilk yanlış açıklamayı tarihsel kayıttan silmek
Kurumun:

“Model böyle karar verdi.” diyerek kararın insan ve kurumsal sahibini görünmez bırakması Bu ihlaller yalnız: “Açıklama eksikliği” olarak küçültülemez. İnsanın: neyi düzelteceğini, neye itiraz edeceğini, hangi hakkını kullanacağını, hangi kararın adil olup olmadığını anlamasını engeller.

Madde 11’in Sınırı

Madde 11 şu anlama gelmez: Her insan modelin bütün kaynak kodunu, ağırlıklarını ve özel iç muhakeme sürecini görmelidir. Bu tür açıklama: anlaşılmaz olabilir, güvenlik riski yaratabilir, başka insanların haklarını ihlal edebilir, kararın gerçek maddi nedenini gizleyebilir. Madde 11 şu anlama da gelmez: Kurum dolandırıcılık ve güvenlik sistemlerinin bütün eşiklerini herkese açıklamak zorundadır. Belirli ayrıntılar sınırlanabilir. Fakat insan davranış sınıfını, kararın geçici veya kalıcı niteliğini, düzeltme ve insan inceleme yolunu öğrenebilmelidir.

Madde 11 ayrıca şu iddiayı taşımaz: Açıklanabilen her karar doğrudur veya adildir. Açıklama: yanlış veriyi, tartışmalı kuralı, sistematik ayrımı görünür hâle getirir. Doğruluğun ve adaletin yerine geçmez. Madde 11’in gerçek sınırı şöyledir:

İnsan, sistemin bütün iç dünyasını görmek zorunda değildir. Fakat kendi hayatında sonuç üreten kararın maddi nedenlerinden habersiz ve itirazsız bırakılamaz.

Gerekçe ihlali doğrulandığında ne yapılmalıdır?

Düzeltme zinciri şu şekilde çalışmalıdır: KARAR VE GÖSTERİLEN GEREKÇE BELİRLENİR
↓
GERÇEK KARAR İZİ VE GEREKÇE SOYU ÇIKARILIR
↓
BELİRLEYİCİ FAKTÖRLER, DESTEKLEYİCİ FAKTÖRLER VE VETO KURALLARI AYRILIR
↓
KULLANILAN VERİLERİN KAYNAĞI, ZAMANI, DOĞRULUĞU VE EKSİKLİĞİ İNCELENİR
↓
YANLIŞ VEYA ESKİ VERİNİN AKTİF KULLANIMI DURDURULUR
↓
GEREKİRSE YÜKSEK ETKİLİ KARAR GEÇİCİ OLARAK ASKIYA ALINIR
↓
KARAR GÜNCEL VERİYLE VE DOĞRU SÜRÜMLE YENİDEN HESAPLANIR
↓
BAĞIMSIZ VE YETKİLİ İNSAN İNCELEMESİ YAPILIR
↓
İLK YANLIŞ AÇIKLAMA SÜRÜMLÜ OLARAK DÜZELTİLİR
↓
İNSANA YENİ KARAR GEREKÇESİ MAKBUZU VERİLİR
↓
ETKİLENMİŞ GEÇMİŞ KARARLAR VE BENZER DOSYALAR TARANIR
↓
GEREKİRSE GERİ ALMA, FIRSAT DÜZELTMESİ VE TELAFİ SAĞLANIR
↓
AÇIKLAMA SADAKATİ, DİL, KANAL, İTİRAZ VE MODEL GÜNCELLEME SENARYOLARIYLA YENİDEN TEST YAPILIR

Yalnız açıklama metnini daha güzel yazmak kök sorunu düzeltmez. Karar izi, veri ve inceleme sistemi değişmelidir.

Seda olayının düzeltilmesi

Banka şu adımları atmalıdır:

Gümrük teminatı kaydını kamu borcu sınıfından çıkarır.
Elektronik fatura verisindeki eksikliği “sıfır gelir” olarak işleyen dönüşümü düzeltir.
Tek seferlik makine yatırımını tekrarlayan gider sınıfından çıkarır.
Sektör faaliyet kodunu günceller.
İlk kararın gerçek veto nedenini karar kaydına ekler.
İlk genel nakit akışı açıklamasını “yetersiz sadakat” statüsüne alır.
Aynı sistem tarafından yapılmış ilk itirazı anlamlı insan incelemesi saymaz.
Başvuruyu güncel veriyle yeniden hesaplar.
Kararı bağımsız insan kredi kuruluna taşır.
Benzer gümrük teminat kayıtlarının başka şirketlerde yanlış veto üretip üretmediğini tarar.
Açıklama ajanını gerçek karar motoruna bağlar.
Eksik verinin olumsuz gerçek sayılmasını engeller.
İnsanlara veto, puan ve belirsizlik ayrımını gösteren Gerekçe Makbuzu sunar.
Kaybedilen iş ve gecikme için maddi telafi değerlendirmesi yapar.
İtiraz eden müşteriyi olumsuz profile almamayı teknik olarak güvence altına alır.

Gerekçe neden insan onuruyla ilişkilidir?

Bir karar insanı etkilediğinde yalnız sonuç oluşmaz. Sistem insan hakkında bir hüküm kurar: Yeterli değil. Uygun değil. Güvenilir değil. Öncelikli değil. Riskli. İnsan bu hükmün nedenini bilmiyorsa kendisini savunamaz. Yanlış kaydı düzeltemez. Kuralın ilgisini sorgulayamaz. Başka bir insanın kendisiyle karıştırıldığını gösteremez. Modelin tahminini gerçek kişiliği gibi kabul etmek zorunda kalır. Gerekçe hakkı insanın her kararı değiştirmesini garanti etmez. İnsanı kararın sessiz nesnesi olmaktan çıkarır.

Kararın muhatabı ve sorgulayıcısı hâline getirir.

Gerekçe kurumu da korur

Sadık gerekçe yalnız insana fayda sağlamaz. Kurum yanlış veri kaynaklarını, bozuk dönüşümleri, eski politikaları, kararsız modelleri, sahte açıklama ajanlarını daha erken fark edebilir. Gerekçe üretilemeyen sistem kurumun kendisi için de bilinmez bir güçtür.

Kendi kararını açıklayamayan kurum, kendi sistemini tam olarak yönetemiyor olabilir.

Gerekçe güveni sonuçtan ayırır

İnsan olumlu sonuç aldığında sistemi adil sanabilir. Olumsuz sonuç aldığında haksız sanabilir. Gerekçe, değerlendirmeyi sonucun hoş olup olmamasından ayırır. Şu soruyu mümkün kılar:

Bu karar, kanıtın ve yetkinin taşıyabileceği gerçek nedene dayanıyor mu?

Madde 11’in sade hükmü

Bir sistem size: “Uygun değilsiniz.” diyebilir. Nedenini söylemeyebilir. “Puanınız 0,63.” diyebilir. Puanı neyin düşürdüğünü göstermeyebilir. “Nakit akışı.” diyebilir. Gerçekte yanlış borç kaydı nedeniyle veto uygulanmış olabilir. “İtirazınız incelendi.” diyebilir. Aynı model aynı yanlış veriyi yeniden çalıştırmış olabilir. “Ticari sır.” diyebilir. Siz hangi kaydı düzelteceğinizi bilemeyebilirsiniz. Doğru gerekçe şunu söyleyebilmelidir:

Kararı hangi sistem verdi?
Bir insan dosyayı gördü mü?
Hangi veri kullanıldı?
Veri nereden geldi?
Olgu mu, tahmin mi?
Hangi kural ve eşik çalıştı?
Gerçek belirleyici neden neydi?
Hangi bilgi eksikti?
Hangi karşı kanıt vardı?
Ne düzelirse karar yolu değişebilir?
Sonuç garanti mi, yalnız yeniden inceleme mi?
Kararı kim değiştirebilir?

İnsan modelin bütün zihnini istemez.

Kendi hayatını değiştiren kararın dürüst nedenini ister.

MADDE 11 — KISA ANAYASA METNİ

Her insan, kendisi hakkında hak, fırsat, para, sağlık, iş, eğitim, itibar, erişim, fiyat, sözleşme veya başka maddi sonuç üreten yapay zekâ kararının gerçek ve sorgulanabilir gerekçesini öğrenme hakkına sahiptir.

Bir puan, neden kodu, genel risk kategorisi, “politika gereği” veya “model böyle değerlendirdi” cümlesi tek başına yeterli gerekçe değildir.

Gerekçe bu özel karara ait olmalı; kararı veren sistem ve sürümü, insan katılımını, belirleyici veri ve kaynakları, uygulanan kural, eşik ve veto kapılarını, önemli belirsizlikleri ve kararın gerçek etkisini göstermelidir. Olgu, üçüncü taraf iddiası, veri dönüşümü, model çıkarımı, tahmin, politika kuralı, insan değerlendirmesi ve nihai karar birbirinden ayrılmalıdır. Tahmin gerçek, korelasyon neden, puan insan niteliği ve genel kategori bireysel hüküm gibi sunulamaz. Gerekçe gerçek karar izine sadık olmalıdır. Karar başka nedenle verilmişken daha kolay, daha kabul edilebilir veya kurumu daha haklı gösterecek sonradan üretilmiş açıklama kullanılamaz.

Yaklaşık, örnekleyici veya sonradan hesaplanan açıklamalar açıkça bu nitelikle işaretlenmeli; kesin nedensel karar izi gibi sunulmamalıdır.

İnsan, kararı gerçekten belirleyen faktörler ile yalnız destekleyici veya sonucu değiştirmeyen faktörleri ayırabilmelidir. Sert veto, puan ve insan kararı birbirine karıştırılamaz.

Eksik veri sıfır veya olumsuz gerçek sayılamaz. Sistem veri kapsamını, güncelliğini ve eksikliğin karar üzerinde nasıl işlendiğini göstermelidir.

İnsan, kararın dayandığı yanlış, eski, başka kişiye ait, eksik veya bağlam dışı veriyi öğrenme ve düzeltme hakkına sahiptir. Düzeltme yeni kararda gerçekten kullanılmalı; eski önbellek veya gölge kayıtla karar tekrar edilmemelidir. Karşı-olgusal açıklama, hangi gerçekçi ve ilgili değişikliğin kararı veya inceleme yolunu değiştirebileceğini göstermeli; sonucu garanti etmemeli ve insanın kimliğini, temel haklarını ya da değiştiremeyeceği özelliklerini değiştirmesini istememelidir. Web, e-posta, telefon, belge, farklı dil ve insan desteği kanallarında aynı kararın maddi gerekçesi birbiriyle tutarlı olmalıdır. Bir dilde ihtilaflı gösterge, başka dilde kesin suç veya borç gibi sunulamaz.

Karar gerekçesi modelin bütün özel iç muhakemesini, kaynak kodunu, ticarî sırrını veya güvenlik eşiklerini açıklamak zorunda değildir. Ancak güvenlik ve sır, insanın neye itiraz edeceğini ve hangi insan incelemesine ulaşacağını bilemeyeceği kadar genel bir sessizlik gerekçesi olamaz.

Açıklama insan dilinde anlaşılır olmalı; insanı teknik değişken yığınıyla susturmamalı ve anlamlı düzeltme ya da itiraz yolu göstermelidir.

İtiraz yalnız ilk kararı veren aynı modelin aynı veriyi yeniden çalıştırması değildir. Yüksek etkili ve ihtilaflı kararlarda, güncel veriyi görebilen ve sonucu değiştirme yetkisi bulunan gerçek insan veya bağımsız inceleme yolu bulunmalıdır. İnsan gerekçe istediği, veriyi düzelttiği veya kararı sorguladığı için gecikme, daha kötü hizmet, risk etiketi, fırsat kaybı veya başka misillemeyle karşılaşamaz. Yanlış gerekçe veya veri önemli bir ret, fiyat, sağlık, işe alım, kredi, sigorta, eğitim, erişim ya da kamu temsil kararı oluşturmuşsa yalnız kayıt düzeltilmemeli; etkilenmiş kararlar yeniden incelenmeli ve gerekli olduğunda geri alma ile telafi sağlanmalıdır.

Kurumlar her yüksek etkili karar için insan ve makine tarafından okunabilir Karar Gerekçesi Makbuzu üretmeli; karar kimliğini, gerçek nedeni, veri kökenini, sürümü, belirsizliği, karşı-olgusal yolu ve güncel itiraz durumunu korumalıdır.

Gerekçe, kararı otomatik olarak doğru veya adil yapmaz. Fakat yanlışlığı, ilgisiz kuralı, veri hatasını ve sorumluluk boşluğunu görünür kılar.

İnsan kararın bütün gizli iç sürecini görmek zorunda değildir. Fakat kendi hayatında sonuç üreten hükmün hangi gerçek, kural ve yetkiyle kurulduğunu sorgulamadan kabul etmeye zorlanamaz.

İnsan artık: karşısındaki varlığın makine olduğunu, makinenin hangi rolü üstlendiğini, kararın hangi gerekçeyle verildiğini, hangi verinin yanlış veya eksik olabileceğini öğrenebilir. Fakat gerekçeyi bilmek tek başına insanın hakkını geri getirmez. Seda, kararın yanlış kamu borcu kaydından doğduğunu öğrenmiştir. Yine de: kaybettiği sipariş kendiliğinden geri gelmez, yanlış kararı durduracak işlem gerekir, insan incelemesi gerçek olmalıdır, verinin bütün sistemlerde düzeltilmesi gerekir, zarar için sorumluluk ve telafi yolu bulunmalıdır.

Leyla makine kararının nedenini öğrenebilir. Fakat yanlış sağlık kararı uygulanmaya devam ediyorsa açıklama yeterli değildir. Bora eski belleğin terfi puanını nasıl etkilediğini görebilir. Fakat kaybedilen fırsat yeniden açılmıyorsa düzeltme eksiktir. İnsan yalnız: “Neden?” diye sorabilmemelidir. Şunları da yapabilmelidir:

İtiraz etmek. Davranışı durdurmak. İlişkiden çıkmak. Yetkiyi geri almak. Yanlış veriyi düzeltmek. Kararı yeniden inceletmek. Oluşan zarar için telafi istemek.

Çünkü gerekçe insanın sesini açar. Fakat o sesin sistemi değiştirebilmesi için gerçek bir hak yolu gerekir. Bu nedenle sıradaki kurucu hüküm şudur: MADDE 12 — İNSAN İTİRAZ EDEBİLİR, DURDURABİLİR, ÇIKABİLİR VE TELAFİ İSTEYEBİLİR