Doğrudan cevap
Açıklama, karar verildiği anda korunan kayda bağlanır. Bu kayıt; model ve sistem sürümünü, istemleri, kullanılan veriyi, seçilen bilgiyi, politikayı, araç çağrılarını, insan müdahalelerini ve uygulanan sonucu gösterir. Açıklamadaki her önemli cümle bu kanıtlardan biriyle eşleştirilir. Gerekirse bir unsur çıkarılır veya değiştirilir ve sonucun değişip değişmediği sınanır. Kayıt desteklemiyorsa metin “sadık açıklama” değil, sonradan kurulmuş olası anlatı olarak işaretlenir.
Sade dille
Bir restoran hesabının yemekten sonra ezbere yazıldığını düşünün. Toplam doğru görünse bile hangi yemeğin gerçekten sipariş edildiğini kanıtlamaz. Güvenilir hesap, sipariş anındaki kayıtlarla eşleşir.
Neden önemli?
İnsanlar akla yatkın açıklamaya kolayca güvenebilir. Fakat açıklama gerçek karara bağlı değilse yanlış veri düzeltilebilir sanılabilir, gerçek hata gizlenebilir veya sahte sorumluluk kurulabilir.
Karıştırma
- Makul açıklama anlaşılır görünür; sadık açıklama gerçek karar kanıtıyla uyumludur.
- Sonradan kurulan açıklama kararın ardından üretilir; doğru da olabilir, uydurma da olabilir.
- Köken zinciri hangi kaydın nereden geldiğini; nedensellik hangi unsurun sonucu değiştirdiğini sorar.
- Olay kaydı bulunması, kaydın eksiksiz, doğru ve değiştirilmemiş olduğunu tek başına kanıtlamaz.
- Yeniden üretim benzer sonucu; sadakat testi açıklamadaki neden iddiasını sınar.
Ne yapmalısın?
- Karar anındaki model, veri, istem, politika, araç ve insan sürümlerini karar anı kopyası olarak koruyun.
- Girdi, bilgi seçimi, araç çağrısı, insan müdahalesi ve uygulanan sonuç için zaman bağlı iz üretin.
- Olay kaydı ve karar anı kopyasının bütünlüğünü dosya özeti, erişim kontrolü ve değişiklik iziyle koruyun.
- Açıklamadaki her maddi iddiayı destekleyen karar kaydıyla eşleştirin.
- Uygunsa faktör çıkarma, karşı olgusal, tekrar ve hassasiyet testleriyle davranışsal sadakati sınayın.
- Desteklenmeyen veya yalnız olası anlatıları sadık açıklama gibi sunmayın; güvence düzeyini yazın.
- Sistem değişikliğinde eski açıklamayı yeni sürüme taşımadan yeniden doğrulayın.
Nasıl denetlersin?
- Açıklama doğru karar kimliği ve zamanındaki karar kopyasına bağlı mı?
- Model, istem, veri, bilgi seçimi, araç, politika ve insan müdahalesi izlenebilir mi?
- Açıklamadaki her maddi neden kayıtta gerçekten bulunuyor mu?
- Olay kayıtlarının eksiksizliği ve bütünlüğü korunmuş mu?
- Davranışsal sadakat yalnız güzel anlatımla mı, testle mi değerlendirilmiş?
- Sonradan kurulan veya sağlayıcı tarafından üretilen açıklama kesin iç neden gibi sunulmuş mu?
- Sürüm değişikliğinden sonra eski açıklama yeniden doğrulanmadan kullanılmış mı?
Sınır
Kapalı ve karmaşık modellerde tam iç nedensellik her zaman kanıtlanamaz. Karar izi yalnız gözlenebilen süreci gösterir; model içindeki bütün mekanizmayı açıklamayabilir. Bu durumda güvence seviyesi ve bilinmeyen alanlar açıkça belirtilmelidir.
Tek cümlede hatırla
İyi hikâye açıklama olabilir; sadakat için karar anına bağlı kanıt gerekir.
Bu kaydın kaynakları
- S26NIST SP 800-53 Rev. 5, *Security and Privacy Controls*Standart
- S35W3C, *PROV-O: The PROV Ontology*Standart
- S36W3C, *Trace Context*Standart
- S37OpenTelemetry, *General Trace Semantic Conventions*Standart/proje belgesi
- S44NIST, *AI Risk Management Framework Playbook* ve AI RMF CoreGönüllü uygulama rehberi
- S50NIST AI 100-1, *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*Standart niteliğinde gönüllü kurum çerçevesi