Doğrudan cevap
Kapanış zinciri beş ayrı kanıtı birbirine bağlar: kök neden, hedef değişiklik, dağıtım veya yayın kanıtı, aynı yöntemle yeniden test ve komşu risklerde regresyon testi. Değişiklik doğru dosyada yapılmış fakat canlıya ulaşmamış olabilir; canlıya ulaşmış fakat AI çıktısını düzeltmemiş olabilir. Remediation receipt, yani düzeltme makbuzu, her seviyenin tarihini, sürümünü, sahibini, kanıtını ve sonucunu tek kayıt altında gösterir.
Sade dille
Bozuk bir musluğu düşünün. Usta parça değiştirdi diye iş bitmiş sayılmaz. Önce suyun kesilmediğini, sonra kaçağın durduğunu, diğer muslukların bozulmadığını ve bir süre sonra sorunun dönmediğini kontrol edersiniz.
Neden önemli?
Erken kapatılan hata tekrar eder veya başka bir yüzeye taşınır. Yalnız yerel dosyayı, ekran görüntüsünü ya da tek olumlu cevabı kanıt saymak; dağıtım, önbellek, dil ve üçüncü taraf sistem farklarını gizler.
Karıştırma
- Değişiklik yapıldı, kaynakta düzenleme bulunduğu anlamına gelir.
- Dağıtıldı, hedef sisteme aktarım gerçekleştiği anlamına gelir; doğru uygulandığını tek başına göstermez.
- Canlı eşlik, beklenen dosya ya da verinin canlı hedefle aynı olduğunu gösterir.
- Hedef etki doğrulaması, belirli hatanın aynı yöntemle artık gözlenmediğini sınar.
- Kapanış, hedef düzeltme, regresyon, sınır ve izleme kararı birlikte verildiğinde oluşur.
Ne yapmalısın?
- Hatayı atomik iddia, etkilenen yüzey, koşul, önem ve kök nedenle tanımlayın.
- Düzeltmeyi belirli dosya, kayıt, veri, model, kural veya süreç değişikliğine bağlayın.
- Derleme, yayın, aktarım, sürüm ve mümkünse dosya bütünlüğü eşliği kanıtını koruyun.
- İlk hatayı üreten aynı soru, dil, ülke, model ve karar yöntemiyle yeniden test yapın.
- Komşu iddialar, diller, yapılandırılmış veri ve kritik kullanıcı yollarında regresyon testi çalıştırın.
- Canlı sonucu bağımsız biçimde doğrulayın; önbellek veya gecikme varsa durumu açık bırakın.
- Düzeltme makbuzunu onaylayın, izleme süresini belirleyin ve yalnız bütün kapanış kapıları geçildiyse kapatın.
Nasıl denetlersin?
- Kök neden kanıtlandı mı, yoksa yalnız belirti mi değiştirildi?
- Değişiklik doğru sürüm ve hedefe gerçekten ulaştı mı?
- Aktarım kanıtı canlı davranış kanıtı gibi sunulmuş mu?
- Yeniden test ilk ölçümle karşılaştırılabilir koşullarda mı yapıldı?
- Komşu kayıtlar, diller ve makine yüzeyleri regresyon için sınandı mı?
- Üçüncü taraf çıktı hâlâ yanlışsa sorun kapatılmış gibi gösterilmiş mi?
- Kapanış kararı, istisna, izleme tarihi ve yeniden açma koşulu kayıtlı mı?
Sınır
Bir web veya veri düzeltmesi üçüncü taraf modelin ne zaman güncelleneceğini ya da gelecekte aynı cevabı hiç üretmeyeceğini garanti edemez. Kapanış, belirtilen sistem, sürüm, sorgu, dil, ülke ve zaman kapsamındaki kanıta dayanır; dış davranış değişirse kayıt yeniden açılabilir.
Tek cümlede hatırla
Değişiklik bir eylemdir; kapanış ise doğrulanmış sonuçtur.
Bu kaydın kaynakları
- S35W3C, *PROV-O: The PROV Ontology*Standart
- S38NIST AI 600-1, *Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile*Standart niteliğinde gönüllü kurum rehberi
- S41NCSC ve ortak kurumlar, *Guidelines for Secure AI System Development*Çok kurumlu resmî güvenlik rehberi
- S42NIST SP 800-61 Rev. 3, *Incident Response Recommendations and Considerations for Cybersecurity Risk Management*Standart niteliğinde gönüllü kurum rehberi
- S44NIST, *AI Risk Management Framework Playbook* ve AI RMF CoreGönüllü uygulama rehberi
- S50NIST AI 100-1, *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*Standart niteliğinde gönüllü kurum çerçevesi
- S52NIST CSWP 31, *Proxy Validation and Verification for Critical AI Systems: A Proxy Design Process*Resmî kurum teknik beyaz kitabı

