Doğrudan cevap
Değişiklik önce sürüm, amaç, kapsam ve maddi etki bakımından kaydedilir. Ardından hangi eski karar sınıflarının kimlik, veri, kanıt, yetki, açıklama, güvenlik, adalet, hukukî etki veya bağlı sonraki eylemler bakımından değişebileceği incelenir. Etki mümkünse örneklem ve karşılaştırma testleriyle ölçülür. Kritik veya devam eden sonuçlar için hedefli yeniden değerlendirme yapılır. Yeni sürüm geçmiş kararı kendiliğinden düzeltmez; yeni kural da geçmiş kararı otomatik olarak yanlış yapmaz.
Sade dille
Bir tartının yazılımı düzeltildiğinde geçen yıl tartılan her kutuyu yeniden tartmanız gerekmeyebilir. Fakat eski tartının belirli ağırlıkları sürekli eksik ölçtüğü bulunursa o ölçümden etkilenen önemli kararları yeniden kontrol edersiniz.
Neden önemli?
Bütün geçmişi körlemesine tekrar etmek ölçüsüz maliyet yaratır; hiçbir şeyi açmamak ise bilinen hatanın insanlarda ve sistemlerde yaşamaya devam etmesine yol açar.
Karıştırma
- Sürüm değişikliği teknik olaydır; maddi etki ayrı kanıt gerektirir.
- Bugünkü düzeltme, geçmiş kararın kendiliğinden değişmesi değildir.
- Tarihsel doğruluk, karar anındaki bilgi ve kuralla; güncel geçerlilik bugünkü durumla değerlendirilir.
- Geriye dönük etki analizi risk alanını bulur; yeniden karar her dosyayı yeniden hükme bağlar.
- Devam eden etki, eski kararın bugün hâlâ kişiye veya sisteme sonuç üretmesidir.
Ne yapmalısın?
- Değişen model, veri, istem, politika, araç ve yapılandırmayı eski sürümle alan alan karşılaştırın.
- Değişikliğin amacı, nedeni, sahibi, tarihi ve beklenen karar etkisini değişiklik paketi içinde kaydedin.
- Etkilenebilecek karar türü, tarih aralığı, kişi grubu, varlık ve bağlı sonraki sonuçları belirleyin.
- Temsilî örneklerde eski ve yeni sürümü aynı karar paketiyle karşılaştırın.
- Kritik hata, yanlış kişi, devam eden zarar veya hukukî tetikleyicide hedefli yeniden inceleme açın.
- Yeniden değerlendirilen kararları düzeltin ve sonucu bütün etkilenen sistemlere yayın.
- Etkilenmediği varsayılan alanı, istisnaları ve kalan belirsizliği gerekçesiyle belgeleyin.
Nasıl denetlersin?
- Değişikliğin bütün bileşenleri ve sürümleri kayıtlı mı?
- Maddi etki test edilmeden “önemsiz” kabul edilmiş mi?
- Etkilenen tarih, karar, kişi ve bağlı sonraki sistem kapsamı çıkarılmış mı?
- Eski ve yeni sürüm karşılaştırması aynı koşullarda yapılmış mı?
- Kritik devam eden kararlar yeniden değerlendirildi mi?
- Yeni sürüm geçmiş kayıtların sessizce üzerine yazılmış mı?
- Düzeltme sonrası canlı sonuç ve yayılım kanıtı var mı?
Sınır
Geriye dönük inceleme ve geçmiş kararın hukukî etkisi; kesinleşme, hak, sözleşme, sektör ve yargı alanına bağlıdır. Teknik değişiklik tek başına bütün kararların yeniden açılması veya geçersizliği anlamına gelmez.
Tek cümlede hatırla
Sistemi güncellemek geçmişi otomatik olarak düzeltmez.
Bu kaydın kaynakları
- S35W3C, *PROV-O: The PROV Ontology*Standart
- S38NIST AI 600-1, *Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile*Standart niteliğinde gönüllü kurum rehberi
- S41NCSC ve ortak kurumlar, *Guidelines for Secure AI System Development*Çok kurumlu resmî güvenlik rehberi
- S44NIST, *AI Risk Management Framework Playbook* ve AI RMF CoreGönüllü uygulama rehberi
- S45Avrupa Birliği, Regulation (EU) 2024/1689 — *Artificial Intelligence Act*Mevzuat
- S50NIST AI 100-1, *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*Standart niteliğinde gönüllü kurum çerçevesi