Bir insan AI önerisini kabul ettiğinde, değiştirdiğinde, reddettiğinde veya geçersiz kıldığında karar gerekçesi nasıl kaydedilmelidir?

Sade dille

Bir öğretmenin AI tarafından verilen notu değiştirdiğini düşünün. Yalnız “not değişti” yazmak yetmez. Eski not, yeni not, hangi cevap nedeniyle değiştiği ve hangi kuralın uygulandığı görülmelidir.

Neden önemli?

Gerekçesiz insan müdahalesi hatayı düzeltebilir veya yeni hata üretebilir. Eski öneri silinirse kimin neyi değiştirdiği ve sonuçtan kimin sorumlu olduğu anlaşılamaz.

Karıştırma

• Kabul, önerinin maddi değişiklik yapılmadan benimsenmesidir.
• Değiştirme, önerinin bir bölümünün insan kararıyla düzeltilmesi veya sınırlandırılmasıdır.
• Ret, önerinin uygulanmamasıdır.
• Override, önceki karar veya otomatik sonucu yetkili insan kararıyla geçersiz kılmaktır.
• Gerekçe kodu sınıflandırma sağlar; serbest açıklama somut bağlamı gösterir.

Ne yapmalısın?

1. İncelenen AI önerisini kimlik, model, sürüm, istem, veri ve zamanla dondurun.
2. İnsan kararını ACCEPT, MODIFY, REJECT veya OVERRIDE olarak açıkça sınıflandırın.
3. Gerekçe kodu ile kısa, somut insan açıklamasını birlikte kaydedin.
4. Destekleyen ve çelişen kanıtları, kuralı ve belirsizliği karara bağlayın.
5. Kararı veren kişinin kimliğini, rolünü, yetkisini ve çıkar durumunu koruyun.
6. Eski öneriyi silmeden değişen alanları, son kararı ve uygulanan eylemi ilişkilendirin.
7. Sonraki sonuç ve yeniden incelemeyi aynı karar zincirine ekleyin.

Nasıl denetlersin?

• Kesin AI önerisi ve sürümü sonradan incelenebilir mi?
• İnsan karar türü doğru ve tutarlı sınıflandırılmış mı?
• Gerekçe, somut değişikliği açıklıyor mu, yoksa genel bir etiket mi?
• Destekleyen ve çelişen kanıtlar birlikte görülüyor mu?
• Karar sahibinin rolü, yetkisi ve olası çıkar çatışması kayıtlı mı?
• Eski öneri veya olumsuz kanıt silinmiş mi?
• Gerekçeli karar ile gerçekten uygulanan eylem ve sonuç eşleşiyor mu?