Doğrudan cevap
Etkili açıklama önce kesin kararın ne olduğunu ve kişiyi nasıl etkilediğini söyler. Sonra AI’nın ve insanların rolünü, kullanılan önemli veriyi ve kaynağını, sonucu etkileyen kuralları, eşikleri ve belirsizlikleri gösterir. Eksik ya da düzeltilebilir bilgi ile itiraz yolu da açık olmalıdır. “Algoritma böyle hesapladı” cümlesi bu sonucun neden çıktığını açıklamaz.
Sade dille
Bir başvurunuz reddedildiyse “sistem uygun bulmadı” cümlesi işe yaramaz. Hangi bilginin yanlış veya eksik görüldüğünü, hangi kuralın uygulandığını ve neyi nasıl düzeltebileceğinizi bilmeniz gerekir.
Neden önemli?
Kişi maddi nedeni bilmiyorsa yanlış veriyi düzeltemez, karşı kanıt sunamaz ve kararı anlamlı biçimde tartışamaz. Güzel görünen fakat kararla ilgisiz açıklama yalnız şeffaflık görüntüsü üretir.
Karıştırma
- Genel sistem açıklaması modelin genel işleyişini; karara özgü açıklama somut sonucu anlatır.
- Veri açıklaması hangi bilginin kullanıldığını; faktör açıklaması sonuca nasıl etki ettiğini gösterir.
- Açıklama, kararın gerekçesini sunar; kararı otomatik olarak doğru veya hukukî yapmaz.
- Disclosure bilgi vermedir; etkili itiraz açıklaması eyleme geçirilebilir yeterlilik gerektirir.
- Gizli veya güvenlik hassas bilgi korunabilir; fakat maddi neden tamamen görünmez bırakılamaz.
Ne yapmalısın?
- Karar kimliği, tarihi, kapsamı, etkisi ve hâlen geçerli olup olmadığını açıkça gösterin.
- AI sisteminin, insan inceleyicinin ve nihai karar sahibinin rollerini ayırın.
- Kullanılan maddi veriyi, kaynağını, tarihini ve kişiyle ilişki yolunu belirtin.
- Somut sonucu etkileyen faktör, kural, eşik ve önemli karşı kanıtı açıklayın.
- Belirsizliği, eksik bilgiyi ve açıklamanın kanıtlayamadığı alanları görünür kılın.
- Düzeltilebilir veri, sunulabilecek yeni kanıt, süre ve güvenli itiraz kanalını verin.
- Açıklamanın gerçek karar kaydıyla uyumunu ve hedef kişinin anlayabilirliğini test edin.
Nasıl denetlersin?
- Kişi hangi kararın ve etkinin kendisine uygulandığını anlayabiliyor mu?
- AI ve insan rollerinin sınırı doğru anlatılmış mı?
- Maddi veri, kaynak, tarih ve varlık eşleşmesi görülebiliyor mu?
- Gerçek sonucu etkileyen faktör ve kurallar açıklanmış mı?
- Genel model tanıtımı karara özgü açıklama gibi sunulmuş mu?
- Kişi neyi düzelteceğini ve nereye başvuracağını biliyor mu?
- Gizlilik veya ticari sır gerekçesi maddi nedeni bütünüyle saklamak için kullanılmış mı?
Sınır
Açıklamanın zorunlu kapsamı yargı alanı, karar türü ve risk düzeyine göre değişir. Güvenlik, üçüncü taraf hakları ve hukukî ayrıcalık bazı ayrıntıları sınırlayabilir. Açıklama bulunması tek başına doğruluk, adalet veya hukukî uygunluk kanıtı değildir.
Tek cümlede hatırla
İtiraz edilemeyen açıklama, yalnız bilgi görünümüdür.
Bu kaydın kaynakları
- S35W3C, *PROV-O: The PROV Ontology*Standart
- S45Avrupa Birliği, Regulation (EU) 2024/1689 — *Artificial Intelligence Act*Mevzuat
- S48Avrupa Birliği, Regulation (EU) 2016/679 — *General Data Protection Regulation*Mevzuat
- S50NIST AI 100-1, *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*Standart niteliğinde gönüllü kurum çerçevesi
- S61Council of Europe, *Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law* (CETS No. 225)Uluslararası sözleşme/resmî kurum
- S62European Data Protection Board, *Guidelines on Automated Individual Decision-Making and Profiling for the Purposes of Regulation 2016/679*Resmî kurul rehberi