Doğrudan cevap
Bağımsızlık yalnız farklı bir kişi, departman veya kuruluş adı değildir. İnceleyen kişi ya da kurul; ilk kararı hazırlayan ve sonucu isteyen taraflardan işlevsel olarak ayrılır, maddi ve kişisel çıkarlarını açıklar, uygunsuz talimattan korunur, tam ve dengeli kanıta erişir, gerekli yetkinliğe sahip olur ve kabul, değiştirme, geri alma veya düzeltme kararı verebilir. Tarafsızlık, lehte ve aleyhte kanıtı aynı yöntemle değerlendirmeyi gerektirir.
Sade dille
Bir maçta hakemin rakip takımın çalışanı olması sorun yaratır. Hakemin yalnız farklı forma giymesi yetmez; takımlardan talimat almamalı, kuralları bilmeli ve verdiği karar gerçekten uygulanmalıdır.
Neden önemli?
Görünüşte ayrı fakat fiilen ilk karar sahibine bağlı inceleme, hatayı onaylayan ikinci bir imza üretir. Çıkarlar ve yetki görünmezse kişi gerçek bir düzeltme yoluna sahip olmaz.
Karıştırma
- Bağımsızlık, karar ve baskı zincirinden yeterli ayrılığı anlatır.
- Tarafsızlık, kanıtı önceden seçilmiş sonuç için eğmemeyi anlatır.
- Yetkinlik, inceleyenin konuyu değerlendirecek bilgi ve becerisidir.
- Farklı kişi, aynı yöneticinin sonuç baskısı altındaysa yeterli bağımsızlık sağlamayabilir.
- Farklı AI modeli de kendi başına insan veya bağımsız yeniden inceleme değildir.
Ne yapmalısın?
- İlk karar sahibini, çıkar sahibini, incelemeyi yapan kişiyi ve nihai karar yetkilisini rol matrisiyle ayırın.
- Mali, kişisel, örgütsel, fikrî ve performansla ilgili çatışmaları yazılı olarak açıklayın.
- Yönetilemeyen çatışmada çekilme, yedek inceleyici veya dengeli kurul yolu kullanın.
- İncelemeyi yapan kişiye tam dosya, karşı kanıt, karar izi ve gerekli teknik uzman erişimi sağlayın.
- İncelemenin kapsamını, uygulayacağı standardı ve karar seçeneklerini önceden belirleyin.
- Farklı karar verme ve bu kararı uygulatma yetkisini gerçek süreçte doğrulayın.
- Baskı, kanıt kısıtlaması, görüş ayrılığı ve çekilme kararlarını denetim izinde koruyun.
Nasıl denetlersin?
- İncelemeyi yapan kişi ilk kararı hazırlayan veya sonuçtan doğrudan çıkar sağlayan kişi mi?
- Raporlama hattı ve performans hedefi uygunsuz sonuç baskısı yaratıyor mu?
- Çıkar çatışmaları eksiksiz beyan edilmiş ve yönetilmiş mi?
- İncelemeyi yapan kişi lehte ve aleyhte bütün maddi kanıta erişebiliyor mu?
- Gerekli hukukî, teknik veya alan yetkinliği mevcut mu?
- İncelemeyi yapan kişi ilk kararı gerçekten değiştirebilir ve uygulatabilir mi?
- Yalnız farklı kişi, departman veya model adı bağımsızlık kanıtı sayılmış mı?
Sınır
Tam örgütsel ayrılık her durumda mümkün değildir. Bağımsızlık dereceli ve bağlama bağlıdır; sınırlamalar açıklanmalı, risk arttıkça daha güçlü görev ayrılığı veya dış inceleme kullanılmalıdır. Bu kayıt resmî denetçi akreditasyonu oluşturmaz.
Tek cümlede hatırla
Farklı isim bağımsızlık değildir; farklı karar verebilen güvenli konum bağımsızlıktır.
Bu kaydın kaynakları
- S26NIST SP 800-53 Rev. 5, *Security and Privacy Controls*Standart
- S44NIST, *AI Risk Management Framework Playbook* ve AI RMF CoreGönüllü uygulama rehberi
- S45Avrupa Birliği, Regulation (EU) 2024/1689 — *Artificial Intelligence Act*Mevzuat
- S50NIST AI 100-1, *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*Standart niteliğinde gönüllü kurum çerçevesi
- S61Council of Europe, *Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law* (CETS No. 225)Uluslararası sözleşme/resmî kurum