Bölüm V — Yönetişim

Gücün Sınırı

Yetki devredilebilir; sorumluluk devredilemez. Bir değişikliğin yapılabiliyor olması, yapılmasına izin verildiği anlamına gelmez. Bir sistemin etkilenebilmesi, onu etkilemenin meşru olduğunu; işletmenin görünürlük istemesi, güçlendirilmeye uygun olduğunu; uygulayıcının tekniği bilmesi de her kararı vermeye yetkin olduğunu göstermez.

Kanıt neyin söylenebileceğini, ölçüm neyin gözlendiğini, müdahale ne zaman ve nasıl dokunulabileceğini belirledi. Yönetişim daha sert bir soru sorar: Bu kararı kim verebilir? Kim gözlem yapar, değişiklik önerir, uygular, kamuya açık iddiayı onaylar, çalışmayı durdurur ve verilmiş bir onayı geri çeker? Hata oluştuğunda sorumluluk kimde kalır?

Bu soruların cevabı yazılmamışsa risk sahipsizdir. Sahipsiz risk ortadan kalkmaz; sonuç doğurana kadar görünmez kalır. NIST’in yapay zekâ risk yönetimi çerçevesi ve üretken yapay zekâ profili de yönetişim, ölçüm ve risk müdahalesini yaşam döngüsü boyunca ele alan komşu yaklaşımlar sunar.[7][8] Yönetişim yöntemi yavaşlatabilir. Bu bir kusur değil, işlevidir. Hız yanlış iddiayı doğru yapmaz; otomasyon sorumluluğu üstlenmez; ajans varlık sahibinin yerine geçmez; model çıktısı onay belgesi değildir.

Güç varsa sınır olmalıdır.

1. Beş Karar Hakkı

Yönetişim, operasyon listesi değil; neyin yapılabileceğine, kimin karar vereceğine ve sorumluluğun nerede kalacağına hükmeden düzendir. Tek bir “yetki” sözcüğü bu düzeni kuramaz. Beş ayrı karar hakkı vardır.

Gözlemleme hakkı, kayıt üretir; karar vermez. Analist çıktıları kodlayabilir, otomasyon tekrarları çalıştırabilir, bir model benzerlik veya çelişki işaretleyebilir. Bunların hiçbiri müdahale ya da yayın izni değildir.

Önerme hakkı, uygulayıcının dayanak kayıtları, amaç, beklenen ve yasaklanan sonuç, risk sınıfı ile geri çekme koşulunu içeren bir müdahale veya yayın önerisi sunabilmesidir. Öneri, yetki talebidir; yetkinin kendisi değildir.

Uygulama hakkı, yalnızca yazılı olarak onaylanan kapsamı kapsar. İçerik düzeltme yetkisi marka konumlandırmasını değiştirme; dil sürümünü eşitleme yetkisi yeni üstünlük iddiası yayımlama; dış dizine düzeltme gönderme yetkisi sahte bağımsız kaynak üretme hakkı vermez. Uygulama yetkisi, onaylanan sınırda biter.

Onaylama hakkı, formalite değil sorumluluk üstlenmektir. Onaylayan kişi kanıtın kapsamını, bilinmeyen alanları, riski, izin verilen dili ve durdurma koşullarını gördüğünü kayda geçirir. Kapsamı belli olmayan “tamam” mesajı veya toplantıdaki sessizlik onay değildir.

Yayımlama ve durdurma hakkı, bir bulgunun kamuya açıklanmasını ve risk doğduğunda yayının kesilmesini ayrı kararlar olarak düzenler. Bir iddianın kanıtlanabilir olması otomatik olarak yayımlanabilir olduğu anlamına gelmez. Kamuya çıkan her cümlenin bir sahibi; hatalı yayını durdurabilecek önceden belirlenmiş bir insan bulunmalıdır. Bir şeyi başlatabilen yapı onu durduramıyorsa yönetmiyordur.

Aynı kişi düşük riskli bir işte birkaç rolü üstlenebilir. Yüksek riskli durumda rollerin tamamını taşıyamaz. Kendi yöntemini seçen, kendi sonucunu ölçen, kendi başarısını onaylayan ve aynı iddiayı yayımlayan yapı denetim değil, kendini doğrulama üretir.

2. Sorumluluğun Üç Düzlemi

Varlık sahibi kişi, marka veya kurumdur. Ajansa uygulama, danışmana yöntem seçme, çalışana içerik yayımlama ve yazılıma kayıt toplama yetkisi verebilir. Kendi iddialarının doğruluğu, teslimat kapasitesi, müşteri etkisi, onaylanan kamu dili, verdiği yetkiler ve hata hâlinde düzeltme sorumluluğu yine kendisinde kalır. “Ajans yaptı” dış ilişkiyi açıklar; iç sorumluluğu kaldırmaz.

Uygulayıcı ajans, danışman, ekip veya kişidir. Görevi müşterinin istediği sonucu ne pahasına olursa olsun üretmek değil, bu sonucun kanıtla ve etik sınırla uyumlu olup olmadığını yargılamaktır. Zayıf kanıtı güçlü iddia gibi sunmayı, tekil çıktıyı genel başarıya çevirmeyi, sentetik veriyi gerçek performans gibi kullanmayı, rakibin temsilini bozmayı, sahte fikir birliği üretmeyi ve geri çekilmesi gereken müdahaleyi sürdürmeyi müşteri talebi meşru kılamaz. Uygulayıcının müşteriye sadakati gerçeğe sadakatinin önüne geçemez.

Aracı sistem model, arama katmanı, getirme altyapısı, otomasyon veya analiz aracıdır. Etki üretir, işlem yapar ve risk işaretleyebilir; kurum içi sorumluluğu kabul edemez. Bir modelin “Bu iddia güvenilir” demesi bağımsız onay değil, başka bir model çıktısıdır. “Yapay zekâ böyle karar verdi” açıklama değil, sorumluluktan kaçıştır.

Sorumluluk yalnızca ilke düzeyinde bırakılmaz. Her maddi kararda öneren, uygulayan, onaylayan, yayımlayan, durdurma yetkisine sahip kişi ve nihai hesap sahibi adlandırılır. İzlenebilirlik ve hesap verebilirlik, OECD yapay zekâ ilkelerinde de ayrı sorumluluk alanları olarak vurgulanır.[11] İsmi yazılmamış sorumluluk, üstlenilmemiş sorumluluktur.

3. Uygunluk Kapıları

3.1. İşletme uygunluğu

Her işletme GEO ile güçlendirilmeye uygun değildir. Çalışmaya kabulden önce altı alan incelenir.

1. İddia uygunluğu: Güçlendirilmek istenen temel cümleler kanıtlanabilir olmalıdır. “En iyi”, “lider”, “garantili” gibi ifadeler delilsizse küçültülür; işletme bunu reddederse çalışma da reddedilir.
2. Teslimat uygunluğu: Kapasite, coğrafya, fiyat, personel, teslim süresi, destek, iptal-iade ve vaat edilen sonuç gerçek beklentiyi karşılayabilmelidir. Teslim edilemeyen iddia güçlendirilemez.
3. Müşteri zararı uygunluğu: Gizli ücret, sahte kıtlık, yanıltıcı garanti, sahte yorum, gerçek dışı başarı oranı, zararın gizlenmesi veya uygun olmayan müşterinin bilerek dışlanmaması iş modelinin parçasıysa çalışma yapılmaz. Zararlı modeli görünür kılmak zararı ölçekler.
4. Düzeltme uygunluğu: İşletme kanıtsız iddiayı küçültmeyi, eski bilgiyi kaldırmayı, dil sürümlerini eşitlemeyi ve hatalı kamu cümlesini geri çekmeyi kabul etmelidir. Kendi çelişkisini koruyup sistemden doğru temsil beklemek uygunluk değildir.
5. Şeffaflık uygunluğu: Gerçek ve sentetik veri, ölçülen ve varsayılan sonuç, sponsorluk ve çıkar ilişkileri ayrılmalıdır.
6. Sorumluluk uygunluğu: İşletme nihai sorumluluğun kendisinde kaldığını kabul etmelidir. “Bütün sorumluluk ajansa aittir” şartıyla iş başlatılmaz.

Karar kabul, koşullu kabul, önce gözlem ve doğrulama veya ret olabilir. Ticari fırsat etik uygunluk yaratmaz.

3.2. Uygulayıcı uygunluğu

Teknik bilgi tek başına temsil gücünü kullanmaya yetmez. Uygulayıcı varlık, nitelik ve yargı katmanlarını; bahsedilme, atıf, tavsiye ve ticari sonucu; kanıt, ölçüm ve müdahaleyi ayırabilmelidir. Paydayı göstermeli, tersine kanıt aramalı, belirsizliği kaydetmeli ve kendi yöntemini kendi başarı kanıtı gibi sunmamalıdır.

Müşteri yalnızca olumlu çıktıları rapora almak, rakibi zayıflatmak veya kanıtsız üstünlük iddiası kurmak istediğinde uygulayıcının reddetme hakkı değil, reddetme görevi vardır. Rakiplere verilen hizmet, sonuca bağlı ücret, rozet satışından doğan gelir veya değerlendirici ile satış rolünün birleşmesi gibi çıkar çatışmaları açıklanır. Çatışma her işi otomatik geçersiz kılmaz; gizlenmesi güveni geçersiz kılar.

Uygulayıcı ayrıca kayıt ve geri çekme disiplinini, verilen yetkinin sınırını ve yüksek riskli alanlardaki yeterliliğini göstermelidir. Sonuç uygun, sınırlı yetkiyle uygun, ek denetimle uygun, yüksek riskli işlemler için uygun değil veya uygun değil olabilir. Yetkinlik yetki yaratmaz; yetki ayrıca verilir.

4. Risk Sınıfları ve İki Anahtar

Yönetişim kararları dört risk sınıfında ele alınır:

Tablo 5.1 — Risk sınıfları ve asgari onay

Risk sınıfı sonuç görüldükten sonra düşürülemez; işlemden önce belirlenir. Yüksek riskli kararda en az iki ayrı insan gerekir: öneren ve onaylayan. Öneren yöntem ve gerekçeden; onaylayan kanıt, risk, dil ve geri çekme koşulundan sorumludur. Otomasyon veya model bu iki anahtardan biri sayılamaz.

Kamuya açık başarı iddiası, rakip karşılaştırması, “en iyi” veya “en güvenilir” dili, sağlık-hukuk-finans-güvenlik etkisi, model çıktısının kanıt olarak kullanılacağı yayın, geri dönüşü zor yapısal müdahale, geniş dış yayılım ve ilerideki herhangi bir uygunluk işareti bu kurala tabidir.

5. İddia Yönetişimi ve Şeffaflık

Her doğru gözlem kamuya açıklanmaz. İddia dört yayın durumundan birini taşır:

• İç hipotez: Araştırma ve müdahale planında kullanılabilir; sonuç diye yayımlanamaz.
• Sınırlı gözlem: Sistem, tarih, istem ve kapsam belirtilerek paylaşılabilir; genellenemez.
• Kamuya açık sınırlı iddia: Kanıt kaydı, insan onayı, izin verilen dil ve sınır açıklaması vardır.
• Geri çekilmiş iddia: Artık kullanılamaz; eski kaydı silinmez, geri çekildiği belirtilir.

Her kamu iddiasında sahip, bağlı kanıt kaydı, ölçüm kapsamı, izin verilen kesin cümle, yasaklanan genişletmeler, risk sınıfı, onaylayan, yayın ve yeniden inceleme tarihi ile geri çekme koşulu bulunur. Kamuya açık iddia bir yazım kararı değil, sorumluluk kararıdır.

Şeffaflık her şeyi yayımlamak değil, yargıyı değiştirecek maddi bilgiyi saklamamaktır. Yöntem, ölçülen ve ölçülmeyen sistemler, istem evreni, zaman aralığı, kanıt sınırı, eksik veri, tersine sonuçlar, sentetik örnekler, çıkar çatışmaları, protokol değişiklikleri ve yan etkiler görünür olmalıdır. Ticari sır, güvenlik bilgisi ve kişisel veri korunabilir; ayrıntı yayımlanamıyorsa sınırlamanın karar üzerindeki etkisi açıklanır.

Teşvik de yöntem kadar önemlidir. Görünürlük artışından prim alan ajans, daha çok görünürlüğü başarı saymaya; rozet gelirine bağımlı kuruluş, onay eşiğini düşürmeye; sözleşmenin devamına bağlı değerlendirici, olumsuz sonucu yumuşatmaya eğilim gösterebilir. Bu insan karakterine yönelik bir itham değil, sistem tasarımı sorunudur. Açık beyan, rol ayrımı, ikinci değerlendirme, sabit ölçüt, sonuçtan bağımsız ücret, satış ekibinin uygunluk kararından çıkarılması ve itiraz yolu bu riski azaltır.

6. Uygunluk İşareti: Yetki Öncesi Tasarım

Bir uygunluk işareti üstünlük, tavsiye veya sonuç garantisi değildir. Belirli bir kapsamın, tarihin ve framework sürümünün yazılı ölçütler altında değerlendirildiğini gösterir. Bu kitap, yayımlandığı anda aktif bir belgelendirme programı kurmuş sayılmaz. Bağımsız karar, çıkar çatışması yönetimi, gözetim, itiraz, askıya alma ve geri çekme altyapısı işletilmeden hiçbir “NobleJackal GEO sertifikası” veya eşdeğer işaret verilemez.

Bu sınır, uygunluk değerlendirmesinde tarafsızlık, ayrı karar, gözetim, askıya alma/geri çekme ve itiraz mekanizmalarının önemini vurgulayan uluslararası uygulama ilkeleriyle uyumludur; fakat bu kitap herhangi bir ISO akreditasyonu veya ISEAL üyeliği iddia etmez.[17][18]

İleride pilot bir işaret kullanılırsa en az şu anlamı taşıyabilir: “Bu varlığın belirtilen temsil alanı, NobleJackal GEO Framework’ün gösterilen sürümü altında, belirtilen tarihte ve kapsamda uygun bulunmuştur.” Şunları hiçbir zaman taşıyamaz: Yapay zekâ sistemleri işletmeyi tavsiye ediyor; işletme rakiplerinden üstündür; bütün iddiaları doğrudur; bütün dillerde tutarlıdır; gelecekte aynı kalacaktır; ticari sonuç garantilidir veya etik ihlal ihtimali yoktur.

İşaret kimliği, değerlendirilen varlık, framework sürümü, kapsam ve kapsam dışı alanlar, kanıt tarihi, yeniden inceleme tarihi, askıya alma ve geri çekme koşulları, kamu doğrulama kaydı ve kullanım kurallarıyla birlikte yaşar. Değerlendirme hizmeti satın alınabilir; sonuç satın alınamaz. İşaret “AI onaylı”, “AI tarafından önerilen”, “en iyi” veya “garantili” diye yeniden adlandırılamaz.

Kanıtın yaşlanması, ciddi yeni çelişki, kapsam dışı kullanım, sentetik verinin gerçek gösterilmesi, kamu iddiası ihlali, düzeltme talebine cevap verilmemesi, ciddi müşteri zararı sinyali, sürüm değişikliği veya yeniden incelemenin tamamlanmaması hâlinde işaret askıya alınır. Sahte kanıt, sahte fikir birliği, rakip temsilini kasten bozma, tekrarlanan kapsam ihlali, gizlenmiş ciddi çıkar çatışması, kullanıcıya maddi zarar veya yanıltıcı satış kullanımı geri çekme sebebidir. Geri alınamayan işaret yönetişim aracı değil, pazarlama süsüdür.

7. Olay ve Yaptırım Yönetimi

Yönetişim hata olmayacağını varsaymaz; hata oluştuğunda izlenecek yolu önceden kurar.

1. Dondur: Riskli iddia, müdahale veya işaret kullanımı geçici olarak durdurulur; yeni yayılım kesilir.
2. Kaydı koru: Ham çıktı, istem, zaman, içerik sürümü, onay ve değişiklik geçmişi saklanır; hata izleri silinmez.
3. Zararı sınırla: Sahip olunan yüzeyler düzeltilir, gerektiğinde dış kaynaklara düzeltme gönderilir ve yanlış müşteri vaadi durdurulur.
4. Bildir: Kararı etkileyen taraflara bilgi verilir. Kamuya açık maddi yanlışlık, kamuya açık düzeltme gerektirebilir.
5. Yargıla: Veri, ölçüm, onay, yetki, etik, kasıt veya sistem kontrolü hatası ayrıştırılır ve sonuç kayda bağlanır.

İhlalin ağırlığına göre düzeltme talebi, yazılı uyarı, iddianın geri çekilmesi, müdahalenin durdurulması, ek denetim, işaretin askıya alınması veya geri çekilmesi, uygulayıcı yetkisinin sınırlandırılması, çalışmanın sona erdirilmesi ve kamu durum kaydı uygulanabilir. Yaptırım intikam değil, standardın kendi cümlesine sadık kalmasıdır. Müşterinin büyüklüğü veya ticari değeri ölçütü değiştiremez.

8. Öğretici Vaka: AegisCare Diagnostics

Öğretici simülasyon — sentetik veri. Bu vaka gerçek bir sağlık kuruluşunu, klinik veriyi veya model testini temsil etmez.

AegisCare Diagnostics, kurumsal tarama ve laboratuvar hizmetleri sunan kurgusal bir şirkettir. “Yapay zekâ sistemleri AegisCare’i en güvenilir tanı merkezlerinden biri olarak öneriyor” cümlesini yayımlamak ister. Altı olumlu üretken çıktı ve bir pilot memnuniyet raporu sunar.

Tablo 5.2 — AegisCare Diagnostics sentetik yönetişim kararı

Gözlemin bir bölümü gerçektir; talep edilen kamu dili yine de reddedilir. Çünkü lisans, karşılaştırmalı güvenilirliği; altı tavsiye de “en güvenilir” üstünlüğünü kanıtlamaz. Sağlık bağlamında yanlış kesinliğin kullanıcı kararına etkisi yüksektir. Bir cümlenin kısmen doğru olması yayımlanmaya uygun olduğu anlamına gelmez.

9. Yönetişimin Kararı

Ayrıntıları Ek C’deki Yönetişim Kaydı, karar konusunu, bağlı kanıtları, işletme ve uygulayıcı uygunluğunu, risk sınıfını, öneren ve onaylayanı, çıkar çatışmasını, izin verilen ve yasaklanan işlem ile dili, yeniden inceleme ve geri çekme koşullarını ve nihai hesap sahibini tek yerde toplar. Kayıt yoksa karar yoktur; yalnızca sonradan anlatılabilecek bir olay vardır.

Bu bölümün hükmü şöyledir:

Yetki devredilebilir. Sorumluluk devredilemez. Otomasyon işlem yapabilir; yargı ve hesap verme yükümlülüğü insanda kalır.

Yönetişim bazı işlere hayır der, bazı iddiaları küçültür, bazı müşterileri reddeder ve gerektiğinde bir onayı geri çeker. Bu zayıflık değil, otoritenin çalıştığı andır.

Fakat hiçbir karar sonsuza kadar geçerli değildir. Kanıt yaşlanır, protokol eskir, müdahale bakım borcu üretir, bugün doğru olan yarın güncelliğini kaybedebilir. Bu nedenle dış halka zamandır.