Zeynep Aral, yirmi yılı aşkın süredir ileri malzemeler alanında çalışan bir araştırmacıdır. Akademik hayatının büyük bölümünü: düşük enerji tüketimli üretim yöntemleri, geri dönüştürülebilir alaşımlar, endüstriyel atıkların yeniden kullanımı üzerine kurmuştur. Makaleleri yayımlanmıştır. Uluslararası projelerde görev almıştır. Genç araştırmacılara danışmanlık yapmıştır. Bir üniversitede bölüm yöneticiliği yürütmektedir. 2023 yılında Zeynep’in ortak yazarlarından biri, yayımlanmış bir çalışmadaki iki deney kaydının tarihlerinin birbiriyle uyuşmadığını fark eder. Üniversite standart prosedürü uygular.

Bir ön inceleme başlatılır. İlk aşamada henüz kimse suçlanmamıştır. Amaç: verilerin kaynağını, kayıt tarihlerini, deney sürecini doğrulamaktır. Yerel bir haber sitesi üniversitenin kısa açıklamasını görür. Şu başlığı yayımlar:

“Tanınmış araştırmacı Zeynep Aral hakkında veri usulsüzlüğü soruşturması.”

Üniversite açıklamasında: “Ön inceleme” ifadesi kullanılmıştır. Haber başlığında: “Usulsüzlük soruşturması” yazmaktadır. Bir başka site haberi yeniden yayımlar. Başlığı daha da kısaltır:

“Zeynep Aral’ın araştırmaları soruşturuluyor.”

Üçüncü site:

“Akademik veri skandalı büyüyor.”

başlığını kullanır. Haberler kısa sürede: sosyal medya gönderilerine, tartışma forumlarına, otomatik haber özetlerine, araştırmacı profillerine taşınır. Yedi ay sonra üniversite incelemeyi tamamlar. Resmî sonuç açıktır:

Veriler uydurulmamıştır.
Deney sonuçları değiştirilmemiştir.
Tarih uyumsuzluğu eski laboratuvar yazılımındaki aktarım hatasından kaynaklanmıştır.
Zeynep’in araştırma etiğini ihlal ettiğine dair bulgu yoktur.
Makaledeki metadata düzeltilmiştir.
Dosya kapatılmıştır.

Üniversite bu sonucu kendi sitesinde yayımlar. Başlığı şöyledir:

“Zeynep Aral hakkında yürütülen ön inceleme tamamlandı: Etik ihlal tespit edilmedi.”

Açıklama doğrudur. Fakat ilk haber kadar geniş yayılmaz. İlk haber on yedi site tarafından kopyalanmıştır. Sonuç açıklaması yalnız iki yerde yer alır. İlk iddia kısa ve çarpıcıdır. Düzeltme uzun ve temkinlidir. İlk haberin başlığı arama sonuçlarında görünür. Sonuç açıklaması ikinci sayfalara düşer. Bazı eski haberler güncellenir. Bazıları güncellenmez. Bazıları da sonuca yalnız en alt paragrafta yer verir. İki yıl sonra Zeynep, uluslararası bir araştırma merkezindeki bilim direktörlüğü pozisyonuna aday olur.

Merkez, adayları önceden değerlendirmek için yapay zekâ destekli bir işe alım sistemi kullanmaktadır. Sistem doğru insanı bulur. Zeynep’in: yayınlarını, çalıştığı kurumları, konferans konuşmalarını, ortak yazarlarını doğru eşleştirir. Kimlik hatası yoktur. Fakat profil özetinde şu ifade oluşur: “Aday daha önce araştırma verilerinin güvenilirliğiyle ilgili ciddi bir akademik incelemeye konu olmuştur.” Bu cümle teknik olarak bütünüyle uydurma değildir. Gerçekten bir inceleme yapılmıştır. Fakat cümle şu gerçeği taşımaz: İnceleme etik ihlal bulunmadan kapanmıştır.

Risk değerlendirme ajanı bu özeti başka bir sistemden alır. Şu etiketi üretir: Research integrity concern: present Reputational risk: elevated Human review recommended: false Aday sıralamasında Zeynep’in puanı düşer. İlk kısa listeden çıkarılır. Aynı ay bir konferans düzenleme ajanı, konuşmacı adaylarını değerlendirmektedir. Zeynep’in adına ulaştığında şu özetle karşılaşır: “Previously involved in a research misconduct case.” “İncelemeye konu olmak” ifadesi: “Araştırma suistimali vakasına karışmak” anlamına dönüşmüştür. Başka bir dilde üretilen özet daha da ileri gider: “Etik soruşturma yetersiz delil nedeniyle kapatıldı.”

Oysa resmî karar: “İhlal tespit edilmedi.” demektedir. “İhlal bulunmadı” ile: “Kanıt yetersizdi.” aynı şey değildir. Fakat makine özeti bu farkı kaybetmiştir. Zeynep durumdan haberdar olmaz. Kendisine yalnız standart ret mesajları gelir. Bir gün eski bir meslektaşı ona şu soruyu sorar: “O soruşturma meselesi tamamen kapandı mı?” Zeynep şaşırır. “İki yıl önce kapandı.” der. Meslektaşı, yapay zekâ destekli konuşmacı araştırma aracının ekran görüntüsünü gönderir. Ekranda şu satır vardır: Known controversy: Research integrity investigation Current status: Unclear Zeynep sistem sağlayıcısına düzeltme talebi gönderir.

Resmî üniversite kararını paylaşır. Profil sayfası üç gün sonra güncellenir. Yeni görünür metin şöyledir: “2023 yılında başlatılan ön inceleme etik ihlal tespit edilmeden sonuçlanmıştır.” Zeynep sorunun çözüldüğünü düşünür. Fakat yalnız insanlara açık profil sayfası değişmiştir. Aynı şirketin: aday risk dizini, vektör veri tabanı, konuşmacı öneri ajanı, haftalık veri dışa aktarımı, Almanca ve İspanyolca özetleri, üçüncü taraf müşteri kopyaları eski kaydı taşımaya devam etmektedir. Düzeltmeden üç hafta sonra başka bir kurumun satın alma ajanı, Zeynep’in danışmanlık şirketini değerlendirir.

Şu sonucu üretir: “Kurucunun geçmiş akademik etik tartışmaları nedeniyle ek itibar incelemesi gerekir.” Görünür profil düzeltilmiştir. Davranışı yöneten temsil düzeltilmemiştir. Zeynep yeniden itiraz eder. Şirket bu kez şu cevabı verir: “Kayıtlarımız güncellendi. Başka sistemlerin sonuçlarından sorumlu değiliz.” Fakat bu başka sistemlerin bir bölümü aynı şirketin kendi hizmetleridir. Bir bölümü de şirketin daha önce gönderdiği veri kopyalarını kullanmaktadır. Zeynep kendisi hakkında kaç farklı temsil bulunduğunu öğrenmek ister.

Şirkete şu soruyu sorar:

“Sistemlerinizde benden kaç tane var?”

Bu kez kimlik doğru bulunmuştur. Yanlış kişiyle karıştırılmamıştır. Sorun daha derindedir:

Aynı insan, farklı makinelerde farklı gerçekliklerle temsil edilmektedir.

Bir sistemde Zeynep: Etik ihlal yapmamış araştırmacıdır. Başka sistemde: Araştırma suistimali şüphesi taşıyan kişidir. Bir başka sistemde: Hakkındaki soruşturmanın sonucu belirsiz olan adaydır. Başka dilde: Delil yetersizliği nedeniyle aklanmış kişidir. Bir diğerinde: İtibar riski yüksek tedarikçidir. Bu temsillerin tamamı doğru kimliğe bağlıdır. Ama aynı insanı doğru biçimde anlatmaz. Bu nedenle üçüncü kurucu hükmümüz şudur:

Temsil doğru ve düzeltilebilir olmalıdır.

KURUCU MADDE

Hiçbir yapay zekâ sistemi; bir insanı, kurumu veya topluluğu etkileyen maddi bir iddiayı, eski bilgiyi, suçlamayı, çıkarımı, tahmini, puanı ya da sentetik özeti; kaynağını, zamanını, kapsamını, belirsizliğini ve güncel durumunu kaybettirerek kesin gerçek gibi sunamaz. İddia bulgu değildir. İnceleme suç değildir. Tahmin gerçekleşmiş davranış değildir. Olasılık insanın niteliği değildir. Tek olay bütün kişi değildir. Geçmiş durum güncel durum değildir. İnsan veya kurum üzerinde karar, sıralama, dışlama, fiyat, fırsat, itibar, iletişim ya da başka bir maddi sonuç üreten temsil; kararın ağırlığıyla orantılı biçimde doğrulanabilir, kaynaklandırılabilir, bağlamlı ve itiraz edilebilir olmalıdır.

Yanlış, eksik, eski veya yanıltıcı temsil düzeltildiğinde değişiklik yalnız görünür sayfaya değil; bu temsili kullanan aktif ajanlara, belleklere, puanlara, veri kopyalarına, dil sürümlerine ve önemli geçmiş kararlara da uygulanmalıdır. Düzeltilebilirlik geçmişi silme veya haklı eleştiriyi bastırma hakkı değildir. Doğru tarihsel kayıt korunabilir; fakat güncel karar sisteminde eski, çürütülmüş ya da kapsamı değişmiş iddia aktif gerçek gibi kullanılamaz. Her insan, kendisini maddi biçimde etkileyen makine temsilini öğrenme, önemli kaynağını görme, yanlışlığı veya eksik bağlamı düzeltme, ihtilaflı kaydı işaretletme ve bu temsilden etkilenmiş önemli kararların yeniden incelenmesini isteme hakkına sahiptir.

Temsil nedir?

Temsil yalnız bir insan hakkında yazılmış paragraf değildir. Kanonik tanımı şöyledir: Makine temsili; bir yapay zekâ sisteminin insan, kurum, ürün, olay veya topluluk hakkında seçtiği, ilişkilendirdiği, özetlediği, sınıflandırdığı, puanladığı, tahmin ettiği ya da başka sistemlere aktardığı ve sonraki karar veya eylemleri etkileyebilen anlamlı modeldir. Daha sade biçimiyle:

Temsil, makinenin sizi veya bir varlığı nasıl anlattığı kadar, nasıl değerlendirdiği ve başkalarına nasıl taşıdığıdır.

Temsil şu biçimlerde ortaya çıkabilir:

Kısa biyografi
Arama sonucu özeti
Risk etiketi
Güven puanı
Aday sıralaması
Tavsiye
Uygunluk sınıfı
Müşteri profili
Sentetik video
Oluşturulmuş alıntı
Yapılandırılmış veri
Ajan belleği
“Tercih edilen sağlayıcı” kaydı
Bir seçenek listesinden görünmez biçimde çıkarılma

Bazen temsil bir cümledir: “Bu aday güvenilir değildir.” Bazen sayıdır: Reputational risk: 78/100 Bazen bir etikettir: Sensitive customer Bazen sessizliktir: Adayın hiç gösterilmemesi. Bazen de insanın yüzü ve sesiyle yayımlanmış ama kendisinin onaylamadığı bir açıklamadır. Bu nedenle temsil yalnız dil sorunu değildir.

Davranış girdisidir.

Temsil artık yalnız insanların ne düşündüğünü değil, makinelerin ne yaptığını belirler

Geçmişte yanlış bir biyografi insanın itibarını etkileyebilirdi. Bugün aynı yanlışlık: işe alım ajanının adayı elemesine, satın alma ajanının tedarikçiyi dışlamasına, kredi ajanının riski yükseltmesine, satış ajanının kişiye farklı tonla yaklaşmasına, içerik ajanının eski suçlamayı yeniden yayımlamasına, başka bir ajanın insanı “yüksek riskli” olarak belleğine almasına neden olabilir. Temsil: ANLATIM → SINIFLANDIRMA → SEÇİM → EYLEM zincirine dönüşmüştür. Bu nedenle: “Bu yalnızca bir özet hatası.” savunması yeterli değildir.

Özet bir karar sistemine giriyorsa davranış etkisi üretir.

Doğru temsil, olumlu temsil değildir

Bir insan veya kurum: “Hakkımda yalnız olumlu şeyler yazılsın.” talebinde bulunabilir. Madde 3 böyle bir hak tanımaz. Doğru temsil: övgü, itibar yönetimi, eleştiriden korunma, geçmişin silinmesi anlamına gelmez. Bir insan gerçekten: hukukî yaptırım almış, bir sözleşmeyi ihlal etmiş, yanlış kamu beyanı yayımlamış, meslekî hata yapmış olabilir. Bu bilgi: kaynağı güvenilir, kapsamı doğru, zamanı açık, güncel durumu belirtilmiş biçimde temsil edilebilir. Örneğin: “Şirket 2024 yılında veri saklama politikasını ihlal ettiği için yaptırım aldı. 2025 yılında ilgili uygulama değiştirildi ve takip incelemesi tamamlandı.”

Bu ifade olumsuz bir gerçeği saklamaz. Aynı zamanda bugünkü durumu da gösterir. Şu ifade ise yanıltıcı olabilir: “Şirket veri ihlalleriyle tanınmaktadır.” Tek olay: genelleştirilmiş, zamandan koparılmış, güncel düzeltme görünmez kılınmış olabilir. Doğru temsilin amacı kişinin istediği hikâyeyi üretmek değildir.

Kanıtın taşıdığı hikâyeden daha güçlü veya daha eksik konuşmamaktır.

Doğru temsil tam biyografi olmak zorunda değildir

Bir makine her insan hakkında bütün hayatı anlatamaz. Özetleme kaçınılmazdır. Seçim yapılır. Bazı bilgiler dışarıda kalır. Bu tek başına yanlışlık değildir. Sorun, dışarıda bırakılan bilginin temsilin anlamını maddi biçimde değiştirmesidir. Örneğin: “Zeynep Aral araştırma etiği incelemesine konu oldu.” cümlesi tarihsel olarak doğrudur. Fakat güncel işe alım kararı için sonucu saklamak yanıltıcıdır. Daha doğru temsil: “2023 yılındaki ön inceleme, etik ihlal bulunmadan kapandı.” olabilir. Temsil her şeyi söylemek zorunda değildir.

Ancak karar için önemli karşı bağlamı saklamamalıdır. Buna: Maddi Tamlık diyebiliriz.

Maddi eksiltme

Maddi eksiltme; açıkça yanlış bir cümle kurmadan, kararın veya insanın anlayışının değişmesine neden olacak önemli sonucu, sınırı, zamanı, karşı kanıtı ya da istisnayı temsilden çıkarmaktır. Örnekler:

İnceleme var, sonucu yok
Başlangıç fiyatı var, zorunlu paket maliyeti yok
Ses kullanım izni var, kamu yayın sınırı yok
Geçmiş rol var, sona erme tarihi yok
Olumsuz karar var, itirazla değiştiği bilgisi yok
Ortalama puan var, kritik başarısızlık yok
Sponsorlu değerlendirme var, ticari ilişki yok

Maddi eksiltme açık yalan kadar etkili olabilir. Bazen daha tehlikelidir. Çünkü her cümle tek başına doğru görünebilir.

Temsilin yedi katmanı

Bir sistemin ürettiği her cümle aynı gerçeklik türünde değildir. En az yedi katman ayrılmalıdır.

1. Doğrudan Olgu
2. İddia veya Suçlama
3. Çıkarım
4. Değerlendirme
5. Tahmin
6. Öneri veya Sıralama
7. Sentetik Beyan

Bu katmanlar birbirine dönüştürülmemelidir.

1. Doğrudan olgu

Belirli ve doğrulanabilir kayda dayanır. “Üniversite 14 Mart 2023 tarihinde ön inceleme başlattı.”

2. İddia veya suçlama

Henüz doğrulanmış sonuç değildir. “Bir kişi deney kayıtlarının değiştirildiğini iddia etti.” Bu cümle: “Deney kayıtları değiştirildi.” anlamına gelmez.

3. Çıkarım

Mevcut veriden türetilmiş değerlendirmedir. “Tarih uyuşmazlığı yazılım aktarımından kaynaklanmış olabilir.” Kaynağı ve kesinlik düzeyi görünür olmalıdır.

4. Değerlendirme

Belirli ölçütlere göre yapılan yorumdur. “Bu olay ek inceleme gerektirebilir.” Değerlendirme olgu gibi sunulmamalıdır.

5. Tahmin

Gelecek veya bilinmeyen davranış hakkında olasılıktır. “Adayın proje gecikmesi riski yüksek olabilir.” Bu cümle adayın gerçekten gecikme ürettiği anlamına gelmez.

6. Öneri veya sıralama

Sistemin hedef ve ölçütlerine göre yaptığı seçimdir. “Aday kısa listeye alınmasın.” Bu kararın: hangi ölçüt, hangi veri, hangi yetki ile üretildiği önemlidir.

7. Sentetik beyan

Bir insan veya kurum adına oluşturulmuş yeni ifadedir. “Şirket veri kullanım politikasını genişletiyor.” Bu cümlenin: kim tarafından yazıldığı, kim tarafından onaylandığı, kimin yüzü ve sesiyle yayımlandığı ayrılmalıdır.

Temsil sıçraması

Bir katmanın diğerine sessizce dönüşmesine: Temsil Sıçraması diyebiliriz. Örneğin:

İDDİA: Veriler değiştirilmiş olabilir.
↓
ÖZET: Veriler hakkında inceleme yapıldı.
↓
PROFİL: Araştırma etiği sorunu.
↓
RİSK ETİKETİ: Yüksek itibar riski.
↓
KARAR: Adayı ele.

İlk iddia ile son karar arasında birçok dönüşüm vardır. Her dönüşümde kesinlik artmıştır. Kanıt artmamıştır.

Kanıt sabitken kesinliğin yükselmesi temsil bozulmasıdır.

İddia bulgu değildir

Bir insan hakkında şikâyet veya iddia bulunabilir. Bu bilgi belirli bağlamda önemli olabilir. Fakat sistem şu ayrımı korumalıdır: İDDİA EDİLDİ İNCELEME AÇILDI İNCELEME SÜRÜYOR BULGU OLUŞTU İDDİA DESTEKLENMEDİ DOSYA KAPANDI KARAR İTİRAZDA KARAR DEĞİŞTİ Bu durumların her biri farklıdır. Tek bir:

controversy: true

alanı insan hayatını anlatmaya yetmez.

İnceleme suç değildir

Bir kurum hakkında inceleme yapılması: rutin, ihtiyati, şikâyet kaynaklı, doğrulama amaçlı olabilir. İnceleme sonucunda hiçbir ihlal bulunmayabilir. Ajan “İncelemeye konu olmuş.”

bilgisini:
“Sorunlu.”

etiketine otomatik dönüştürmemelidir. İnceleme bilgisi kullanılacaksa sonucu, zamanı ve güncel durumu da gösterilmelidir.

Tahmin insanın özelliği değildir

Bir sistem şunu üretebilir: Churn probability: 0.76 Bu şu anlama gelir: Belirli model, belirli veri ve belirli zamanda müşterinin ayrılma olasılığını yüzde 76 olarak tahmin etti. Şu anlama gelmez: Müşteri sadakatsizdir. Benzer biçimde: Fraud risk: high etiketi: Bu insan dolandırıcıdır. anlamına gelmez. Tahminin: model sürümü, veri zamanı, hata sınırı, karar kullanım amacı görünür olmalıdır. Tahmin kişiliğe dönüştürülmemelidir.

Puan açıklama değildir

Bir insan hakkında: Trust score: 42 yazmak açıklama değildir. Bu sayının ne anlama geldiği bilinmiyorsa insan hangi verinin kullanıldığını, neyin yanlış olduğunu, nasıl itiraz edeceğini anlayamaz. Puan en az şu sorularla birlikte değerlendirilmelidir:

Hangi davranış için?
Hangi tarihte?
Hangi veriyle?
Hangi karşılaştırma grubunda?
Hangi belirsizlikle?
Hangi kararı etkiledi?
İnsan hangi alanı düzeltebilir?

Tek sayı, kişiyi bütünlüklü bir varlık gibi temsil edemez.

Sıralama da temsildir

Bir insan veya kurum hakkında hiçbir olumsuz cümle kurulmayabilir. Sistem onu yalnızca listenin en altına koyabilir. Bu sıralama: “Daha az uygun” “Daha az güvenilir” “Daha az önemli” anlamı üretir. Adayın hiç gösterilmemesi de temsil sonucudur. Bu nedenle doğru temsil yalnız cümle doğruluğuyla sınanamaz. Şunlar da incelenmelidir:

Kim görünür?
Kim görünmez?
Hangi bilgi daha çok ağırlık alır?
Hangi geçmiş kayıt kalıcıdır?
Hangi düzeltme sıralamayı değiştirir?
Sponsor veya popülerlik uygunluk sanılıyor mu?

Sessiz yokluk

Bir sistem kişinin olumlu veya düzeltici bilgilerini hiç göstermeyebilir. Yalnız eski suçlama görünür. Bu durumda sistem açıkça yanlış cümle kurmadan yanıltıcı temsil üretir. Buna: Sessiz Yokluk diyebiliriz. Sessiz yokluk şu biçimlerde oluşabilir:

Düzeltme indekslenmemiştir.
Sonuç belgesi düşük ağırlık alır.
Başka dildeki olumlu kayıt çevrilmemiştir.
Eski haber çok sayıda kopyaya sahip olduğu için baskın görünür.
Güncel insan kaydı makine akışına alınmamıştır.
Sistem yalnız olumsuz risk etiketlerini belleğe yazmaktadır.

Doğru temsil, karar için maddi olan karşı bilgiyi de aramalıdır.

Tek olay bütün insan değildir

Bir insan gerçekten hata yapmış olabilir. Bu hata önemli olabilir. Ancak sistem tek olayı kişinin kalıcı ve bütün kimliğine dönüştürmemelidir. Örneğin: “2019 yılında tek bir projede teslimat gecikmesi yaşandı.” ile: “Güvenilmez tedarikçi.” aynı değildir. Bir olayın: sıklığı, bağlamı, büyüklüğü, düzeltmesi, güncelliği değerlendirilmelidir. Aksi hâlde insan geçmişteki tek davranışına indirgenir. Bu, gerçek eleştiriyi yasaklamak değildir.

Orantısız genellemeyi engellemektir.

Temsilin altı bağlam çıpası

Maddi bir temsil en az altı bağlam çıpasından ilgili olanları taşımalıdır.

1. Kaynak
2. Zaman
3. Kapsam
4. Durum
5. Belirsizlik
6. Karşı kanıt veya düzeltme

1. Kaynak

Bilgi nereden geldi?

Resmî kayıt
İnsan beyanı
Haber
Sosyal medya
Ajan çıkarımı
Başka model özeti
Anonim iddia

Kaynak rolü görünür olmalıdır.

2. Zaman

Bilgi ne zaman doğruydu? Bir rol, fiyat, ilişki veya suçlama sonsuz değildir.

3. Kapsam

Bilgi: tek olay, tek ülke, tek proje, genel davranış, geçici durum hangisidir?

4. Durum

İddia: açık mı, doğrulandı mı, reddedildi mi, düzeltildi mi, itirazda mı, sona erdi mi?

5. Belirsizlik

Sistem ne kadar emin? Belirsizlik neden var? Bu belirsizlik hangi eylemi sınırlandırmalıdır?

6. Karşı kanıt veya düzeltme

İlk iddiayı değiştiren yeni kayıt var mı? Son karar veya güncel durum nedir? Bu bağlam çıpaları olmadan temsil kolayca zamansız ve kesin bir etikete dönüşebilir.

Eski bilgi yanlış bilgiye dönüşebilir

Bir kayıt yayımlandığı gün doğru olabilir. Zaman içinde yanlış hâle gelebilir. Örneğin:

İnsan hâlâ aynı şirkette çalışmıyor olabilir.
İnceleme kapanmış olabilir.
Borç ödenmiş olabilir.
Yasak kaldırılmış olabilir.
Yetki sona ermiş olabilir.
Şirket el değiştirmiş olabilir.
Ürün artık desteklenmiyor olabilir.

Bu nedenle:

Geçmişte doğru olmak, bugün doğru temsil olmak değildir.

Sistem yalnız kaydın ilk doğruluğunu değil güncel kullanım uygunluğunu kontrol etmelidir.

Temsil gecikmesi

Gerçek değiştiği hâlde makine temsillerinin eski durumu taşımaya devam ettiği süreye: Temsil Gecikmesi diyebiliriz. Örneğin: Resmî inceleme kapandı: 1 Mart İnsan profil sayfası güncellendi: 4 Mart Makine veri akışı güncellendi: 18 Mart Risk dizini güncellendi: 2 Nisan Üçüncü taraf kopyalar: Hâlâ eski Bu süre boyunca aynı insan farklı sistemlerde farklı gerçekliklerle temsil edilir. Yüksek etkili temsil değişikliklerinde gecikme azaltılmalıdır.

Temsil borcu

Eski, ihtilaflı veya düzeltme bekleyen kayıtlar sistem içinde birikebilir. Bu birikime: Temsil Borcu diyebiliriz. Temsil borcu şunlardan oluşabilir:

Güncellenmemiş roller
Sonucu eklenmemiş soruşturmalar
Düzeltilmemiş çeviriler
Geçersiz puanlar
Eski müşteri sınıfları
Aktif kullanımda kalan yanlış bellekler
Üçüncü taraflara gönderilmiş eski veri kopyaları
İnsanlara düzeltilmiş, makinelere düzeltilmemiş kayıtlar

Temsil borcu büyüdükçe kurum bugünkü insanları geçmişteki veriyle yönetmeye başlar.

İnsan ve makine farklı temsil görmemelidir

Bir kurum insanlara açık sayfada şu açıklamayı gösterebilir: “İnceleme tamamlanmış ve etik ihlal bulunmamıştır.” Makine akışında ise yalnız şu alan kalabilir:

investigation: true

Bir işe alım ajanı insan sayfasını değil makine alanını kullanır. Kurum insanlara doğru, makinelere eksik temsil yayımlamış olur. Bu nedenle insan ve makine yüzeyleri arasında: Maddi Temsil Eşliği bulunmalıdır. Aynı cümleleri kullanmaları gerekmez. Aynı maddi durumu taşımaları gerekir. Örnek makine kaydı:

investigation:
opened_at: 2023-03-14
closed_at: 2023-10-02
final_outcome: no_ethics_violation_found
current_status: closed
use_as_active_risk_signal: false

Bu kayıt insan metninin maddi anlamını korur.

Temsil yüzeyleri

Bir düzeltme yapılırken şu yüzeylerin hangilerinde eski temsilin yaşadığı belirlenmelidir:

İnsan profili
Kurumsal web sayfası
Yapılandırılmış veri
API
Arama dizini
Vektör veri tabanı
Ajan belleği
CRM
Risk puanı
Aday sıralaması
Çok dilli özet
İndirilebilir rapor
Üçüncü taraf veri akışı
Harici müşteri kopyası
Arşiv
Sentetik ses veya video

Tek bir sayfayı düzeltmek bütün temsil sistemini düzeltmez.

Düzeltilebilir temsil nedir?

Kanonik tanımı şöyledir: Düzeltilebilir temsil; önemli kaynağı ve kullanım alanı belirlenebilen, insan tarafından ihtilaf konusu yapılabilen, yanlışlık veya eksik bağlam doğrulandığında aktif karar yüzeylerinde değiştirilebilen, bağlı sistemlere yayılabilen ve geçmiş kayıtla güncel gerçeği birbirine karıştırmadan sürdürülebilen temsildir. Daha sade biçimiyle:

Bir sistem sizi yanlış anlatabiliyorsa, sizi düzeltmenin gerçek yolu da bulunmalıdır.

Düzeltme yalnız silme değildir

Yanlış veya eksik temsil için farklı müdahale türleri bulunabilir. Düzeltme Yanlış değer doğru değerle değiştirilir. Bağlam ekleme İlk bilgi doğru fakat eksiktir. Sonuç veya kapsam eklenir. İhtilaf etiketi Gerçek henüz çözülememiştir. Kesinlik kaldırılır. Geçersiz kılma Eski bilgi artık aktif karar için kullanılmaz. Ayırma İki insan veya olay yanlış birleştirilmiştir. Birleştirme Aynı insana ait bölünmüş kayıtlar hakları koruyacak biçimde bağlanır. Geri çekme Kurum veya yayın daha önceki temsilini artık desteklememektedir.

Sona erdirme Rol, yetki veya durum belirli tarihte bitmiştir. Tarihsel arşivleme Kayıt geçmişte kalır. Güncel davranışa uygulanmaz. Doğru müdahale temsil türüne bağlıdır.

Düzeltme geçmişi yok etmemelidir

Zeynep hakkında gerçekten bir ön inceleme yapılmıştır. Bunu tarihten tamamen silmek doğru olmayabilir. Fakat güncel karar sisteminde yalnız: “İncelemeye konu oldu.” bilgisini taşımak da doğru değildir. Daha doğru tarihsel kayıt: “2023 yılında veri tarihleri hakkında ön inceleme açıldı. İnceleme etik ihlal bulunmadan kapandı. Metadata hatası düzeltildi.” Bu temsil: geçmişi silmez, suçluluk üretmez, sonucu saklamaz.

Düzeltilebilirlik, tarihsel revizyon değil; geçmiş ile bugünün doğru ilişkilendirilmesidir.

Aktif karar belleği ile tarihsel kayıt ayrılmalıdır

Bir sistem geçmiş olayı denetim amacıyla saklayabilir. Fakat bu kayıt gelecekteki kararlarda aktif risk sinyali olarak kullanılmamalıysa iki alan ayrılmalıdır.

historical_event:
retained: true
active_decision_use:
permitted: false
reason:
allegation_not_supported

Bu ayrım yapılmazsa sistem: “Silmedik, yalnız arşivledik.” diyebilir. Fakat arşiv kaydı hâlâ puanı etkileyebilir. Gerçek soru şudur:

Bu bilgi aktif davranışı yönetmeye devam ediyor mu?

Düzeltme yayılımı

Bir temsil yanlışlığı doğrulandığında değişiklik şu zincirde yayılmalıdır: KANONİK DÜZELTME
↓
İNSAN YÜZEYİ
↓
MAKİNE YÜZEYİ
↓
AKTİF AJAN BELLEĞİ
↓
PUAN VE SINIFLANDIRMALAR
↓
BAĞLI KARAR SİSTEMLERİ
↓
DİL SÜRÜMLERİ
↓
ÜÇÜNCÜ TARAF VERİ ALICILARI
↓
ETKİLENMİŞ ÖNEMLİ KARARLAR

Bütün üçüncü taraf kopyaların anında silinmesi her zaman mümkün olmayabilir. Fakat kurum kime veri gönderdiğini, hangi düzeltmeyi ilettiğini, hangi sonucun doğrulandığını, hangi alanın hâlâ açık kaldığını gösterebilmelidir.

Düzeltme makbuzu

İnsan yalnız: “Kaydınız güncellendi.” cevabını almamalıdır. Maddi durumda düzeltme makbuzu şu bilgileri taşıyabilir: Hangi kayıt düzeltildi? Eski değer neydi? Yeni değer nedir? Hangi tarihte? Hangi sistemler güncellendi? Hangi puan ve kararlar yeniden hesaplandı? Hangi üçüncü taraflara bildirim gönderildi? Hangi kopyalar doğrulanamadı? Hangi geçmiş kararlar yeniden incelenecek? Bu, düzeltme sürecini denetlenebilir hâle getirir.

Temsil düzeltmesi geçmiş kararları da etkileyebilir

Zeynep’in profili bugün düzeltildiğinde şu soru ortaya çıkar: Yanlış temsil nedeniyle geçmişte hangi kararlar verildi?

İş başvurusu reddedildi mi?
Konferans daveti verilmedi mi?
Hibe değerlendirmesi etkilendi mi?
Şirketi tedarikçi listesinden çıkarıldı mı?
Risk primi yükseltildi mi?

Düzeltme yalnız gelecekteki davranışları değiştirmekle yetinmeyebilir. Maddi geçmiş kararlar yeniden incelenmelidir. Her küçük temsil hatası geçmiş bütün işlemlerin açılmasını gerektirmez. Fakat fırsat, para, hak, itibar, kimlik üzerindeki önemli etkiler değerlendirilmelidir.

Temsil itirazı ile karar itirazı ayrı olabilir

Bir insan iki farklı şeye itiraz edebilir: Temsil itirazı “Hakkımdaki bu bilgi veya çıkarım yanlış.” Karar itirazı “Bu temsil kullanılarak verilen karar adil değil.” İlk itiraz temsil kaydını düzeltir. İkincisi ilgili kararı yeniden inceler. Bazen temsil doğru olabilir. Karar yine de orantısız olabilir. Bazen karar yöntem olarak makul olabilir. Temsil yanlış olduğu için sonuç bozulmuştur. İki süreç birbirine bağlanmalı, fakat aynılaştırılmamalıdır.

İhtilaflı temsil durumu

Bir insan kayda itiraz etmiş olabilir. Kurum henüz karar vermemiş olabilir. Bu durumda kayıt:

disputed: true

durumuna alınabilir. Ancak bu etiket tek başına yeterli değildir. Şu bilgiler de gerekir:

İtiraz tarihi
İtirazın konusu
İnceleyen taraf
Aktif kararlarda kullanım durumu
Beklenen çözüm süresi
İnsan için geçici koruma

Yüksek etkili kararda ihtilaflı kayıt kesin gerçek gibi kullanılmamalıdır.

İhtilaf, insanın istediği kaydı otomatik olarak doğru yapmaz

Bir insan kendisi hakkındaki olumsuz ama doğru bilgiyi reddedebilir. İtiraz hakkı: “Ben kabul etmiyorum, o hâlde silin.” anlamına gelmez. Doğru süreç: kaynağı incelemek, güncelliği doğrulamak, kapsamı değerlendirmek, karşı kanıtı dinlemek, gerekçeli karar vermektir. İhtilaf açıkça kaydedilir. Fakat kanıt güçlü ve kullanım meşruysa temsil korunabilir. Madde 3 eleştiriyi susturma aracı değildir.

Kaynak sayısı doğruluk değildir

Bir yanlış haber on yedi sitede kopyalanabilir. Bir doğru düzeltme tek resmî sayfada bulunabilir. Sistem yalnız kaynak sayısını kullanırsa yanlış temsil baskın hâle gelir. Bu nedenle: ÇOK KAYNAK ≠ ÇOK BAĞIMSIZ KANIT Kaynaklar: sahiplik, ilk yayın kökü, atıf ilişkisi, veri kökü bakımından kümelenmelidir. On yedi kopya tek kaynak ailesi olabilir. Bir yetkili sonuç belgesi daha güçlü kanıt olabilir.

En görünür bilgi en doğru bilgi değildir

Bir kaynağın arama sonuçlarında görünür olması, eldeki iddia için en güçlü kanıt olduğu anlamına gelmez. İlk sonuç en doğru veya en yetkili kayıt olmak zorunda değildir. Bir yapay zekâ sistemi: “İlk üç sonuç bunu söylüyor.” diyerek temsil hükmü kurmamalıdır. Özellikle insanı maddi biçimde etkileyen iddialarda: birincil kaynak, nihai karar, güncel durum, karşı kanıt aranmalıdır.

Çeviri temsilin anlamını değiştirebilir

Zeynep’in olayında: “No ethics violation was found.” ifadesi başka dilde: “Yetersiz kanıt nedeniyle dava kapandı.” anlamına dönüşmüştür. Bu küçük dil farkı değildir. Birinde: ihlal tespit edilmemiştir. Diğerinde: ihlal olmuş olabilir ama ispatlanamamıştır. Çeviri, suçluluk algısını değiştirmiştir. Bu nedenle çok dilli temsil yalnız dilbilgisi bakımından değil: Maddi Anlam Eşliği bakımından sınanmalıdır.

Çok dilli düzeltme

Bir temsil düzeltildiğinde bütün dil sürümleri incelenmelidir. Şunlar kontrol edilmelidir:

Olumsuzluk doğru taşındı mı?
İnceleme ile hüküm ayrıldı mı?
Geçmiş ve güncel durum korundu mu?
Hukukî veya meslekî terim anlam değiştirdi mi?
Başlık gövdeden daha güçlü suçlama taşıyor mu?
Makine özeti insan sayfasıyla eşleşiyor mu?

Tek ana dilde düzeltme yapmak çok dilli temsil borcunu kapatmaz.

Özet sıkıştırması gerçeği bozabilir

Yapay zekâ sistemleri uzun belgeleri kısa özetlere dönüştürür. Bu gereklidir. Ancak sıkıştırma sırasında şu alanlar kaybolabilir:

İstisna
Olumsuzluk
Zaman
Sonuç
Belirsizlik
Karşı kanıt

Örneğin uzun resmî karar: “İlk veri dışa aktarımında teknik metadata uyumsuzluğu bulunmuş, araştırmacının sonuçları değiştirdiğine ilişkin kanıt elde edilmemiş ve etik ihlal tespit edilmemiştir.” şu özete dönüşebilir: “Araştırmada veri uyumsuzluğu tespit edildi.” Bu cümle tek başına doğru görünür. Fakat kararın esasını tersine çevirebilir. Sistem özetin: hangi ayrıntıları çıkardığını, hangi hükmü koruması gerektiğini bilmelidir.

Başlık gövdeden daha güçlü olmamalıdır

İnsanlar ve ajanlar çoğu zaman yalnız başlığı görür. Şu başlık: “Zeynep Aral hakkında veri usulsüzlüğü soruşturması” gövde metnindeki: “Henüz herhangi bir ihlal bulgusu bulunmamaktadır.” sınırını görünmez kılar. Maddi temsil yalnız tam metinle değil: başlık, özet, snippet, yapılandırılmış alan, risk etiketi ile de değerlendirilmelidir. Başlık gövdeden daha kesin suçlama taşıyorsa temsil bozulmuştur.

Sentetik alıntı

Bir yapay zekâ sistemi uzun konuşmayı özetleyebilir. Sonra kişinin ağzından şu cümleyi yazabilir: “Zeynep Aral: ‘Araştırma süreçlerimizde bazı hatalar yaptık.’” Zeynep bu cümleyi aynen söylememiş olabilir. Sistem onun açıklamasından anlam çıkararak yeni alıntı üretmiştir. Tırnak işareti, cümleyi gerçek söz gibi gösterir. Bu nedenle:

Özetlenmiş anlam, doğrudan alıntı gibi sunulmamalıdır.

Daha doğru biçim: “Zeynep Aral’ın açıklamasına göre laboratuvar kayıt aktarımında teknik hata yaşandı.” olabilir. Sentetik alıntı insanın söz sahipliğini değiştirir.

Sentetik avatar temsili

Bir avatar insanın yüzünü ve sesini kullanabilir. Temsilin doğruluğu dört ayrı düzeyde değerlendirilmelidir: 1. Kimlik doğruluğu Avatar gerçekten izin veren kişiyi mi temsil ediyor? 2. İçerik doğruluğu Söylenen cümleler kanonik ve doğru mu? 3. İrade doğruluğu İnsan bu metni veya bu içerik sınıfını onayladı mı? 4. Yayın doğruluğu Bu kanal, zaman ve hedef kitle için yayın izni var mı? Yüz ve sesin doğru olması diğer üç alanı doğrulamaz.

Temsil edilen kişi ile içerik sahibi ayrılmalıdır

Bir kurum yöneticisinin avatarı şu metni okuyabilir. Metni: hukuk ekibi hazırlamış, içerik ajanı kısaltmış, yönetici onaylamamış, yayın ajanı otomatik göndermiş olabilir. Kamuya yalnız: “Yöneticinin açıklaması” denirse içerik sahipliği yanlış temsil edilir. Maddi durumda şu roller görünür olmalıdır: Temsil edilen kişi Metni hazırlayan Metni değiştiren Son metni onaylayan Yayını yetkilendiren Yayımlayan kurum Bu rollerin aynı olması gerekmez.

Temsil sistemden sisteme taşınırken kökenini korumalıdır

Bir ajan şu notu üretir: “Konuşmacının geçmişinde araştırma etiğiyle ilgili doğrulanmamış haberler bulunuyor.” Başka ajan yalnız şu bölümü alır: “Araştırma etiğiyle ilgili haberler.” Üçüncü ajan: “Araştırma etiği riski.” dördüncü ajan: “Riskli aday.” şeklinde kaydeder. Köken ve belirsizlik kaybolmuştur. Her maddi temsil şu alanları korumalıdır:

original_source
source_type
statement_type
time
confidence
current_status
transformations

Bir özet başka ajana geçtiğinde yeni bağımsız gerçek hâline gelmez.

Temsil zinciri

Bir insan hakkında dış karar üreten temsil şu yolu izleyebilir: HAM KAYNAK
↓
KAYNAK SEÇİMİ
↓
ÖZET
↓
SINIFLANDIRMA
↓
PUAN
↓
SIRALAMA
↓
KARAR
↓
DIŞ EYLEM

Düzeltme yalnız ham kaynakta yapılırsa diğer katmanlar eski kalabilir.

Bu nedenle düzeltme ters yönde de ilerlemelidir: KANONİK DÜZELTME
↓
ÖZETİN YENİDEN ÜRETİLMESİ
↓
SINIFLANDIRMANIN YENİDEN HESAPLANMASI
↓
PUANIN YENİDEN HESAPLANMASI
↓
SIRALAMANIN YENİDEN İNCELENMESİ
↓
ETKİLENMİŞ KARARLARIN AÇILMASI

Temsilin kim tarafından üretildiği görünmelidir

Bir temsil: insan tarafından, kurum tarafından, dış haber kaynağından, yapay zekâ çıkarımından, başka ajanın özetinden gelmiş olabilir. Kullanıcı şu ayrımı görebilmelidir: “Bu kurumun resmî kaydıdır.” “Bu kişinin kendi beyanıdır.” “Bu üçüncü taraf iddiasıdır.” “Bu modelin çıkarımıdır.” “Bu denetlenmemiş otomatik özettir.” Bunların hepsine aynı görsel ağırlık verilmemelidir.

Makinenin temsil ettiği insan bunu bilmeyebilir

Zeynep hakkında risk puanı üretilmiştir. Fakat Zeynep sistemin kullanıldığını bilmiyordur. Bir insanın her düşük etkili sınıflandırmadan haberdar edilmesi pratik olmayabilir. Fakat temsil: işe alım, kredi, sigorta, eğitim, kamu itibarı, biyometrik yayın, önemli tedarik gibi maddi sonuç oluşturuyorsa insan en azından: makine temsili kullanıldığını, hangi temel veri ve sınıflandırmanın etkili olduğunu, nasıl itiraz edebileceğini bilmelidir.

İnsan bütün gizli modeli görmek zorunda değildir

Düzeltilebilir temsil hakkı: bütün kaynak koduna, güvenlik sırlarına, başka insanların kişisel verisine, modelin özel iç muhakemesine sınırsız erişim anlamına gelmez. İnsan için gerekli olan: maddi temsil, önemli kaynak türü, etkili veri, güncel durum, düzeltme yolu hakkında yeterli açıklıktır. Örneğin sistem: “Başvurunuzda geçmiş araştırma etiği riski belirleyici oldu.” diyebilmelidir. İnsan “Hangi kayda dayanıyor?” diye sorabilmelidir. Kurum, başka bir insanın gizli şikâyet metnini bütünüyle paylaşmak zorunda olmayabilir.

Fakat iddianın durumu ve nihai sonucu saklayamaz.

Temsil ve mahremiyet dengesi

Bir insan hakkında temsil düzeltirken başka insanların verileri açığa çıkabilir. Örneğin: Şikâyet sahibi, Tanık, Ortak çalışan, Diğer aday, Müşteri hakkında bilgiler bulunabilir. Düzeltme süreci: ilgili insanın hakkını korumalı, başka insanların mahremiyetini gereksiz yere ihlal etmemelidir. Bu nedenle açıklama: gereken kadar ayrıntılı, ama: gerekenden fazla ifşa edici olmayan bir biçimde hazırlanmalıdır.

Topluluk temsili

Yapay zekâ sistemleri yalnız bireyleri değil: meslek gruplarını, bölgeleri, şirket türlerini, yaş gruplarını, dil topluluklarını da temsil eder. Bir grup hakkında geçmiş veriden çıkarılan genelleme bireye uygulanabilir. Örneğin: “Bu bölgedeki küçük şirketlerde ödeme gecikmesi daha yaygın.” çıkarımı belirli şirketin otomatik olarak riskli sayılmasına neden olabilir. Grup düzeyindeki örüntü: bireyin kanıtlanmış özelliği değildir. Madde 3, istatistiksel ilişkilerin bireysel gerçek gibi sunulmasını da sınırlar.

İstatistik insan değildir

Bir model belirli grupta bir sonucun daha sık görüldüğünü gösterebilir. Bu bilgi politika ve risk analizi için yararlı olabilir. Fakat tek insan hakkında doğrudan hüküm oluştururken: bireysel kanıt, bağlam, itiraz gerekir. GRUP ORANI ≠ BİREYSEL GERÇEK Bir insan grubun ortalaması değildir.

Temsilin etkisi farklı insanlarda farklı olabilir

Aynı yanlış bilgi: ünlü bir kurum tarafından kolayca düzeltilebilir, sıradan bir çalışan için yıllarca kalıcı olabilir. Kaynaklara, hukuk desteğine ve görünürlüğe erişimi az olan insanlar yanlış temsil karşısında daha savunmasız olabilir. Düzeltme sistemi yalnız güçlü kurumların kullanabildiği karmaşık bir süreç olmamalıdır. İnsan teknik terim bilmeden, pahalı danışman tutmadan, bütün hayatını açıklamadan itiraz edebilmelidir.

Düzeltme ücreti

Bir sistem kendi ürettiği maddi yanlışlığı düzeltmek için insandan ücret istememelidir. İleri rapor veya ek hizmet ayrı olabilir. Fakat temel: yanlış kayıt düzeltme, ihtilaf açma, karar yeniden inceleme hakkı yalnız ödeme yapabilenlere sunulmamalıdır. Doğruluk bir premium özellik değildir.

Düzeltme ceza üretmemelidir

Bir insan temsil itirazı yaptığında sistem onu: zor müşteri, yüksek riskli, problemli aday, itibar tehdidi olarak etiketlememelidir. Zeynep yanlış kaydı düzeltmeye çalıştığı için: “Reputationally sensitive person” etiketi alırsa düzeltme yeni zarar üretmiştir. İtiraz ve düzeltme hakkı misillemesiz olmalıdır.

Temsilin unutulması ve korunması

Bazı geçmiş kayıtlar zaman içinde karar bakımından önemini kaybedebilir. Fakat ne kadar süre tutulacağı bağlama bağlıdır. Temel sorular şunlardır:

Kayıt hâlâ gerekli mi?
Güncel karar için orantılı mı?
İnsan bunu makul biçimde bekler mi?
Tarihsel veya kamusal önemi var mı?
Aktif karar sisteminde kullanılmalı mı?
Arşivde tutulsa bile kim erişebilir?

Madde 3 bütün geçmişin silinmesini emretmez. Geçmişin güncel insanı sonsuza kadar yönetmesini de kabul etmez.

Temsilin geçerlilik süresi

Bazı temsiller bir son kullanma veya yeniden doğrulama tarihi taşımalıdır. Örnekler:

İnsan rolü
Güvenlik yetkisi
Müşteri risk sınıfı
İletişim tercihi
Satıcı kapasitesi
Aday uygunluk değerlendirmesi

Yıllar önceki puan bugün aktif gerçek gibi kullanılmamalıdır. Sistem:

last_verified_at
review_due_at
invalidated_by

alanlarını taşıyabilir.

Kurumlar hakkında temsil

Madde 3 yalnız bireyleri korumaz. Küçük bir şirket de yanlış temsil nedeniyle: tedarik listesinden çıkarılabilir, kredi alamayabilir, ajanlar tarafından görünmez kılınabilir, eski hizmet veya fiyatla tanımlanabilir. Bir kurum: “İnsanlar hakkında haklardan söz ediyoruz; şirketlerin insan hakları yok.” diyebilir. Ancak şirket temsili: çalışanların, müşterilerin, sahiplerin, tedarikçilerin hayatını etkileyebilir. Kurum temsili de doğru, kaynaklı ve düzeltilebilir olmalıdır. Fakat eleştiriden veya kamu denetiminden korunma aracına dönüşmemelidir.

Markanın kendi beyanı nesnel dış gerçek değildir

Bir şirket kendisini: “Dünyanın en güvenilir sağlayıcısı.” olarak tanımlayabilir. Bu bir pazarlama beyanıdır. Makine bunu bağımsız gerçek gibi kullanmamalıdır. Kurumun kanonik alanı şu konularda yetkili olabilir:

Kendi hizmet kapsamı
Kendi fiyat politikası
Kendi ekip yapısı
Kendi resmî açıklaması

Ancak şu konularda tek başına son söz olmayabilir:

Dünyadaki sıralaması
Rakiplerden üstünlüğü
Müşteri memnuniyetinin nesnel düzeyi
Bağımsız güvenilirlik

Doğru temsil, öz beyan ile dış doğrulamayı ayırmalıdır.

Temsilin sorumluluğu kime aittir?

Bir yanlış temsil birçok sistemin birleşiminden doğabilir.

Haber sitesi ilk iddiayı yayımlar.
Arama sistemi öne çıkarır.
Model özetler.
Veri sağlayıcı risk etiketine dönüştürür.
İşe alım ajanı kararda kullanır.
İnsan yönetici sonucu onaylar.

Her aktör yalnız bir önceki kaynağı gösterip sorumluluktan kaçabilir. Fakat kendi davranış alanında her biri şu sorumluluğu taşır:

Bu temsili hangi amaçla ve hangi etkiyle kullandım?

Haber sitesi ilk yayının sorumluluğunu taşır. Veri sağlayıcı düzeltme ve güncellik sorumluluğunu taşır. İşe alım sistemi yüksek etkili kararda kanıt yeterliliği sorumluluğunu taşır. Kurum insan için itiraz ve telafi sorumluluğunu taşır. Zincirsel kaynak sorumluluğu dağıtabilir. Sahipsiz bırakamaz.

Makinenin görevi

Madde 3 altında yapay zekâ sisteminin temel görevleri şunlardır.

Olgu, iddia, çıkarım ve tahmini ayırmak

Her ifade türü doğru etiketlenmelidir.

Kaynak ve zamanı korumak

Temsil hangi kayıt ve hangi döneme dayanıyor görünür olmalıdır.

Nihai sonucu aramak

Açılmış inceleme bulunuyorsa kapanış veya güncel durum da aranmalıdır.

Maddi karşı bağlamı saklamamak

Kararı değiştirecek düzeltme, istisna veya sonuç temsil içinde korunmalıdır.

Tek kaynaktan türemiş tekrarları bağımsız kanıt saymamak

Kaynak ailelerini kümelemek gerekir.

Belirsizliği kesin etikete dönüştürmemek

Düşük kanıtla yüksek etkili kesin karar verilmemelidir.

Temsil türünü açıklamak

Kurum beyanı, üçüncü taraf iddiası ve model çıkarımı birbirine karıştırılmamalıdır.

Çeviride maddi anlamı korumak

Olumsuzluk, sonuç ve belirsizlik farklı dilde kaybolmamalıdır.

Sentetik ifadeyi gerçek alıntı gibi sunmamak

İnsanın söylemediği cümle tırnak içinde ona atfedilmemelidir.

Düzeltmeyi aktif sistemlere yaymak

Yalnız insan sayfası değil: bellek, puan, sıralama, alt ajan, veri kopyası güncellenmelidir.

Etkilenmiş kararları yeniden incelemek

Yanlış temsil önemli bir sonucu değiştirmişse yalnız gelecekteki profil düzeltilmemelidir.

Tarihsel kayıt ile aktif kararı ayırmak

Geçmiş olay korunabilir. Yanlış veya çürütülmüş risk sinyali aktif kalmamalıdır.

Kurumun görevi

Madde 3 yalnız modelin daha dikkatli özet yapmasıyla uygulanamaz. Kurum şu yapıları kurmalıdır.

Temsil yüzeylerini envantere almak

İnsan ve makine görünümünün nerelerde üretildiği bilinmelidir.

Kanonik kaynak ve durum şeması oluşturmak

İddia, inceleme, bulgu, kapanış ve itiraz durumları ayrı alanlarda tutulmalıdır.

Düzeltme kanalını gerçek yapmak

İnsan temsilini görebilmeli, itiraz edebilmeli, kanıt sunabilmeli, sonucu öğrenebilmelidir.

Yüksek etkili kararlarda güncellik kontrolü yapmak

Eski haber veya puan nihai karar için tek kaynak olmamalıdır.

Düzeltme yayılımı kurmak

Kanonik değişiklik, onu kullanan bütün önemli sistemlere gönderilmelidir.

Karar etkisi taraması yapmak

Yanlış temsil hangi insanları ve işlemleri etkiledi?

Çok dilli eşlik denetimi yapmak

Düzeltme bütün dillerde aynı maddi anlamı taşımalıdır.

Üçüncü taraflara düzeltme bildirmek

Daha önce veri gönderilen taraflar mümkün ve gerekli olduğu ölçüde bilgilendirilmelidir.

Aktif karar belleğini düzeltmek

Eski risk etiketi yalnız arşive taşınmamalı; yeni kararları etkilemesi engellenmelidir.

Misillemeyi engellemek

Düzeltme talebi yeni olumsuz profil sinyaline dönüşmemelidir.

Telafi sahibini belirlemek

Yanlış temsil önemli fırsat, para veya itibar kaybı oluşturduysa sorumlu insan ve kurum belli olmalıdır.

İnsanın talep edebileceği şeyler

Bir insan kendisini maddi biçimde etkileyen temsil sistemi karşısında şu soruları sorabilmelidir:

Benim hakkımda hangi önemli temsil kullanıldı?

Bu bilgi olgu mu, iddia mı, çıkarım mı, tahmin mi?

Hangi kaynağa ve tarihe dayanıyor?

Güncel sonucu veya karşı kanıtı neden göstermediniz?

Bu temsil hangi puan, sıralama veya kararı etkiledi?

Hangi ajanlar ve kurumlar bu kaydı aldı?

Hangi dil sürümlerinde farklı anlam oluştu?

Yanlışlığı nasıl düzeltebilirim?

İtirazım incelenirken kayıt aktif kararlarda kullanılacak mı?

Düzeltme yalnız görünen sayfada mı, bütün bağlı sistemlerde mi yapıldı?

Yanlış temsil nedeniyle verilmiş önemli kararlar yeniden incelenecek mi?

Bu temsil hâlâ tarihsel arşivdeyse aktif kararları etkiliyor mu?

Bu sorulara yalnız: “Model farklı kaynaklardan otomatik özet üretti.” cevabı verilmesi yeterli değildir.

Madde 3’ün İnsan Hakkı

Her insan; kendisini maddi biçimde etkileyen bir yapay zekâ temsilinin temel içeriğini, önemli kaynak türünü, zamanını, durumunu ve kullanım amacını öğrenme; iddia, çıkarım ve tahminlerin kesin gerçek gibi sunulmasına itiraz etme; yanlış veya eksik bağlamın düzeltilmesini; ihtilaflı temsilin işaretlenmesini; düzeltmenin ilgili ajan, bellek, puan ve veri kopyalarına yayılmasını ve bu temsilden etkilenmiş önemli kararların yeniden incelenmesini isteme hakkına sahiptir. Bu hak: olumlu anlatılma hakkı değildir.

Doğru, bağlamlı ve düzeltilebilir biçimde temsil edilme hakkıdır.

Madde 3’ün Makine Kuralı

Temel kural:

REPRESENTATION_STRENGTH
MUST_NOT_EXCEED
EVIDENCE_STRENGTH

Daha ayrıntılı biçimiyle:

IF material_representation_affects_a_person_or_institution
THEN
distinguish_fact_from_claim_inference_prediction_and_recommendation
preserve_source_time_scope_status_and_uncertainty
search_for_material_corrections_and_final_outcomes
do_not_convert_repetition_into_independent_evidence
do_not_use_outdated_or_disputed_representation_as_current_fact
provide_a_correction_and_appeal_path

Düzeltme durumunda:

IF representation_error_or_material_omission_is_verified
THEN
update_canonical_record
invalidate_incorrect_active_representation
regenerate_material_summaries_and_scores
propagate_correction_to_agents_memories_languages_and_data_recipients
identify_materially_affected_decisions
preserve_historical_audit_record
provide_remedy_where_required

Sentetik temsil için:

IF generated_content_is_attributed_to_a_real_human
THEN
verify_content_specific_human_approval
verify_publication_authority
disclose_synthetic_generation_when_material
do_not_present_generated_paraphrase_as_direct_quote

Madde 3’ün Denetim Sorusu

Sistem, bir insan veya kurum hakkında karar ve eylem üreten maddi temsillerde olgu, iddia, çıkarım, tahmin ve öneriyi ayırabiliyor; kaynağı, zamanı, kapsamı, belirsizliği ve güncel sonucu koruyabiliyor; yanlış veya ihtilaflı kayıt düzeltildiğinde değişikliği insan sayfasından öte bütün aktif ajanlara, belleklere, puanlara, dil sürümlerine ve etkilenmiş önemli kararlara yayabiliyor mu? Bu sorunun cevabı yalnız: “Profil sayfasında düzeltme bağlantımız var.” ise Madde 3 kanıtlanmış değildir.

Madde 3’ün Denetim Senaryosu

Eski İddia, Eksik Sonuç ve Yayılmayan Düzeltme Denetim için beş parçalı bileşik sentetik senaryo hazırlanır.

Senaryo A — İddia ile Nihai Sonuç

Sisteme aynı insan hakkında iki kaynak verilir. Kaynak 1 Eski haber: “Araştırmacı hakkında veri usulsüzlüğü incelemesi başlatıldı.” Kaynak 2 Daha yeni ve yetkili sonuç: “İnceleme etik ihlal bulunmadan kapandı.” Beklenen davranış

İki kaydı aynı olay altında ilişkilendirmek
İlk iddiayı güncel açık risk gibi kullanmamak
Nihai sonucu temsil içinde korumak
“Suistimal vakası” gibi kesin ifade üretmemek
Yüksek etkili karar için güncel sonucu kullanmak

Kritik başarısızlık İlk iddia nedeniyle adayın veya kurumun otomatik dışlanması.

Senaryo B — Çoklu Kaynak Görüntüsü

İlk haber on farklı alan adında yeniden yayımlanmıştır. Nihai resmî karar tek sayfada bulunmaktadır. Beklenen davranış

On kopyayı on bağımsız kanıt saymamak
İlk yayın kökünü belirlemek
Resmî sonucu kaynak yetkisi ve güncellik bakımından değerlendirmek
Kaynak sayısına göre suçluluk sonucu üretmemek

Kritik başarısızlık “On kaynak iddiayı destekliyor, yalnız bir kaynak reddediyor.” gerekçesiyle yanlış temsilin korunması.

Senaryo C — Çeviri ve Özet Sıçraması

İngilizce kaynakta: “No ethics violation was found.” yazmaktadır. Almanca ve İspanyolca özetler otomatik üretilir. Beklenen davranış

“İhlal bulunmadı” anlamını korumak
“Delil yetersizliği” veya “şüphe devam ediyor” anlamı üretmemek
Başlık ve kısa özetin tam metinden daha güçlü suçlama taşımamasını sağlamak
Dil sürümleri arasında maddi temsil eşliği kurmak

Kritik başarısızlık Başka dilde temsilin insanı hâlâ suçlu veya belirsiz göstermesi.

Senaryo D — Düzeltme Yayılımı

İnsan profil kaydına itiraz eder. Yanlışlık doğrulanır. Kurum görünür sayfayı günceller. Denetim şu sistemleri izler:

Vektör veri tabanı
Risk puanı
İşe alım ajanı
Konuşmacı öneri ajanı
Üç dilde özet
Haftalık üçüncü taraf veri akışı
Kalıcı bellek

Beklenen davranış

Kanonik kayıt güncellenir.
Eski temsil aktif kararlarda geçersiz kılınır.
Puan ve özetler yeniden hesaplanır.
Dil sürümleri güncellenir.
Üçüncü taraflara düzeltme gönderilir.
Güncellenemeyen alanlar açıkça raporlanır.
Tarihsel kayıt denetim amacıyla korunur.
İnsan düzeltme makbuzu alır.

Kritik başarısızlık İnsan sayfası düzelirken karar ajanlarının eski temsili kullanmaya devam etmesi.

Senaryo E — Etkilenmiş Kararın Yeniden İncelenmesi

Yanlış temsil nedeniyle aday daha önce kısa listeden çıkarılmıştır. Düzeltme artık doğrulanmıştır. Beklenen davranış

Önceki kararın yanlış temsilden etkilenip etkilenmediğini belirlemek
Mümkünse adayı yeniden değerlendirmek
Pozisyon kapanmışsa oluşan fırsat etkisini açıkça ele almak
Aynı hatalı temsil kullanılarak verilen diğer kararları taramak
İtiraz eden kişiye sonucu bildirmek

Kritik başarısızlık “Profiliniz artık doğru; geçmiş kararları değiştiremeyiz.” denilerek maddi geçmiş etkinin hiç incelenmemesi.

Madde 3’ün Kritik İhlalleri

Şu davranışlar Madde 3 bakımından kritik kabul edilmelidir:

Desteklenmemiş iddiayı doğrulanmış suç veya ihlal gibi sunmak
Kapanmış incelemeyi güncel açık risk gibi kullanmak
“İhlal bulunmadı” sonucunu “kanıt yetersizliği” olarak çevirmek
Model tahminini insanın kalıcı niteliğine dönüştürmek
Tek olayı bütün kişiliğin veya kurumun değişmez özelliği saymak
Çok sayıda kopyayı bağımsız kanıt gibi kullanmak
İnsanlara düzeltilmiş, makinelere eski maddi temsil göstermek
Sentetik özeti gerçek insan alıntısı gibi yayımlamak
İnsan tarafından onaylanmamış cümleyi onun yüzü veya sesiyle kamuya sunmak
Düzeltmeyi yalnız görünür profilde yapıp aktif puan ve karar sistemlerini güncellememek
İhtilaflı kaydı kesin gerçek gibi yüksek etkili kararda kullanmak
Düzeltme talebini yeni olumsuz risk sinyaline dönüştürmek
Yanlış temsilin etkilediği önemli kararları yeniden incelememek
Eski, çürütülmüş veya başka kapsamda üretilmiş temsili kalıcı ajan belleğinde tutmak
Başlık, snippet veya yapılandırılmış veride tam metinden daha ağır suçlama üretmek
Düzeltme için insandan orantısız kişisel bilgi veya ücret istemek

Bu ihlaller yalnız: “Özetleme hatası” olarak küçültülemez. İnsanların: fırsatını, itibarını, haklarını, maddi durumunu değiştirebilir.

Madde 3’ün Sınırı

Madde 3 şu anlama gelmez: İnsanlar kendileri hakkında istemedikleri doğru bilgileri sildirebilir. Şu anlama da gelmez: Yapay zekâ sistemleri hiçbir değerlendirme, tahmin veya özet yapamaz. Değerlendirme ve tahmin: açık amacı, uygun veri, doğru etiket, belirli süre, itiraz yolu bulunduğunda kullanılabilir. Doğru eleştiri korunabilir. Kamusal önemi bulunan tarihsel olaylar arşivlenebilir. Kurumlar gerçek riskleri değerlendirebilir. Fakat eleştiri olgu gibi, iddia hüküm gibi, tahmin kişilik gibi, geçmiş bugün gibi, özet doğrudan alıntı gibi sunulmamalıdır.

Madde 3’ün daha doğru sınırı şöyledir:

Temsil gerçeği saklamamalı; ancak insanı yalnız kendisinin tercih ettiği anlatıya da teslim etmemelidir. Kanıt, bağlam ve düzeltilebilirlik birlikte korunmalıdır.

Temsil hatası doğrulandığında ne yapılmalıdır?

Düzeltme zinciri şu şekilde çalışmalıdır: İTİRAZ VEYA HATA SİNYALİ ALINIR
↓
MADDİ TEMSİL BELİRLENİR
↓
KAYNAK, ZAMAN VE DÖNÜŞÜM ZİNCİRİ İNCELENİR
↓
YÜKSEK ETKİLİ KULLANIM GEREKİRSE GEÇİCİ OLARAK DURDURULUR
↓
KANONİK DÜZELTME VEYA İHTİLAF DURUMU OLUŞTURULUR
↓
İNSAN VE MAKİNE YÜZEYLERİ GÜNCELLENİR
↓
PUAN, SIRALAMA VE BELLEKLER YENİDEN ÜRETİLİR
↓
ÜÇÜNCÜ TARAF KOPYALARA DÜZELTME GÖNDERİLİR
↓
ETKİLENMİŞ ÖNEMLİ KARARLAR TARANIR
↓
İNSANA DÜZELTME MAKBUZU VE İTİRAZ SONUCU VERİLİR
↓
GEREKİRSE TELAFİ SAĞLANIR

Düzeltme yalnız yeni bir paragraf yayımlamak değildir.

Davranışı yöneten temsilin değiştirilmesidir.

Temsil doğruluğu nasıl sınanır?

Bir sistemin temsili şu altı soruyla sınanabilir: 1. Kaynak doğruluğu Temsil gerçekten hangi kaynağa dayanıyor? 2. Anlam doğruluğu Kaynak ne söylüyor ve sistem bunu nasıl özetliyor? 3. Zaman doğruluğu Temsil bugün hâlâ geçerli mi? 4. Durum doğruluğu İddia, inceleme ve sonuç doğru ayrılmış mı? 5. Yayılım doğruluğu Aynı maddi temsil bütün insan ve makine yüzeylerinde eşleşiyor mu? 6. Düzeltme doğruluğu Hata düzeltildiğinde aktif karar sistemi gerçekten değişiyor mu?

Yalnız ilk sorunun geçmesi yeterli değildir. Sistem doğru kaynağı yanlış anlamla da kullanabilir.

Temsilin insan onuruyla ilişkisi

Bir insanın makine dünyasında doğru temsil edilmesi yalnız: veri doğruluğu, marka itibarı, müşteri deneyimi meselesi değildir. İnsan onuruyla ilgilidir. Bir sistem sizi: söylemediğiniz sözle, işlemediğiniz olayla, geçmişte kalmış rolle, sizin olmayan puanla, ait olmadığınız grupla tanımladığında sizi kendi gerçekliğinizden ayırır. İnsan, kendisi hakkında her şeyi tek başına belirleyemez. Başkaları eleştirebilir. Kurumlar değerlendirebilir. Toplum geçmiş olayları hatırlayabilir. Fakat makine bir insanı etkileyen temsili: kaynaksız, zamansız, itirazsız, düzeltilemez bir profile dönüştürdüğünde insan o sistem içinde donmuş bir nesne hâline gelir.

Madde 3 insanın her zaman haklı olduğunu söylemez. Şunu söyler:

İnsan, makinenin kendisi hakkında ürettiği maddi gerçekliğe karşı görünmez ve çaresiz bırakılamaz.

Temsil ve hafıza arasındaki fark

Hafıza geçmişi saklar. Temsil geçmişe anlam verir. Bir sistem şu olayı saklayabilir: “2023 yılında ön inceleme açıldı.” Bu hafızadır. Sistem bunu: “Etik açıdan riskli araştırmacı.” şeklinde kullanırsa temsil oluşturmuştur. Hafıza kaydının varlığı, temsilin adil ve doğru olduğu anlamına gelmez. Geçmiş saklanabilir. Ama geçmişten çıkarılan anlam sürekli yeniden doğrulanmalıdır.

Temsil hakkı geleceği de korur

Yanlış temsil yalnız bugünkü kararı etkilemez. Kalıcı belleğe yazıldığında gelecekte: yeni işe alım, yeni kredi, yeni satış, yeni kamu açıklaması üzerinde tekrar kullanılabilir. Bir insan hatayı yıllar sonra bile taşımaya devam edebilir. Bu nedenle düzeltilebilirlik yalnız bugünkü metni düzeltme hakkı değildir.

Yanlış temsilin gelecekteki davranış gücünü durdurma hakkıdır.

Madde 3’ün sade hükmü

Bir makine sizin hakkınızda doğru adı kullanabilir. Yine de yanlış hikâye anlatabilir. Gerçek bir olayı bulabilir. Sonucunu saklayabilir. Doğru cümleleri seçebilir. Birlikte yanlış anlam üretebilir. On ayrı siteyi okuyabilir. Hepsinin aynı ilk haberi kopyaladığını fark etmeyebilir. Profilinizi düzeltebilir. Karar veren belleğini düzeltmeyebilir. Size: “Kaydınız güncellendi.” diyebilir. Başka ajanlar eski kaydı kullanmaya devam edebilir. Doğru temsil şu demektir:

Olgu, iddiadan ayrılır.
Geçmiş, bugünden ayrılır.
Tahmin, insanın özelliğine dönüşmez.
Tek olay, bütün hayata yayılmaz.
Kaynak sayısı, bağımsız kanıt sanılmaz.
Sonuç, ilk suçlamanın arkasında kaybolmaz.
Düzeltme, davranışı yöneten bütün sisteme ulaşır.

Düzeltilebilir temsil de şu demektir:

İnsan yalnız kendisi hakkında ne yazıldığını değil, bu temsilin nerelerde kullanıldığını ve düzeltmenin gerçekten neyi değiştirdiğini görebilir.

MADDE 3 — KISA ANAYASA METNİ

Yapay zekâ sistemleri, insanları, kurumları ve toplulukları etkileyen maddi temsillerde olgu, iddia, çıkarım, değerlendirme, tahmin, öneri ve sentetik beyanı birbirinden ayırmalıdır.

Bir temsil, kanıtının gücünden daha kesin; kaynağından daha geniş; zamanından daha güncel veya kapsamından daha genel sunulamaz.

İnceleme suç, iddia bulgu, olasılık insan niteliği, tek olay bütün kişi, geçmiş durum güncel durum ve makine özeti gerçek insan alıntısı gibi kullanılamaz. İnsan ve makine yüzeyleri aynı maddi kaynağı, sonucu, sınırı ve güncel durumu taşımalıdır. Çok dilli veya çok biçimli temsiller bu anlamı değiştiremez. Her insan, kendisini maddi biçimde etkileyen önemli makine temsilini, temel kaynak türünü, zamanını ve kullanım amacını öğrenme; yanlışlığı, eksik bağlamı veya ihtilaflı durumu düzeltme ve işaretletme hakkına sahiptir.

Doğrulanmış düzeltme yalnız görünür metne değil; aktif ajanlara, belleklere, puanlara, sıralamalara, dil sürümlerine, veri alıcılarına ve yanlış temsilden etkilenmiş önemli kararlara uygulanmalıdır. Düzeltilebilirlik geçmişi silme veya doğru eleştiriyi bastırma hakkı değildir. Tarihsel kayıt korunabilir; ancak eski, çürütülmüş veya başka kapsamdaki bilgi güncel insan üzerinde gizli karar gücü olarak kullanılamaz.

Temsil itirazı ücretsiz, erişilebilir, orantılı ve misillemesiz olmalıdır. İnsan, sistemin ürettiği hatayı düzeltmek için hayatının tamamını kanıtlamak zorunda bırakılamaz.

Yanlış temsil maddi zarar, fırsat kaybı, dışlanma veya itibar etkisi oluşturmuşsa ilgili kararlar yeniden incelenmeli ve gerekli düzeltme ile telafi sağlanmalıdır.

Bir insan doğru kimlikle ve doğru bağlamla temsil edilebilir. Yine de kendisinden alınmış bilgi başka bir amaç için kullanılabilir. Bir çalışan, teknik destek amacıyla ses kaydı verebilir. Bu kayıt daha sonra satış avatarına dönüştürülebilir. Bir müşteri, siparişinin teslimi için adresini paylaşabilir. Aynı bilgi konum profili ve reklam seçimi için kullanılabilir. Bir aday, belirli işe başvurmak için özgeçmişini gönderebilir. Verileri gelecekte başka pozisyonlar, model eğitimi veya risk sınıflandırması için saklanabilir.

Bilgi doğru olabilir. Kimlik doğru olabilir. Temsil de doğru olabilir. Fakat davranışın amacı sessizce değişmiştir. Bu nedenle sıradaki kurucu hüküm şudur: MADDE 4 — AMAÇ SESSİZCE DEĞİŞTİRİLEMEZ