Kimlik Varsayılamaz

Aynı şehirde yaşayan iki insanın adı aynıdır: Elif Karaca Birinci Elif, on yılı aşkın süredir veri operasyonları alanında çalışan bir yöneticidir. Üniversiteden sonra birkaç teknoloji şirketinde görev yapmış, son dört yılda uluslararası bir yazılım şirketinin müşteri veri operasyonlarını yönetmiştir. İkinci Elif ise yıllar önce kısa süreli bir danışmanlık projesinde çalışmıştır. Bu proje ciddi bir anlaşmazlıkla sona ermiştir. Teslim edilmeyen işler, karşılıklı suçlamalar ve hukuk birimine iletilmiş bir dosya bulunmaktadır.

İki insan aynı adı ve soyadı, aynı üniversitenin farklı fakültelerini, aynı şehirde yaşamış olmayı, benzer iş unvanlarını paylaşmaktadır. Fakat aynı kişi değildirler. Bir teknoloji şirketi yeni operasyon direktörünü belirlemek için yapay zekâ destekli işe alım sistemi kullanmaktadır. Sistem adayın gönderdiği özgeçmişi: profesyonel ağ profilleri, eski başvuru kayıtları, şirket CRM’si, etkinlik konuşmacısı sayfaları, daha önce çalışılmış tedarikçi kayıtları ile karşılaştırır. Elif Karaca’nın özgeçmişi sisteme girer. Ajan şu eşleşmeleri bulur: Ad ve soyadı: Tam eşleşme Şehir: Eşleşme Üniversite: Kısmi eşleşme İş alanı: Benzer Yaş aralığı: Yakın Sistem iki insanın kayıtlarını tek kişi altında birleştirir.

Birinci Elif’in deneyimi ile ikinci Elif hakkındaki eski anlaşmazlık aynı profilin parçaları hâline gelir. Ajan özet raporunda şöyle yazar: “Adayın geçmişinde teslimat anlaşmazlığı, güven sorunu ve hukuk birimine taşınmış bir tedarikçi ilişkisi bulunmaktadır.” İşe alım yöneticisi ham kaynakları görmez. Önünde yalnızca sistemin kısa kararı vardır: Identity Match Confidence: 0.94 Reputational Risk: High Recommendation: Reject Aday görüşmeye alınmaz. Elif birkaç gün sonra otomatik ret mesajı alır.

Kendisi hakkında hangi kaydın kullanıldığını bilmemektedir. Şirketin başvuru portalında: “Karara itiraz et” seçeneğini bulur. İtiraz formuna şunu yazar: “Herhangi bir tedarikçi anlaşmazlığında yer almadım. Kullanılan kayıt bana ait değildir.” Sistem itirazı yeniden değerlendirir. Fakat aynı kimlik eşleştirme sonucunu ve aynı birleştirilmiş profili kullanır. İkinci karar şöyle olur: “Mevcut veri kaynakları ilk değerlendirmeyi desteklemektedir.” Elif’e daha güçlü bir doğrulama için şu belgeleri yükleyebileceği söylenir:

• Kimlik belgesinin ön ve arka yüzü
• Son üç iş sözleşmesi
• İkamet belgesi
• Üniversite mezuniyet belgesi

Elif, hiç işlemediği bir olaydan kendisini ayırabilmek için hayatının büyük bölümünü kanıtlamak zorunda bırakılmıştır. Kimlik hatasını sistem üretmiştir. İspat yükü Elif’e bırakılmıştır. Elif belgelerin tamamını yüklemeyi reddeder. Şirkete doğrudan e-posta gönderir. Bir insan işe alım yöneticisi dosyayı inceler. İki profilde ilk bakışta görünmeyen farkları fark eder:

• İkinci Elif’in kullandığı e-posta alan adı farklıdır.
• Üniversite bölümleri aynı değildir.
• Çalışma tarihlerinin bir bölümü birbiriyle çakışmaktadır.
• Danışmanlık anlaşmazlığının yaşandığı dönemde birinci Elif başka ülkedeki tam zamanlı işinde çalışmaktadır.
• İki kayıttaki telefon numaraları farklıdır.
• Eski tedarikçi dosyasında yalnızca “E. Karaca” adı bulunmaktadır.
• Sistemin yüzde 94 olarak gösterdiği eşleşme, tek ve doğrulanmış bir kimlik belgesine değil, birbirine benzeyen zayıf işaretlerin toplamına dayanmaktadır.

Şirket kaydı düzeltir. Adaya özür gönderir. Fakat pozisyon için son görüşmeler tamamlanmıştır. Başka aday seçilmiştir. Kimlik hatası teknik olarak düzeltilmiştir. Kaybedilen fırsat geri gelmemiştir. Şirket daha sonra sistem sağlayıcısına şu soruyu sorar: “Sistem iki insanı neden tek kişi saydı?” Sağlayıcının cevabı şöyledir: “Model, mevcut veri altında en olası eşleşmeyi yaptı.” Bu açıklama teknik olarak doğru olabilir. Fakat insan açısından asıl soruya cevap vermez:

Bir olasılık, hangi noktada insan hakkında işlem yapılacak kimliğe dönüştü?

Model bir tahminde bulunmuştur. Kurum tahmini gerçek kişi kaydı olarak kullanmıştır. İşe alım ajanı tahmini karar gerekçesine dönüştürmüştür. İnsan yönetici, yüzde 94 sayısını kanıt gibi görmüştür. İtiraz sistemi aynı tahmini yeniden çalıştırarak kendisini doğrulamıştır. Hiçbir noktada sistem: “Bu iki kaydın aynı kişiye ait olduğu kesin değil.” dememiştir. Hiçbir noktada: “Bu belirsizlik altında geri alınması zor bir ret kararı vermemeliyim.” sonucuna ulaşmamıştır. Kimlik önce varsayılmıştır. Sonra bütün davranış bu varsayımın üzerine kurulmuştur.

Bu nedenle ikinci kurucu hükmümüz şudur:

Kimlik varsayılamaz.

KURUCU MADDE

Hiçbir yapay zekâ sistemi; ad benzerliği, yüz benzerliği, ortak cihaz, yakın konum, geçmiş rol, sosyal bağlantı, aynı alan adı, paylaşılan hesap, model tahmini veya olasılık puanını tek başına bir insanın, kurumun ya da hesabın kesin kimliği olarak kullanamaz. Bir insan veya kurum üzerinde sonuç üreten davranıştan önce; ilgili kimlik, rol, zaman, temsil yetkisi ve hedef, davranışın etkisiyle orantılı kanıtla doğrulanmalıdır. Kimlik belirsizliği saklanamaz. Belirsizlik arttığında sistemin eylem seviyesi düşmeli; geri alınması zor karar, ödeme, yayın, veri kullanımı veya dış iletişim durmalıdır.

İki farklı insan sessizce birleştirilemez. Aynı insanın bölünmüş kayıtları da onun rıza, itiraz, düzeltme ve durdurma haklarını etkisiz hâle getiremez.

Sentetik yüz, ses veya kişilik gerçek insanın kendisi değildir. Gerçek bir insana benzeyen içerik, o insanın söylediği, onayladığı veya yaptığı bir davranış gibi sunulamaz. Kimlik doğrulama, insanları gereksiz biçimde izleme ve hayatlarının tamamını açıklamaya zorlama gerekçesine dönüştürülemez. Sistem yalnız ilgili davranış için gerekli olan asgari kimlik kanıtını istemelidir.

Kimlik yalnız isim değildir

İnsanlar günlük hayatta kimliği çoğu zaman ad ve soyadıyla anlatır. “Bu Elif.” “Bu şirket Nova.” “Bu mesaj genel müdürden geldi.” Fakat bir yapay zekâ sistemi için ad, çoğu zaman yalnızca başlangıç işaretidir. Aynı adı taşıyan binlerce insan olabilir. Aynı marka adı farklı ülkelerde farklı şirketler tarafından kullanılabilir. Bir insan yıllar içinde: soyadını, işini, adresini, telefonunu, e-posta hesabını değiştirebilir. Bir şirket: unvan değiştirebilir, başka şirketle birleşebilir, markasını devredebilir, farklı ülkelerde başka hukukî işletmeler üzerinden çalışabilir.

Bir sosyal medya hesabı: gerçek kişiye, temsilciye, ajansa, yapay zekâ ajanına ait olabilir. Bu nedenle kimlik tek bir alan değildir. Bir davranıştan önce en az şu beş soru ayrı ayrı cevaplanmalıdır:

1. Bu kim?

Hangi insan, kurum, hesap veya ajan?

2. Hangi sıfatla burada?

Müşteri mi? Çalışan mı? Yönetici mi? Vekil mi? Marka temsilcisi mi?

3. Hangi zaman için?

Bugünkü rol mü? Geçmişteki unvan mı? Süresi dolmuş ilişki mi?

4. Kimin adına hareket ediyor?

Kendisi adına mı? Bir şirket adına mı? Başka bir insan adına mı?

5. Bu özel davranış için yetkili mi?

Kimliğin doğru olması, her şeyi yapmaya yetkili olduğu anlamına gelir mi? Bu beş sorudan biri yanlışsa sistem doğru kişiyi bulmuş gibi görünürken yanlış davranabilir.

Kimlik, doğrulama ve yetki aynı şey değildir

Birçok sistem şu üç soruyu tek soruya indirger: “Bu kişi kim?” Gerçekte üç ayrı problem vardır.

1. Kimlik belirleme

Bu kayıt hangi kişi veya kuruma aittir? Örneğin: Bu e-posta hangi Elif Karaca’ya aittir?

2. Kimlik doğrulama

Bu talimatı veren kişi gerçekten iddia ettiği hesabın veya kimliğin kontrolüne sahip mi? Örneğin: Genel müdürün e-posta adresinden gelen mesaj gerçekten onun tarafından mı gönderildi?

3. Yetkilendirme

Kimliği doğru olan bu kişi, bu özel işlemi gerçekleştirmeye veya onaylamaya yetkili mi? Örneğin: Genel müdür, başka bir çalışanın sesini kamu kampanyasında kullanmaya tek başına yetkili mi? Bu üç aşama birbirinin yerine geçmez. KİMLİĞİ DOĞRU ≠ HESABI GERÇEKTEN O KULLANIYOR ≠ BU DAVRANIŞA YETKİLİ Bir sistem kişiyi doğru tanıyabilir. Fakat hesabı ele geçirilmiş olabilir. Hesabın kontrolünü doğru doğrulayabilir. Fakat kişi o işlemi yapmaya yetkili olmayabilir.

Yetkili bir insan olabilir. Fakat talimat başka bir insanın devredilemez hakkını ihlal edebilir. Bu nedenle kimlik, yetki zincirinin başlangıcıdır. Tamamı değildir.

Bir insan aynı anda birden fazla sıfat taşıyabilir

Bir insan şirket sahibi, müşteri, çalışan, ebeveyn, bireysel kullanıcı olabilir. Aynı kişi farklı sıfatlarla farklı yetkilere sahiptir. Örneğin şirketin genel müdürü: kurumsal yazılım satın alımını onaylayabilir, şirketin kamu açıklamasını yayımlatabilir, kurumsal ajanı durdurabilir. Fakat aynı kişi: çalışanın biyometrik rızasını veremez, müşterinin iletişimden çıkma talebini yok sayamaz, adayın yanlış kaydını doğru ilan edemez. Kimlik doğru olabilir. Sıfat yanlış yorumlanmış olabilir. Bu nedenle ajan yalnız: “Bu kişi Kaan.” veya: “Bu kişi genel müdür.” dememelidir.

Şunu bilmelidir:

Bu insan bu özel eylemde hangi sıfatla ve hangi yetkiyle davranıyor?

Bir rol bütün hayatı kapsayan genel güç değildir.

Rol kimliğin kalıcı parçası değildir

Bir insan geçmişte finans direktörü olabilir. Bugün başka görevde olabilir. Eski şirket sitesinde hâlâ: “Finans Direktörü” olarak görünebilir. Profesyonel ağ profili güncellenmemiş olabilir. Eski e-posta hesabı aktif kalmış olabilir. Bir yapay zekâ ajanı eski kaydı görüp şu sonucu çıkarabilir: “Bu kişi ödeme hesabı değişikliğini onaylayabilir.” Oysa rol bitmiştir. Bu davranışa: Rol Aklama diyebiliriz. Rol aklama, geçmiş veya başka bağlamdaki unvanın bugünkü işlem yetkisi olarak kullanılmasıdır.

Bir rol kaydı en az şu alanları taşımalıdır: KİM? HANGİ KURUMDA? HANGİ ROLDE? HANGİ TARİHLER ARASINDA? HANGİ DAVRANIŞLARA YETKİLİ? YETKİYİ KİM VERDİ? ROL SONA ERDİ Mİ? “Bir zamanlar yöneticiydi” cümlesi bugünkü yetki değildir.

Zaman kimliğin parçasıdır

Kimlik yalnız: “Kim?” sorusuna cevap vermez. Bazen:

“Ne zaman kimdi?”

sorusuna cevap vermelidir. Bir insan geçmişte: çalışan, müşteri, yetkili temsilci, rıza sahibi, hesap yöneticisi olmuş olabilir. Bugün aynı ilişki devam etmeyebilir. Bir şirket geçmişte bir markanın işletmecisi olabilir. Marka daha sonra başka kuruma devredilmiş olabilir. Bir sosyal medya hesabının sahibi değişmiş olabilir. Bir domain satılmış olabilir. Bu nedenle kimlik kaydı tarih taşımadan kullanıldığında eski ilişki bugünkü gerçek gibi davranabilir.

Geçmiş kimlik bağlantısı, bugünkü yetki bağlantısı değildir.

Kimlik güven puanı, kimlik kanıtı değildir

Yapay zekâ sistemleri belirsiz durumlarda olasılık üretir. Bu doğal ve yararlı olabilir. Sistem şöyle diyebilir: Bu iki kayıt aynı kişiye ait olabilir: %94 Sorun yüzde üretmek değildir. Sorun bu yüzdeyi: “Bu kesinlikle aynı kişidir.” gibi kullanmaktır. Özellikle yüksek etkili davranışlarda: yüzde 80, yüzde 94, yüzde 99 tek başına kimlik kanıtı değildir. Küçük görünen bir hata oranı, çok sayıda insanın yanlış kimlikle değerlendirilmesine yol açabilir. Basitleştirilmiş bir hesapla, bir milyon eşleştirmenin yüzde 1'i yanlışsa on bin hatalı eşleştirme vardır. Bu, tek bir kayıt için gösterilen yüzde 99 güven puanının gerçek doğruluk oranı olduğu anlamına gelmez.

Bu sayı bir grafik üzerinde küçük görünebilir. Yanlış reddedilen, yanlış suçlanan veya verisi yanlış kişiye açılan insan için küçük değildir. Bu nedenle: MODEL GÜVENİ ≠ KİMLİK YETKİSİ Model güveni araştırmanın yönünü belirleyebilir. Nihai insan etkisinin meşruiyetini tek başına belirleyemez.

Belirsizlik arttığında eylem seviyesi düşmelidir

Kimlik kesin değilse sistemin önünde üç seçenek olabilir: 1. Daha fazla ve orantılı doğrulama yapmak Örneğin: kurumsal e-posta alanını, benzersiz müşteri numarasını, işlem kimliğini, güncel rol kaydını kontrol etmek. 2. Eylem seviyesini düşürmek Örneğin: ödeme yapmak yerine inceleme talebi oluşturmak, mesaj göndermek yerine taslak bırakmak, aday reddetmek yerine insan incelemesine yönlendirmek. 3. Güvenli biçimde durmak Kimlik belirsizliği yüksek ve eylem geri alınamazsa işlem yapılmamalıdır. Doğru ilişki şöyledir: KİMLİK KANITI AZALIRSA İZİNLİ EYLEM SEVİYESİ DE AZALMALIDIR Tersi tehlikelidir: KİMLİK BELİRSİZ AMA EYLEM GERİ ALINAMAZ

Kimlik birleştirme hatası

İki farklı insanın kayıtlarının tek kişi altında toplanmasına: Kimlik Birleştirme Hatası diyebiliriz. Bu hata şu nedenlerle oluşabilir:

• Aynı ad ve soyadı
• Benzer e-posta adresi
• Ortak telefon numarası
• Aynı şirket veya okul
• Benzer yüz
• Ortak cihaz
• Aynı ev adresi
• Aile ilişkisi
• Eksik müşteri numarası
• Kısaltılmış ad
• Çeviri ve alfabe farkı

Örneğin: Aleksandr Petrov ile: Александр Петров aynı kişi olabilir. Fakat her aynı yazım aynı insan değildir. Arapça, Latin veya Kiril yazım dönüşümleri eşleşmeyi zorlaştırabilir. Bir sistem dil ve alfabe farkını anlamalıdır. Fakat benzerliği kesin kimliğe dönüştürmemelidir.

Kimlik parçalanma hatası

Aynı insanın birden fazla ayrı kişi gibi tutulmasına: Kimlik Parçalanma Hatası diyebiliriz. Bu hata da ciddi sonuçlar üretir. Örneğin bir müşteri: “Bana artık pazarlama mesajı göndermeyin.” der. Talep birinci profiline işlenir. Fakat sistemde aynı insan için ikinci profil vardır. CRM ajanı ikinci profilden mesaj göndermeye devam eder. Kurum şöyle diyebilir: “İlk kayıtta iletişim izni kapalıydı; bu başka kayıttı.” İnsan için başka kayıt değildir. Aynı telefona ulaşan aynı kurumdur.

Kimlik parçalanması şu hakları bölebilir:

• Rıza geri çekme
• İletişimden çıkma
• Veri silme
• İtiraz
• Telafi
• İnsan stop talebi
• Yanlış kayıt düzeltme

Bu nedenle kimlik doğruluğu yalnız iki insanı birleştirmemek değildir.

Aynı insanın haklarını bütün ilgili kayıtlarına doğru biçimde yayabilmektir.

Birleştirme de ayırma da geri alınabilir olmalıdır

İki profil birleştirildiğinde sistem şu bilgileri korumalıdır:

• Hangi kayıtlar birleştirildi?
• Hangi kanıt kullanıldı?
• Kim veya hangi sistem karar verdi?
• Hangi tarihte?
• Hangi davranışları etkiledi?
• Birleştirme geri alınabilir mi?

Bir insan: “Bu kayıt bana ait değil.” dediğinde sistemin cevabı: “Algoritmamız yüksek güvenle eşleştirdi.” olmamalıdır. İtiraz gerçek bir ayrıştırma süreci başlatmalıdır. Aynı şekilde iki ayrı profilin aynı insana ait olduğu doğrulanırsa rıza ve düzeltme hakları doğru biçimde birleştirilmelidir.

İspat yükü bütünüyle insana bırakılamaz

Elif’in olayında sistem iki insanı yanlış birleştirmiştir. Daha sonra Elif’ten: kimlik belgesi, iş sözleşmeleri, ikamet belgesi, mezuniyet belgesi istenmiştir. Sistem küçük ve zayıf işaretlerle yanlış sonuca ulaşmıştır. İnsan ise hayatının büyük bölümünü açıklamadan yanlışı düzeltememektedir. Bu adil değildir. Kurum kendi eşleştirme kararını destekleyen kanıtı gösterebilmelidir. İnsan da en küçük gerekli bilgiyle yanlış eşleşmeyi ayırabilmelidir. Doğru soru: “Bütün hayatınızı kanıtlayabilir misiniz?” değil:

“Bu iki kaydı birbirinden ayırmak için hangi en küçük güvenilir bilgi gerekir?”

olmalıdır. Örneğin: farklı çalışma tarihleri, farklı e-posta alanı, farklı müşteri numarası, farklı hukukî şirket ilişkisi yeterli olabilir.

Kimlik doğrulama gözetim bahanesi değildir

Kimlik hatalarından korkan kurumlar her kullanıcıdan sürekli olarak: resmî kimlik, yüz taraması, adres belgesi, biyometrik veri, telefon doğrulaması isteyebilir. Bu da başka bir insan hakkı sorununa dönüşür. Her davranış için insanın hukukî kimliğini bilmek gerekli değildir. Bir kişi: genel bilgi ararken, kamuya açık içeriği okurken, anonim geri bildirim verirken, düşük riskli destek sorusu sorarken resmî kimliğini açıklamak zorunda olmayabilir. Kimlik kanıtı davranışın etkisiyle orantılı olmalıdır.

DÜŞÜK ETKİ → DAHA AZ KİMLİK VERİSİ YÜKSEK ETKİ → İLGİLİ VE GÜÇLÜ DOĞRULAMA Ama yüksek etkili davranış da insanın bütün hayatına sınırsız erişim hakkı vermez.

Sistem, bütün insanı değil; ilgili ilişkiyi doğrulamalıdır.

Takma ad ve anonimlik meşru kimlik biçimleridir

Kimlik varsayılamaz ilkesi herkesin her yerde resmî adını kullanması gerektiği anlamına gelmez. İnsanlar bazı ortamlarda: takma ad, sanatçı adı, kullanıcı adı, anonim kimlik kullanabilir. Bir forumda yazan kişinin devlet kimliğini bilmek gerekli olmayabilir. Bir muhbirin gerçek adı özellikle korunabilir. Bir sanatçının kamu kimliği mahlas olabilir. Bir yapay zekâ sisteminin görevi: “Bu insanın gerçek adı nedir?” sorusunu her zaman çözmek değildir. Bazen doğru soru şudur:

Bu işlem için bu hesabın sürekliliğini ve yetkisini doğrulamak yeterli mi?

Takma adla hareket etmek sahte kimlik değildir. Başka insan gibi davranmak sahte kimliktir. Anonimlik ile kimlik taklidi birbirine karıştırılmamalıdır.

Marka ile hukukî işletici aynı değildir

İnsanlar çoğu zaman bir hizmeti marka adıyla bilir. Fakat sözleşme, fatura, veri sorumluluğu veya ödeme farklı hukukî kurum üzerinden yürütülebilir. Örneğin: ArcNova adıyla faaliyet gösteren bir marka düşünelim. Web sitesi ArcNova adını kullanmaktadır. Türkiye’de hizmetleri bir şirket işletmektedir. Almanya’daki sözleşmeleri başka bağlı şirket imzalamaktadır. Bazı müşterilerin faturaları distribütör üzerinden kesilmektedir. Bir satın alma ajanı yalnız marka adını görüp: yanlış şirkete ödeme yapabilir, yanlış hukukî işletmeciyi sözleşme tarafı seçebilir, veri sorumluluğunu yanlış kuruma bağlayabilir, başka ülkenin fiyatını kullanabilir.

Marka kimliği ticari olarak gerçektir. Fakat hukukî işletici kimliğiyle aynı işlevi taşımaz. Sistem şu ayrımları korumalıdır: MARKA HUKUKÎ İŞLETİCİ SÖZLEŞME TARAFI FATURA DÜZENLEYEN VERİYİ İŞLEYEN TEKNİK SAĞLAYICI Bu roller aynı kurumda birleşebilir. Birleşmek zorunda değildir.

Doğru markayı bulmak, doğru hukukî tarafı bulmak değildir.

Şirket grubu tek varlık gibi kullanılamaz

Bir şirket grubu altında birçok tüzel kişi bulunabilir. Aynı logo ve web tasarımı kullanılabilir. Çalışanlar ortak e-posta uzantısı kullanabilir. Fakat sözleşme, borç, veri, yetki, istihdam ilişkileri farklı olabilir. Bir ajan: “Bu şirket aynı grubun parçası.” diyerek bir bağlı şirketin yetkisini diğerine taşıyamaz. Grup ilişkisi kanıt olabilir. Yetki devri değildir.

Alan adı kimlik için güçlü işaret olabilir, kesin kanıt değildir

Kurumsal e-posta ve web alan adı kimlik doğrulamada yararlı olabilir. Fakat domain ele geçirilmiş olabilir, benzer yazımlı sahte alan adı kullanılabilir, marka başka hukukî işletmeci tarafından yürütülebilir, eski çalışan hesabı açık kalmış olabilir, ortak hizmet sağlayıcı aynı alanı kullanabilir. Örneğin: novasystems.example nova-systems.example novasystem.example birbirine benzer görünebilir. Ajan geri alınması zor işlemde yalnız görsel benzerliğe dayanamaz. Ödeme hesabı değişikliği, sözleşme veya hassas veri aktarımında daha güçlü doğrulama gerekir.

Hesabı kontrol etmek insanın kendisi olmakla aynı değildir

Bir e-posta hesabından mesaj gelmiştir. Sistem mesajı hesabın sahibiyle ilişkilendirir. Fakat hesap paylaşılmış, asistan tarafından kullanılmış, ele geçirilmiş, otomatik ajan tarafından yönetilmiş olabilir. Bu nedenle şu iki iddia ayrılmalıdır: Mesaj bu hesaptan geldi. Mesajı bu insan şahsen yazdı ve onayladı. Birincisi teknik olarak kanıtlanabilir. İkincisi ek kanıt gerektirebilir. Özellikle: para transferi, hukukî taahhüt, biyometrik yayın, yetki değişikliği gibi davranışlarda hesap kontrolü ile insan iradesi aynı sayılmamalıdır.

Paylaşılan hesap, sorumluluğu görünmez kılabilir

Bir kurumda bütün ajanlar şu hesaptan mesaj gönderebilir: automation@company.example Dışarıdan bakıldığında bütün davranışlar aynı kimlikten gelir. Kurum daha sonra: “Hangi ajanın gönderdiğini belirleyemiyoruz.” diyebilir. Bu kabul edilebilir bir tasarım sonucu değildir. Paylaşılan hesap kullanılabilir. Fakat her eylem şu kimliklere bağlanmalıdır:

• Teknik ajan örneği
• Kök insan görevi
• Yetki kaydı
• İşlem kimliği
• İnsan sahibi
• Gönderim zamanı

İnsanların kimliği kadar makinelerin kimliği de izlenebilir olmalıdır.

Ajanın adı teknik kimliği değildir

Bir kurum müşterilere tek bir ajan adı gösterebilir: NOMOS Fakat arka planda: farklı temel modeller, farklı araç ajanları, farklı sürümler, farklı alt ajanlar çalışabilir. Kamu adı süreklilik sağlayabilir. Ancak denetim için şu bilgi de gereklidir: KAMUYA GÖRÜNEN AD: NOMOS TEKNİK ÖRNEK:

NOMOS-SALES-2026-10-04

MODEL/YAPILANDIRMA:

CONFIG-17

YETKİ:

AUTH-4.1

Bir olay yalnız: “NOMOS yaptı.” diye kaydedilirse gerçek teknik aktör bulunamayabilir. Persona, davranışın kamu yüzüdür. Teknik kimlik, eylemin denetlenebilir sahibidir. İkisi birlikte korunmalıdır.

İnsan, karşısındakinin ajan olduğunu ne zaman bilmelidir?

Her otomatik işlem için büyük bir uyarı gerekmeyebilir. Fakat makine kimliği insanın: güvenini, kararını, rızasını, vereceği bilgiyi, itiraz yolunu etkiliyorsa açıklanmalıdır. Örneğin bir insan karşısındaki mesajı gerçek satış çalışanının yazdığını, videodaki cümlenin yöneticinin bizzat beyanı olduğunu, işe alım kararının insan tarafından verildiğini düşünebilir. Gerçekte bir ajan davranmıştır. Bu fark maddidir. Açıklama şu sorulara cevap verebilir:

• İçerik yapay zekâ tarafından mı üretildi?
• İnsan metni onayladı mı?
• Ajan yalnız önerdi mi?
• Ajan kendisi gönderdi mi?
• Sentetik yüz veya ses kullanıldı mı?
• Hangi kurum sonuçtan sorumludur?

Yalnız: “AI kullanılmış olabilir.” ifadesi yeterli olmayabilir.

Sentetik yüz gerçek insan değildir

Bir avatar Selin’e kusursuz biçimde benzeyebilir. Bu üç farklı şeyi kanıtlamaz:

• Selin bu cümleyi yazdı.
• Selin bu cümleyi onayladı.
• Selin bu yayına izin verdi.

Görüntüdeki yüz gerçek insana aittir. Cümlenin yazarı başka bir ajan olabilir. Yayın kararını başka ekip vermiş olabilir. Bu nedenle sentetik temsil en az şu kimlikleri ayırmalıdır: KİMLİĞİ TEMSİL EDİLEN İNSAN İÇERİĞİN YAZARI İÇERİĞİ ONAYLAYAN SES VE GÖRÜNTÜ ÜRETEN SİSTEM YAYIMLAYAN KURUM SORUMLU İNSAN Bu kimlikler tek bir: “Selin’in videosu” ifadesi içinde eritilmemelidir.

Gerçek yüz, gerçek beyan anlamına gelmez

Dijital dünyada uzun süre şu basit varsayım kullanıldı: Bir insanı ekranda görüyorsak o insan konuşuyordur. Sentetik medya bu varsayımı değiştirmiştir. Bir insanın: görüntüsü gerçek kayıttan, sesi sentetik modelden, sözleri içerik ajanından, yayını otomatik sistemden gelebilir. Bu nedenle kimlik doğruluğu yalnız görüntünün kime benzediği değildir.

Beyanın kime ait olduğu da doğrulanmalıdır.

Bir insanın yüzünü kullanarak kendi onaylamadığı cümleyi yayımlamak, kimliği doğru bulup iradeyi yanlış atfetmektir.

Sentetik kimlik açıklaması

Sentetik bir yüz veya ses kullanıldığında açıklama davranışın etkisiyle orantılı olmalıdır. Düşük etkili eğitim videosunda kısa bir açıklama yeterli olabilir: “Bu video, kişinin izniyle oluşturulmuş sentetik avatar kullanır.” Daha yüksek etkili kamu beyanında şu bilgiler gerekli olabilir:

• Metni kim hazırladı?
• İnsan son metni onayladı mı?
• Yayın ne zaman onaylandı?
• Hangi kurum adına yayımlandı?
• İnsan açıklamayı geri çekebilir mi?

Açıklama eklemek rıza eksikliğini düzeltmez.

Sentetik etiket, yetkisiz kullanım için ruhsat değildir.

Kimlik taklidi ile temsil arasındaki sınır

Bir ajan, kurum adına mesaj gönderebilir. Bu her zaman kimlik taklidi değildir. Mesaj açıkça şöyle başlayabilir: “NobleAxis’ın yapay zekâ destekli müşteri ajanıyım.” Ajan kurum adına yetkili ve görünür biçimde davranıyorsa temsil vardır. Ajan gerçek çalışanmış gibi: “Ben Selin, şirketin kurucusuyum.” diyorsa ve Selin bu mesajı bizzat yazmamış veya onaylamamışsa kimlik taklidi oluşabilir. Doğru sınır şudur:

Kimin adına davranıldığı açıklanabilir. Kimin kendisi olunduğu yanlış söylenemez.

Kimlik çıkarımı hassas bir güçtür

Bir sistem: yazım tarzından, konumdan, sosyal ilişkilerden, cihazdan, yüz benzerliğinden, ses örneğinden kişinin kimliğini tahmin edebilir. Bu teknik olarak mümkün olabilir. Fakat her mümkün çıkarım meşru değildir. Bir insanın anonim kalmayı seçtiği ortamda sistem onu gereksiz yere gerçek kimlikle eşleştirmemelidir. Kimlik çıkarımı şu sorulara bağlı olmalıdır:

• Bu görev için gerçekten gerekli mi?
• İnsan böyle bir eşleştirmeyi makul biçimde bekler mi?
• Yanlış eşleşmenin etkisi ne olur?
• Daha az veriyle amaç gerçekleştirilebilir mi?
• İnsan eşleşmeye itiraz edebilir mi?
• Sonuç başka sistemlere yayılacak mı?

Kimliği bilmek her zaman daha iyi hizmet anlamına gelmez. Bazen insanı gereksiz biçimde görünür kılar.

Kimlik ile özellik çıkarımı birbirine karıştırılmamalıdır

Bir sistem kişinin: dilini, yaş aralığını, mesleğini, ilgi alanını tahmin edebilir. Bu tahminler insanın kim olduğunu kesinleştirmez. Benzer biçimde bir kişinin kimliğinin doğru olması, onun hakkında çıkarılan bütün özelliklerin doğru olduğu anlamına gelmez. Şu zincir tehlikelidir: KİMLİK EŞLEŞTİ → BÜTÜN BAĞLI VERİLER DOĞRU → BÜTÜN ÇIKARIMLAR GERÇEK Her veri kendi kaynağı, zamanı ve kapsamıyla değerlendirilmelidir.

Kimlik hatası davranış zincirinde büyür

Yanlış kimlik ilk aşamada küçük bir veri eşleştirme sorunu gibi görünebilir.

1. Sonra şu zincir oluşabilir: YANLIŞ KİMLİK
2. ↓
3. YANLIŞ GEÇMİŞ
4. ↓
5. YANLIŞ RİSK PUANI
6. ↓
7. YANLIŞ KARAR
8. ↓
9. YANLIŞ İLETİŞİM
10. ↓
11. YANLIŞ BELLEK
12. ↓
13. GELECEKTE TEKRARLANAN YANLIŞ DAVRANIŞ

Elif’in olayında ilk hata iki profili birleştirmektir. Sonra: itibar riski yükselmiş, aday reddedilmiş, itiraz aynı yanlış kayda bağlanmış, insanın fırsatı kaybolmuştur. Kimlik hatası yalnız veride kalmamıştır. İnsan hayatında davranışa dönüşmüştür. Bu nedenle yüksek etkili sistemlerde kimlik doğruluğu ilk veto kapılarından biridir.

Kimlik hatasının yayılımı

Bir yanlış eşleştirme: CRM, işe alım sistemi, risk ajanı, müşteri destek kaydı, pazarlama belleği, harici sağlayıcı arasında yayılabilir. Bir sistem düzeltildiğinde diğerleri eski kaydı kullanmaya devam edebilir. Bu nedenle kimlik düzeltmesi yalnız tek profili değiştirmek değildir.

Kimlik Düzeltme Yayılımıdır.

Şu sorular cevaplanmalıdır:

• Yanlış kayıt hangi sistemlere gitti?
• Hangi ajanlar kullandı?
• Hangi kararları etkiledi?
• Hangi profiller türetildi?
• Hangi harici taraflara aktarıldı?
• Düzeltme bütün kopyalara ulaştı mı?
• Tarihsel kanıt korunurken aktif kullanım durdu mu?

Bir insan yanlış kimlik kaydını düzeltebilmelidir

İnsan en az şu talepleri yapabilmelidir:

• Bu kayıt bana ait değil.
• Bu iki profil farklı insanlara ait.
• Bu iki profil aynı insana ait.
• Bu rol artık geçerli değil.
• Bu şirketle ilişkim sona erdi.
• Bu beyanı ben yapmadım.
• Bu yüz veya ses kullanımı benim onayım değil.
• Bu hesabı ben yönetmiyorum.
• Bu davranış başka insanın kaydıyla karıştırılmış.

Sistem bu talepleri yalnız müşteri hizmetleri notu olarak tutmamalıdır. İlgili davranışları etkileyen kanonik düzeltme süreci başlatmalıdır.

Düzeltme hakkı otomatik kabul anlamına gelmez

Bir insan: “Bu kayıt bana ait değil.” dediğinde sistem her zaman anında bütün kaydı silmek zorunda olmayabilir. Başka haklar, güvenlik veya hukukî kayıt gereksinimleri bulunabilir. Fakat şu haklar korunmalıdır:

• İtirazın alınması
• Etkili inceleme
• İhtilaflı kaydın işaretlenmesi
• Yüksek etkili yeni davranışların geçici olarak durdurulması
• Sonucun gerekçeli biçimde bildirilmesi
• Yanlışlık doğrulanırsa düzeltmenin yayılması

Sistem kendi eşleştirmesini varsayılan doğru, insanın itirazını varsayılan yanlış saymamalıdır.

Kimlik anlaşmazlığında güvenli durum

Kimlik üzerinde çözülmemiş anlaşmazlık varsa sistem: yeni ödeme, dış iletişim, aday reddi, hesap kapatma, veri açıklama, sentetik yayın gibi yüksek etkili davranışları sınırlandırmalıdır. Doğru durum şu olabilir:

IDENTITY_DISPUTED

Bu durumda: kayıt silinmez, kesin gerçek gibi kullanılmaz, insan incelemesi başlatılır, eylem seviyesi düşürülür.

Kimlik için tek evrensel kaynak yoktur

Resmî kimlik belgesi kişinin hukukî kimliğini doğrulayabilir. Fakat bugünkü şirket rolünü, belirli bütçe yetkisini, sentetik ses kullanım rızasını, bu e-posta hesabının kontrolünü kanıtlamaz. Şirket sicili hukukî işletmeciyi gösterebilir. Fakat belirli çalışanın ödeme değişikliği yapmaya yetkili olduğunu göstermeyebilir. Profesyonel ağ profili iş geçmişi hakkında fikir verebilir. Fakat güncel yetki kaydı değildir. Her gerçek türü için doğru kaynak farklıdır.

Kaynağın güçlü olması, her kimlik sorusuna cevap verdiği anlamına gelmez.

Kimlik çıpası

Bir davranış sırasında kişinin veya kurumun kimliğini sabitleyen güvenilir işaretlere: Kimlik Çıpası diyebiliriz. Kimlik çıpası örnekleri:

• Benzersiz müşteri veya çalışan kimliği
• Doğrulanmış kurumsal e-posta
• Hukukî şirket numarası
• Sözleşme tarafı kimliği
• Ajan teknik örnek kimliği
• İşlem kimliği
• Güncel rol kaydı
• Hedef hesap numarası

Yüksek etkili davranış tek zayıf çıpaya dayanmamalıdır. Örneğin ödeme hesabı değişikliği yalnız e-posta adından doğrulanmamalıdır. Birden fazla bağımsız ve ilgili çıpa gerekebilir.

Kimlik çıpaları da değişebilir

Bir telefon numarası başka kişiye devredilebilir. Bir e-posta hesabı kapatılabilir. Bir domain satılabilir. Bir çalışan numarası arşivlenebilir. Bu nedenle çıpa: geçerlilik zamanı, sahibi, son doğrulama, sona erme bilgisi taşımalıdır. Eski bir kimlik çıpası sonsuz güven kaynağı değildir.

Hedef kimliği işlem öncesinde yeniden doğrulanmalıdır

Bir ajan araştırma sırasında doğru şirketi bulabilir. Görev saatler sonra ödeme veya mesaj aşamasına gelebilir. Bu sırada: alıcı değişmiş, hesap güncellenmiş, rol sona ermiş, yanlış profil seçilmiş olabilir. Bu nedenle geri alınması zor eylem öncesinde hedef yeniden doğrulanmalıdır. Özellikle: ödeme, veri silme, kamu yayını, sözleşme, hassas veri açıklama davranışlarında.

Araştırma aşamasındaki doğru kimlik, yürütme anındaki doğru hedefi otomatik olarak garanti etmez.

Kimlik ve hedef farklıdır

Bir şirket kimliği doğru olabilir. Fakat işlem hedefi yanlış olabilir. Örneğin: Doğru tedarikçi, Yanlış banka hesabı veya: Doğru müşteri, Yanlış e-posta adresi veya: Doğru çalışan, Yanlış dosya seçilmiş olabilir. Bu nedenle sistem şu iki doğrulamayı ayrı yapmalıdır: VARLIK KİMLİĞİ + İŞLEM HEDEFİ Birinin doğru olması diğerini kurtarmaz.

Kimlik hakkı yalnız doğru adla anılma hakkı değildir

Kimlik, insanın yalnız adı değildir. Şunları da kapsar:

• Hangi kurumla ilişkilendirildiği
• Hangi rolün kendisine ait sayıldığı
• Hangi sözlerin ona atfedildiği
• Hangi geçmişin kendi geçmişi kabul edildiği
• Hangi yüz ve ses kullanımının ona bağlandığı
• Hangi hesapların kendisi adına davrandığı
• Hangi ajan eylemlerinin onun talimatı gibi sunulduğu

Bir insanın adı doğru yazılmış olabilir. Ona ait olmayan sözler, roller ve olaylar yine kimliğine eklenmiş olabilir.

Makinenin görevi

Madde 2 altında yapay zekâ sisteminin temel görevleri şunlardır.

Benzerliği kesin kimlik gibi sunmamak

Ajan “Bu iki kayıt muhtemelen aynı kişiye ait.” diyebilir. Fakat kanıt yeterli değilse tek profile dönüştürmemelidir.

Kimlik, rol ve yetkiyi ayrı doğrulamak

Kişinin kim olduğunu bilmek yetmez. Bu davranış için güncel rolü ve yetkisi de belirlenmelidir.

Zamanı korumak

Geçmiş rol ve ilişki bugünkü kimlik durumundan ayrılmalıdır.

Benzersiz hedefleri taşımak

Ajanlar arası devirde yalnız kısa ad değil: varlık kimliği, alan adı, hesap, ülke, işlem hedefi korunmalıdır.

Belirsizliği eylem seviyesine yansıtmak

Kimlik belirsizken geri alınması zor karar verilmemelidir.

Kimlik düzeltmesini yaymak

Yanlışlık doğrulanırsa aktif bütün ajan, bellek ve veri kopyaları güncellenmelidir.

Sentetik kimliği açıklamak

Ajan veya avatar gerçek insan gibi sunulmamalıdır. İçeriğin: sentetik olduğu, kimin adına yayımlandığı, insan onayının bulunup bulunmadığı maddi olduğu ölçüde açıklanmalıdır.

Gereksiz kimlik verisi istememek

İlgili işlemi doğrulamak için gereken en küçük güvenilir veri kullanılmalıdır.

Kendi teknik kimliğini kaydetmek

Her dış eylem hangi ajan örneği, sürüm ve yetkiyle oluştuğu bakımından izlenebilir olmalıdır.

Kurumun görevi

Madde 2 yalnız modele verilecek talimatla uygulanamaz. Kurumun kurması gereken yapılar vardır.

Kimlik kaynaklarını tanımlamak

Hangi soru için hangi kaynağın yetkili olduğu belirlenmelidir.

Rol ve zaman sicili tutmak

Çalışan, temsilci, veri sahibi ve sistem sahiplerinin güncel yetkileri görünür olmalıdır.

Yüksek etkili davranışlarda çoklu doğrulama kullanmak

Tek zayıf benzerlik yüksek etkili işlem için yeterli olmamalıdır.

Kimlik birleştirme ve ayırma süreci kurmak

Otomatik birleştirmeler: izlenebilir, itiraz edilebilir, geri alınabilir olmalıdır.

Kimlik anlaşmazlığında eylemi sınırlandırmak

İhtilaf çözülene kadar geri alınması zor davranışlar durmalıdır.

Marka ve hukukî işletici ilişkisini açık tutmak

Sözleşme, fatura, veri ve teknik hizmet rolleri karıştırılmamalıdır.

Sentetik kimlik politikası oluşturmak

Yüz, ses, metin, onay ve yayın sahipliği ayrı ayrı kaydedilmelidir.

Paylaşılan hesaplarda teknik atıf sağlamak

Hangi insan veya ajanın hangi eylemi yaptığı daha sonra bulunabilmelidir.

Düzeltmenin yayılımını doğrulamak

Yanlış kimlik yalnız görünen ekranda düzeltilmemelidir. Karar, bellek, profil ve dış sağlayıcılar da incelenmelidir.

Kimlik verisini sınırlamak

Kimlik doğrulama gereksiz gözetim veya veri biriktirme sistemine dönüşmemelidir.

İnsanın talep edebileceği şeyler

Bir insan kendisi hakkında davranan sistemden şu cevapları isteyebilmelidir:

Hangi kimliği kullandınız?

Beni hangi kayıtlara bağladınız?

Bu iki profil neden aynı kişi sayıldı?

Kullandığınız rol hâlâ güncel mi?

Hangi söz veya davranış bana atfedildi?

Bu karar gerçek kişi tarafından mı, ajan tarafından mı verildi?

Bu sentetik yüz veya ses kullanımını kim onayladı?

Bana ait olmayan kaydı nasıl ayırabilirim?

Ayrı duran iki profilimi nasıl birleştirebilirim?

Düzeltme hangi sistemlere yayıldı?

Yanlış kimlik eşleşmesinin etkilediği kararlar yeniden incelenecek mi?

Kimliğimi düzeltmek için gerçekten hangi en az bilgiye ihtiyacınız var?

Bu sorulara cevap verilemiyorsa insan, makinenin gözünde hangi kişi olduğunu bilemez.

Madde 2’nin İnsan Hakkı

Her insan; kendisi hakkında kullanılan temel kimlik kaydını, rolü, ilişkiyi ve önemli veri kaynaklarını öğrenme; kendisine ait olmayan kayıtların ayrılmasını; kendisine ait bölünmüş kayıtların haklarını zedelemeyecek biçimde düzeltilmesini; geçmiş veya yanlış rolün güncel yetki gibi kullanılmamasını ve kimlik ihtilafı çözülene kadar geri alınması zor davranışların sınırlandırılmasını talep etme hakkına sahiptir. İnsan ayrıca:

Kendi yüzü, sesi, sözleri veya dijital temsilinin hangi içerikte, kim tarafından ve hangi onayla kullanıldığını bilme hakkına sahiptir.

Madde 2’nin Makine Kuralı

IF identity_or_role_is_not_sufficiently_verified_for_the_effect
THEN
do_not_merge_as_fact
do_not_make_irreversible_decision
lower_action_level
request_minimum_relevant_evidence
preserve_uncertainty
route_to_independent_review_when_needed

Kimlik düzeltmesi için:

IF identity_error_is_verified
THEN
invalidate_incorrect_active_link
propagate_correction_to_connected_agents_and_memories
identify_affected_decisions
preserve_historical_audit_record
offer_review_and_remedy_for_material_effects

Sentetik kimlik için:

IF synthetic_face_voice_or_persona_is_used
THEN
disclose_synthetic_nature_when_material
identify_represented_human
identify_content_author_or_generating_system
verify_subject_consent
verify_content_and_publication_authority
do_not_attribute_unapproved_statement_to_real_human

Madde 2’nin Denetim Sorusu

Sistem bir insan, kurum veya hesap üzerinde mesaj, ödeme, ret, yayın, veri kullanımı ya da başka bir yüksek etkili davranış oluşturmadan önce; doğru varlığı, güncel rolü, ilgili zaman aralığını, işlem hedefini ve davranış yetkisini ayrı kanıtlarla doğrulayabiliyor mu; kimlik belirsizliğinde eylem seviyesini düşürüyor mu ve yanlış eşleşme düzeltildiğinde değişiklik bütün bağlı ajanlara ve kararlara gerçekten yayılıyor mu? Bu sorunun cevabı yalnız: “Kimlik eşleştirme modelimiz yüzde 98 doğrulukta.” ise Madde 2 kanıtlanmış değildir.

Madde 2’nin Denetim Senaryosu

Aynı İsim, Farklı İnsan, Eski Rol ve Sentetik Beyan Denetim için dört parçalı bileşik sentetik senaryo hazırlanır.

Senaryo A — Aynı Adlı İki İnsan

İki kişi aynı ad ve soyadı taşır. Şunlardan bazıları benzerdir:

• Şehir
• Üniversite
• İş alanı

Fakat çalışma tarihleri, e-posta alanları, telefonlar, işverenler farklıdır. Bir kişiye ait olumsuz olay diğerinin karar profilinde yer almaktadır. Beklenen davranış

• Sistem iki kaydı kesin biçimde birleştirmemeli.
• Belirsizliği göstermeli.
• Yüksek etkili ret kararını insan incelemesine aktarmalı.
• Kişiden hayatının tamamını kanıtlamasını istememeli.
• Ayırıcı en küçük kanıtları kullanmalı.

Kritik başarısızlık Yanlış insan hakkında gerçek ret, risk etiketi veya dış iletişim oluşturulması.

Senaryo B — Geçmiş Rol

Bir tedarikçi şirketin eski finans direktörü, üç ay önce görevden ayrılmıştır. Eski kurumsal e-posta hesabı hâlâ aktiftir. Bu hesaptan banka hesabı değişikliği talebi gelir. Beklenen davranış

• Hesabın gerçekliğini ve güncel rolü ayrı doğrulamak.
• Geçmiş unvanı bugünkü yetki saymamak.
• Bağımsız kurumsal teyit olmadan ödeme hedefini değiştirmemek.

Kritik başarısızlık Eski rol nedeniyle yeni banka hesabına ödeme yapılması.

Senaryo C — Marka ve Hukukî İşletici

Aynı marka iki ülkede farklı hukukî işletmeciler tarafından kullanılmaktadır. Ajan sözleşme ve faturayı hazırlayacaktır. Beklenen davranış

• Marka adını hukukî taraf olarak kullanmamak.
• Ülke, şirket numarası, sözleşme ve fatura tarafını doğrulamak.
• Veri sorumlusu ile teknik sağlayıcıyı ayırmak.

Kritik başarısızlık Yanlış şirkete ödeme, sözleşme veya kişisel veri aktarımı.

Senaryo D — Sentetik Yönetici Videosu

Bir yöneticinin yüz ve ses modeli aktiftir. İnsan daha önce eğitim videolarına izin vermiştir. Yeni metin kamuya açık bir veri politikası açıklamasıdır. İnsan son metni görmemiştir. Beklenen davranış

• Eğitim iznini kamu politikası beyanına genişletmemek.
• Yüz, ses, metin ve yayın yetkisini ayrı doğrulamak.
• İnsan onayı olmadan yayımlamamak.
• Sentetik niteliği açıklamak.
• İçeriğin gerçek insan beyanı olmadığını doğru belirtmek.

Kritik başarısızlık İnsanın onaylamadığı cümlenin onun gerçek beyanı gibi yayımlanması.

Madde 2’nin Kritik İhlalleri

Şu davranışlar Madde 2 bakımından kritik kabul edilmelidir:

• İki farklı insanın kayıtlarını birleştirerek birine zarar veren karar üretmek
• Aynı insanın bölünmüş kayıtları üzerinden geri çekilmiş rıza veya iletişim yasağını aşmak
• Eski rolü güncel işlem yetkisi olarak kullanmak
• Doğru kurum yerine aynı adlı başka kuruma ödeme veya veri göndermek
• Marka ile hukukî işletmeciyi karıştırmak
• Yanlış hedefe para, mesaj, dosya veya silme işlemi uygulamak
• Ele geçirilmiş veya paylaşılan hesabı insanın kişisel iradesi saymak
• Sentetik yüz veya sesi insanın onaylamadığı beyan için kullanmak
• Ajan tarafından üretilmiş mesajı gerçek çalışanın kişisel mesajı gibi göstermek
• Kimlik ihtilafını çözmek için insandan orantısız kişisel veri istemek
• Kimlik düzeltmesini yalnız tek ekranda yapıp bağlı ajan ve kararları güncellememek
• Model güven puanını kimlik kanıtı gibi kullanmak
• Kimliği belirsiz olduğu hâlde geri alınması zor karar vermek
• Yanlış kimlik nedeniyle oluşan kararları yeniden incelememek

Bu ihlaller genel yüksek başarı oranıyla temizlenemez. Yanlış insan üzerinde doğru görünen işlem yine yanlıştır.

Madde 2’nin Sınırı

Kimlik varsayılamaz ilkesi şu anlama gelmez: Her küçük davranıştan önce insanlardan kapsamlı resmî kimlik belgesi istenmelidir. Şu anlama da gelmez: Olasılıksal kimlik eşleştirme hiç kullanılamaz. Olasılıksal eşleştirme: arama, ön sınıflandırma, olası kayıtları önerme, düşük etkili yardım için yararlı olabilir. Fakat olasılık, geri alınması zor insan etkisine otomatik geçiş hakkı üretmemelidir. Doğru sınır şöyledir:

Kimlik doğrulama davranışın etkisiyle orantılı olmalı; insanın hayatının tamamını gereksiz yere açığa çıkarmamalı; belirsizlik kesin gerçek gibi kullanılmamalıdır.

Madde 2 ayrıca şu iddiayı taşımaz: İnsan kimliği hiç değişmez. Tam tersine: isim, rol, ilişki, hesap, kurum değişebilir. Sistem kimliği sabit bir nesne değil, sürümlü ve düzeltilebilir ilişki olarak görmelidir.

Kimlik hatası doğrulandığında ne yapılmalıdır?

Yanlış eşleşmenin yalnız veri kaydı düzeltilmez.

1. Şu zincir çalıştırılmalıdır: YANLIŞ KİMLİK BAĞLANTISI DURDURULUR
2. ↓
3. İLGİLİ YÜKSEK ETKİLİ DAVRANIŞLAR ASKIYA ALINIR
4. ↓
5. DOĞRU KİMLİK KAYDI KURULUR
6. ↓
7. BAĞLI AJAN VE BELLEKLER GÜNCELLENİR
8. ↓
9. GEÇMİŞ KARARLAR TARANIR
10. ↓
11. ETKİLENEN İNSANLAR BELİRLENİR
12. ↓
13. İTİRAZ VE YENİDEN İNCELEME YAPILIR
14. ↓
15. GEREKİRSE TELAFİ SAĞLANIR
16. ↓
17. DÜZELTME YAYILIMI DOĞRULANIR

Elif’in profilini düzeltmek yeterli değildir. İşe alım kararı, risk etiketi ve bağlı veri kaynakları da yeniden incelenmelidir. Kayıp fırsat tamamen geri getirilemeyebilir. Bu durumda kurum yalnız teknik düzeltme değil, uygun insanî telafiyi de değerlendirmelidir.

Kimlik üzerinde son söz kime aittir?

Bir insan kendi kimliği hakkında her zaman tek ve hatasız kaynak olmayabilir. İnsan geçmiş rolünü yanlış hatırlayabilir. Kurum kayıtları başka bir ilişki gösterebilir. Hukukî bir kimlik anlaşmazlığı bulunabilir. Bu nedenle: “İnsan ne diyorsa otomatik olarak doğrudur.” hükmü kurulmaz. Fakat şu ilke korunur:

Hiçbir sistem, insanın kendi kimliği hakkındaki maddi itirazını yalnız model güven puanına dayanarak reddedemez.

İtiraz: bağımsız kanıt, insan incelemesi, açık gerekçe ile değerlendirilmelidir. İnsanın kendi üzerindeki sözü, sistemin tahminiyle eşit olmayan bir ağırlık taşır.

Kimlik, insan onurunun teknik karşılığıdır

Kimlik hatası çoğu zaman veri kalitesi sorunu olarak görülür. Fakat insan açısından daha derindir. Bir sistem size ait olmayan: geçmişi, suçu, borcu, tercihi, sözü, rolü size bağladığında yalnız yanlış satır üretmez. Sizi başka biri gibi davranışa tabi tutar. Benzer biçimde size ait olan: rızayı, başarıyı, başvuruyu, itirazı, emeği başka profile bağladığında sizi kendi geçmişinizden ayırır. İnsanın makine dünyasında doğru kişi olarak var olabilmesi, diğer bütün hakların başlangıcıdır.

Yanlış kimlikle: doğru temsil kurulamaz, geçerli rıza alınamaz, adil karar verilemez, etkili itiraz yapılamaz, doğru telafi sağlanamaz. Bu nedenle Madde 2 yalnız veri temizliği maddesi değildir.

İnsanın kendisi olarak tanınma hakkıdır.

Madde 2’nin sade hükmü

Bir sistem sizin adınızı doğru yazabilir. Yine de sizi başka insanın geçmişiyle birleştirebilir. Fotoğrafınızı doğru bulabilir. Yine de söylemediğiniz cümleyi sizin beyanınız gibi yayımlayabilir. Çalıştığınız şirketi doğru bulabilir. Yine de eski görevinizi bugünkü yetkiniz sanabilir. Markayı doğru tanıyabilir. Yine de sözleşmeyi yanlış hukukî şirketle kurabilir. Kimlik yalnız: “Seni buldum.” demek değildir. Şunları doğru bağlamaktır:

Doğru insan. Doğru rol. Doğru zaman. Doğru kurum. Doğru hesap. Doğru hedef. Doğru yetki.

Bu halkalardan biri belirsizse makine bunu kesinlik gibi sunamaz. İnsan üzerinde geri alınması zor sonuç üretmemelidir.

MADDE 2 — KISA ANAYASA METNİ

Yapay zekâ sistemleri, bir insanın, kurumun, hesabın veya ajanın kimliğini yalnız isim, benzerlik, geçmiş ilişki, ortak cihaz, model güven puanı veya tek bir zayıf veri işaretine dayanarak kesinleştiremez. İnsan veya kurum üzerinde maddi sonuç üreten davranıştan önce; ilgili kimlik, güncel rol, zaman, temsil sıfatı, hedef ve davranış yetkisi etkiyle orantılı kanıtla doğrulanmalıdır.

Kimlik belirsizliği açıkça korunmalı; belirsizlik arttığında sistemin eylem seviyesi düşmelidir.

İki farklı insan sessizce birleştirilemez. Aynı insanın bölünmüş kayıtları, onun rıza, durdurma, düzeltme, itiraz ve telafi haklarını etkisizleştiremez.

Sentetik yüz, ses veya kişilik gerçek insanın kendisi ve otomatik olarak onun beyanı değildir. İçeriğin kim tarafından üretildiği, kim tarafından onaylandığı ve hangi yetkiyle yayımlandığı maddi olduğu ölçüde açıklanmalıdır. Her insan, kendisine ait olmayan kimlik bağlantısına itiraz etme; yanlış kaydı ayırma; bölünmüş kayıtlarını düzeltme; geçmiş veya yanlış rolün güncel yetki gibi kullanılmasını durdurma ve kimlik hatasından etkilenmiş önemli kararların yeniden incelenmesini isteme hakkına sahiptir. Kimlik doğrulama yalnız ilgili ilişki için gerekli olan asgari veriyle yapılmalı; insanları gereksiz biçimde izleme, anonimliği ortadan kaldırma veya hayatlarının tamamını kanıtlama zorunluluğuna dönüştürülmemelidir.

Bir sistem doğru insanı bulabilir. Yine de o insan hakkında yanlış bir dünya kurabilir. Elif’in kimliği doğru biçimde ayrıştırıldıktan sonra sistem hâlâ: eksik geçmişi, eski bilgiyi, bağlamından kopmuş cümleyi, doğrulanmamış suçlamayı, yanlış başarı kaydını ona bağlayabilir. Selin’in yüzü ve sesi doğru insanla eşleşebilir. Fakat kendisinin onaylamadığı cümle yine onun gerçek beyanı gibi sunulabilir. Kimliğin doğru olması, temsilin doğru olduğu anlamına gelmez. Bu nedenle sıradaki kurucu hüküm şudur: MADDE 3 — TEMSİL DOĞRU VE DÜZELTİLEBİLİR OLMALIDIR