İnternet Artık Sadece Konuşmuyor

İnternet uzun yıllar boyunca bize bilgi verdi. Bir restoran aradığımızda adresini gösterdi. Bir şirket hakkında araştırma yaptığımızda web sitesini buldu. Bir ürün almak istediğimizde farklı seçenekleri önümüze koydu. Kararı veren, formu dolduran, ödemeyi yapan ve sonuçların sorumluluğunu üstlenen yine insandı. Sonra üretken yapay zekâ geldi. Artık yalnızca bağlantıları göstermeyen, bağlantıların içindeki bilgiyi okuyup bize cevap veren sistemlerle karşılaştık. Bir şirketin ne yaptığını birkaç cümlede özetleyebiliyor, ürünleri karşılaştırabiliyor, karmaşık belgeleri açıklayabiliyor ve hangi kaynağın daha güvenilir göründüğüne ilişkin değerlendirme yapabiliyorlardı.

Bu değişim, yeni bir soruyu ortaya çıkardı: Bir yapay zekâ sistemi bizi nasıl görüyor ve nasıl temsil ediyor?

Bu kitapta GEO’yu bu sorudan hareketle ele alıyoruz. Bir marka internette bulunabilir olmasına rağmen yapay zekâ tarafından yanlış tanımlanabilir. Bir şirketin gerçek uzmanlığı görünmez kalabilir. Yıllarca üretilen bilgi, daha yüzeysel kaynakların arkasında kaybolabilir. Makine bir varlığı eksik, eski veya çelişkili bilgilerle temsil edebilir.

Araçlara erişebilen yapay zekâ sistemleri yalnızca cevap vermekle sınırlı kalmıyor. Randevu oluşturabiliyor, teklif isteyebiliyor, form doldurabiliyor ve e-posta hazırlayabiliyorlar. Ürün karşılaştırmak, tedarikçi seçmek, rezervasyon yapmak, dosya değiştirmek veya yazılım yayımlamak da bu yetenekler arasında. Bazı koşullarda ödeme ve satın alma süreçlerine de katılabiliyorlar. İnternet artık yalnızca konuşmuyor. İnternet davranmaya başlıyor.

Bir yapay zekânın bir şirket hakkında yanlış bir cümle kurması bir temsil sorunudur. Aynı yapay zekânın yanlış şirkete ödeme yapması, yetkisiz bir mesaj göndermesi veya kullanıcının istemediği bir sözleşmeyi kabul etmesi ise bir davranış sorunudur. Yanlış bir cevap düzeltilebilir; ancak yol açtığı sonuçları düzeltmek her zaman mümkün olmayabilir. Yanlış bir eylem para kaybettirebilir, mahremiyeti ihlal edebilir, itibarı zedeleyebilir veya insanları geri alınması zor sonuçlarla karşı karşıya bırakabilir.

Bu nedenle yalnızca “Yapay zekâ bizi doğru anlayacak mı?” diye sormak yetmez. Şu sorulara da cevap aramak zorundayız:

Bizi ne zaman seçmeli? Bizi ne zaman seçmemeli? Hangi kanıta güvenmeli? Hangi yetkiyle işlem yapmalı? Belirsizlik olduğunda soru sormalı mı? Risk yükseldiğinde durmalı mı? Hata yaptığında işlem geri alınabilir mi? İnsan bu karara itiraz edebilir mi?

Bu kitap, bu sorulara Generative Behavior Optimization, Türkçesiyle Üretken Davranış Optimizasyonu adını verdiğimiz bir çerçeveyle cevap arıyor. Kısaca GBO.

GBO bir ikna yöntemi değildir

“Davranış optimizasyonu” ifadesi ilk duyulduğunda yanlış anlaşılabilir. Bir şirket, yapay zekâ ajanlarını kendisini seçmeye zorlamak isteyebilir. Bir marka, rakiplerinden daha fazla önerilmek için ajanların karar sistemlerini etkilemeye çalışabilir. Bir platform, kullanıcıların tercihlerini kendi ticari çıkarı yönünde değiştirmek isteyebilir. Bu kitabın savunduğu GBO, bir yapay zekâ ajanının bizi daha sık seçmesini amaçlamaz. Ajanın doğru koşullarda doğru seçimi yapmasını, yanlış koşullarda ise bizi seçmemesini amaçlar. Bu ayrım GBO’nun ahlaki merkezidir.

Bir seyahat ajanı, kullanıcının ihtiyacına uygun olmadığı hâlde aynı oteli sürekli seçiyorsa bu başarılı optimizasyon değildir. Bir satın alma ajanı, fiyatı veya kapasitesi belirsiz bir şirketi yalnızca internette daha görünür olduğu için seçiyorsa bu başarılı optimizasyon değildir. Bir yapay zekâ asistanı, kullanıcının açık onayı olmadan onun adına mesaj gönderiyorsa görevini hızlı tamamlamış olabilir; fakat doğru davranmamıştır. GBO, eylemlerin sayısını değil, uygunluğunu optimize eder. Doğru davranış bazen seçim, bazen reddetme, soru sorma veya insana devretmedir. Bazen de hiçbir şey yapmamaktır.

Basit bir örnek

Bir yapay zekâ ajanına şu görev verildiğini düşünelim: “Şirketimiz için çok dilli bir müşteri portalı geliştirecek bir sağlayıcı bul.” Ajan internette araştırma yapar. Birkaç şirket bulur. Hizmet sayfalarını okur. Fiyatları, teknik yetenekleri, teslim sürelerini ve güvenlik yaklaşımlarını karşılaştırır. Bu noktada yalnızca SEO ve GEO yeterli değildir. SEO, şirketlerin bulunmasına yardım eder. GEO, şirketlerin ne yaptığının doğru anlaşılmasına yardım eder. Fakat ajan şimdi bir karar vermek zorundadır.

Bir sağlayıcıyı seçmeden önce şunları bilmelidir:

Şirket gerçekten müşteri portalı yapıyor mu? Çok dillilik gerçek bir yetenek mi, yoksa yalnızca pazarlama cümlesi mi? Kimlik doğrulama ve veri güvenliği kapsamda mı? Üçüncü taraf lisans ücretleri fiyata dâhil mi? Veri taşıma ayrıca mı ücretlendiriliyor? Teslim sonrası destek ne kadar sürüyor? Bu şirketin mevcut kapasitesi yeni projeyi almaya uygun mu? Kullanıcının bütçesiyle hizmetin gerçek kapsamı uyumlu mu? Teklif istemek için yetki var mı? Sözleşme imzalamak için insan onayı gerekiyor mu?

Bu bilgiler bulunamıyorsa ajan boşlukları tahminle doldurmamalıdır. Soru sormalı ve eksik bilgiyle işlem yapmamalıdır. GBO burada başlar. GBO, bir şirketin yalnızca “müşteri portalları geliştiriyoruz” demesini yeterli görmez. Şirketin gerçek yeteneğini, sınırlarını, fiyat modelini, gerekli girdileri, uygunluk koşullarını, onay gereksinimlerini ve geri dönüş yöntemlerini hem insan hem makine için anlaşılır hâle getirmesini ister. Ajanın önünde yalnızca bir tanıtım sayfası değil, bir davranış sözleşmesi bulunmalıdır.

Davranış sözleşmesi

Bir ajan bir varlık hakkında eylem gerçekleştirmeden önce yedi temel soruya cevap verebilmelidir:

Bu kim? Gerçekte ne yapabilir? Bunu kanıtlayan nedir? Bu durum için uygun mu? İşlem yapmaya yetkisi var mı? Eylem güvenli biçimde gerçekleştirilebilir mi? Bir hata olursa geri dönülebilir mi?

Bu yedi soru GBO’nun çekirdeğini oluşturur. Bunlardan biri cevapsızsa, ajanın davranışı değişmelidir.

Kanıt eksikse doğrulama istemelidir. Uygunluk belirsizse karşılaştırmaya veya açıklama istemeye dönmelidir. Yetki eksikse ilgili eylemi durdurmalı; işlemi yetkilendirmeye hakkı olan kişiye başvurmalıdır. Risk kabul edilemezse işlem yapılmamalıdır. Geri dönüş mümkün değilse bu sınır ve telafi imkânları açıklanmalı; yalnız geçerli yetki ve kabul edilebilir risk koşullarında ilerlenmelidir. Daha güçlü onay, yasak bir eylemi meşru hâle getirmez.

Bu nedenle GBO’da güçlü görünürlük, eksik yetkinin yerini tutamaz. Yüksek marka bilinirliği, geçerli rızanın yerini tutamaz. İyi bir fiyat, zayıf güvenliği telafi edemez. Çok sayıda kaynak, yanlış kapsamı doğru hâle getiremez. GBO’nun temel mantığı toplama değil, kapıdır. Her kritik kapı ayrı ayrı geçilmelidir: doğru eşleşme, yeterli kanıt, geçerli yetki, güvenli eylem ve tanımlı geri dönüş veya telafi koşulları birlikte değerlendirilir. Bu koşullardan biri eksikse ajanın izleyeceği yol değişmelidir.

GEO nerede biter, GBO nerede başlar?

GEO ile GBO birbirine rakip değildir. Birbirini tamamlar. Bir ajanın ilgili gerçeği yanlış anlaması, güvenilir davranışı zedeler. Ancak doğru bilginin tek kaynağı bir GEO çalışması değildir; doğrulanmış kurum kaydı, kullanıcı bilgisi veya doğrudan veri erişimi de bu zemini sağlayabilir. Fakat doğru temsil tek başına doğru davranış üretmez. Bir ajan bir şirketin hizmetini kusursuz biçimde anlayabilir; yine de kullanıcının bütçesini, yetkisini veya risk sınırını dikkate almadan yanlış seçim yapabilir.

Bu nedenle: SEO bulunabilirliği hazırlar. GEO temsili hazırlar. GBO davranışı hazırlar.

SEO’nun temel nesnesi sayfadır. GEO’nun temel nesnesi temsildir. GBO’nun temel nesnesi ise karar ve eylemdir. Bu kitabın konusu daha fazla tıklama veya atıf elde etmek değildir. Makineler insanlar, kurumlar ve dünya üzerinde eylem gerçekleştirirken doğru davranışı nasıl mümkün kılabiliriz? Kitabın cevap aradığı soru budur.

İnsan sonradan eklenen bir güvenlik mekanizması değildir

İnsanı yalnızca son aşamadaki bir onay düğmesi olarak ele alan bir sistem düşünelim. Sistem araştırır, karar verir, planlar; sonra insana “Onaylıyor musunuz?” diye sorar. Fakat insan yalnızca son düğmeye basan kişi değildir. Amacı insan belirler. Hangi risklerin kabul edilebilir olduğunu tanımlar ve hangi eylemleri devredeceğine karar verir. Yetki verir, gerektiğinde geri alır; sonuca itiraz eder ve hatanın telafisini talep eder. Bu nedenle insan denetimi GBO’nun dışındaki bir güvenlik eki değildir. GBO’nun merkezidir.

Bir ajan ne kadar yetenekli olursa olsun, kendi yetkisini kendisi yaratmamalıdır. Bir görevi yapabiliyor olması, o görevi yapmaya yetkili olduğu anlamına gelmez. Bir işlemi tamamlayabiliyor olması, o işlemin doğru olduğu anlamına gelmez. Kapasite, yetki değildir. Otonomi, geri alınamaz vekâlet değildir.

Bu kitap ne yapacak?

Bu kitap yapay zekâ ajanlarını bir markayı seçmeye zorlayan gizli taktikler öğretmeyecek. Ajanları yanıltmak için içerik üretmeyi öğretmeyecek. Sahte kanıtlarla, yapay yorumlarla veya manipülatif makine kayıtlarıyla karar sistemlerini etkilemeyi savunmayacak. Bir kişi, şirket, hizmet veya kurum kendisini nasıl hazırlamalıdır ki yapay zekâ ajanları onu doğru değerlendirebilsin ve onunla ilgili güvenli işlemler yapabilsin?

Daha iyi içerik, daha iyi veri, bir API veya ajan protokolü tek başına yeterli değildir. Gerekli olan, bütünlüklü bir davranış mimarisidir: doğru kimlik, açık yetenek, doğrulanabilir kanıt, görünür sınırlar, geçerli izin, güvenli eylem yolu, insan onayı, kayıt, geri alma, itiraz ve telafi. Bu mimariye NOMOS Behavioral Contract Layer, Türkçesiyle NOMOS Davranış Sözleşmesi Katmanı adını vereceğiz.

Bu katman, bir ajana yalnızca ne yapabileceğini söylemez. Ne zaman yapabileceğini, ne zaman yapmaması gerektiğini ve kimin iznine ihtiyaç duyduğunu da söyler. Ajanın neye dayanarak karar verdiğini, hata hâlinde nasıl duracağını ve insanın nasıl geri dönebileceğini açıklar.

Kurucu tanım

Bu kitabın kullanacağı kanonik tanım şöyledir:

Generative Behavior Optimization — GBO; üretken ve ajan tabanlı sistemlerin bir kişi, marka, ürün, hizmet, kurum veya bilgi kaynağı hakkında doğru, kanıta bağlı, uygun, yetkili, güvenli, açıklanabilir ve geri alınabilir davranış gösterebilmesi için kimliklerin, yeteneklerin, kanıtların, sınırların, izinlerin, eylem yollarının ve telafi mekanizmalarının sistematik biçimde yapılandırılmasıdır.

Bu tanımdaki geri alınabilirlik, her eylemin bütün etkilerinin silinebileceği iddiası değildir. Sekizinci ve on ikinci bölümlerde durdurma, yetkiyi geri çekme, teknik geri dönüş ve telafi ayrı ayrı ele alınır. Geri döndürülemeyen bir eylemde sınırlar önceden açıklanmalı; geçerli yetki ve kabul edilebilir risk koşulları sağlanmalıdır. Telafi, geçmişi eksiksiz biçimde geri getirmek değildir.

Bunu daha basit bir cümleyle ifade edersek: GBO, yapay zekânın yalnızca doğru şeyi bilmesini değil, doğru şeyi yapmasını sağlamaya çalışır. Ve bazen doğru şey, hiçbir şey yapmamaktır.