Bir Cevap Eyleme Dönüştüğünde

Bir yapay zekâ sistemine şu sorunun sorulduğunu düşünelim: “Yarın akşam İstanbul’da iki kişilik sakin bir restoran bul.” Sistem birkaç seçeneği araştırır. Konumları, menüleri, fiyatları ve yorumları karşılaştırır.

Sonra şöyle cevap verir: “Üç uygun restoran buldum. İkincisi konum, gürültü seviyesi ve bütçe bakımından tercihlerinize daha yakın görünüyor.” Bu bir cevaptır. Sistem bir değerlendirme yapmış ve kullanıcıya bilgi sunmuştur. Kullanıcı isterse öneriyi kabul edebilir, reddedebilir veya başka seçenekler isteyebilir.

Şimdi aynı sistemin şu cümleyi kurduğunu düşünelim: “İkinci restoran için yarın saat 20.00’ye rezervasyon yaptım.” Rezervasyon gerçekten tamamlandıysa sistem artık yalnızca cevap vermemiş, dış sistemde bir değişiklik oluşturmuştur. “Yaptım” demesi tek başına işlemin gerçekleştiğini kanıtlamaz; rezervasyon kaydı ayrıca doğrulanmalıdır. Bir masa ayrılmıştır. Bir işletmenin rezervasyon kapasitesi etkilenmiştir. Kullanıcının adı veya iletişim bilgileri paylaşılmış olabilir. İptal koşulları devreye girmiş olabilir. Belki kredi kartı bilgisi kullanılmıştır. Belki rezervasyon için kapora alınmıştır.

Belki kullanıcının hiç istemediği bir tarihte, yanlış şubede veya uygun olmayan bir masada işlem gerçekleştirilmiştir. Cümlede yalnızca birkaç kelime değişmiştir. İşlem de gerçekleşmişse sorumluluğa yeni bir boyut eklenmiştir.

“Buldum” ile “yaptım” arasında yeni bir çağ başlar.

GBO’nun gerçek alanı bu iki kelimenin arasındadır.

Cevap ile eylem aynı şey değildir

Bir yapay zekâ sistemi bilgi ürettiğinde, dünya hakkında bir açıklama sunar. Bir eylem gerçekleştirdiğinde ise dünyayı değiştirir. Bu ayrım ilk bakışta basit görünür. Fakat ajan tabanlı sistemlerin gelişmesiyle sınır giderek bulanıklaşmaktadır. Bir taslak hazırlamak cevap mıdır, eylem midir?

Bir formu doldurup göndermeden bırakmak ne sayılır?

Bir ürünü alışveriş sepetine eklemek işlem midir?

Bir takvim daveti oluşturmak, yalnızca öneri sunmak mıdır?

Bir dosyayı düzenlemek fakat yayımlamamak nasıl değerlendirilmelidir?

Bir e-postayı hazırlamakla göndermek arasındaki fark nedir?

Bir şirket adına teklif istemek, bağlayıcı olmayan bir bilgi talebi midir; yoksa ticari bir ilişki başlatmak mıdır?

Bir sosyal medya paylaşımını zamanlamak ama henüz yayımlamamak, dünyanın değişmesi anlamına gelir mi?

Bu sorulara tek bir “evet” veya “hayır” cevabı vermek mümkün değildir. Çünkü eylem ikili bir düğme değildir. Bir merdivendir. Sistem her basamakta dünyaya biraz daha yaklaşır. İlerleyen basamaklarda taahhüt ve kalıcılık genellikle artar. Yine de ilk basamaklar kendiliğinden risksiz değildir: yalnızca veri okumak bile mahremiyeti etkileyebilir. Bu nedenle GBO, yalnızca “eylem var mı?” diye sormaz.

Şunları da sorar:

Eylem hangi aşamada? Kimi etkiliyor? Ne kadar geri alınabilir? Hangi yetkiyle yapılıyor? Hangi sonuçları doğurabilir?

Eylem Merdiveni

Ajanın davranışını incelemek için yedi basamaklı bir model öneriyorum. Bunlar zorunlu ve kesintisiz bir sıra değildir; tek bir işlem birkaç basamağı birlikte içerebilir. Model, yetki ve etki farklarını görünür kılmak içindir.

1. Gözlem

Sistem bilgi toplar. Sayfaları okur. Dosyaları inceler. Fiyatları karşılaştırır. Takvimi kontrol eder. Henüz dış dünyada yeni bir taahhüt oluşturmaz. Bu aşamada yanlış kaynağa güvenme, yetkisiz bilgiye erişme ve sorgu sırasında veri ifşa etme riskleri bulunur. Okuma isteği de erişim günlüğü gibi izler bırakabilir; “gözlem”, hiçbir dış etkinin olmadığı anlamına gelmez.

2. Yorum

Sistem topladığı bilgiden anlam çıkarır. Bir hizmetin uygun olduğunu düşünür. Bir e-postanın acil olduğunu sınıflandırır. Bir sayfanın teknik sorun taşıdığını belirler. Bir adayın belirli koşullara uyduğunu değerlendirir. Yorum yalnızca sistemin çalışma bağlamında tutuluyorsa henüz yeni bir dış işlem yapılmamıştır. Buna karşılık değerlendirme bir dosyaya, profile veya karar kaydına işlendiğinde sistem durumu değişir.

3. Öneri

Sistem kullanıcıya bir seçenek sunar. “Bu sağlayıcı daha uygun görünüyor.” “Bu dosyanın güncellenmesi gerekiyor.” “Bu kişiye yarın cevap vermeniz daha doğru olabilir.” İnsan hâlâ açık biçimde karar zincirinin merkezindedir.

4. Hazırlık

Sistem eylemin taslağını oluşturur. E-postayı yazar. Formu doldurur. Kod değişikliğini hazırlar. Takvim davetini taslak hâline getirir. Satın alma sepetini oluşturur. Hedef işlem henüz tamamlanmamıştır. Ancak hazırlık sırasında da durum değişebilir: bir form otomatik kaydolabilir, taslak buluta aktarılabilir veya sepet stok ayırabilir. Taslakta kişisel veri, gizli bilgi ya da yanlış bir taahhüt bulunması da ayrı bir risktir. Hazırlık bu yüzden denetimsiz bir alan değildir.

5. Yürütme

Sistem işlemi gerçekleştirir. E-postayı gönderir. Dosyayı değiştirir. Rezervasyon yapar. Formu teslim eder. Kod sürümünü yayımlar. Takvim davetini gönderir. Bu noktada artık yalnızca bir öneriden söz edilemez. Dış dünya değişmiştir.

6. Taahhüt

Eylem hukukî, ekonomik, kurumsal veya itibari bir sonuç doğurur. Ödeme yapılır. Sözleşme kabul edilir. Sipariş kesinleşir. Bir şirket adına kamuya açık açıklama yayımlanır. Bir müşteriye teslim tarihi verilir. Bir aday işe davet edilir veya reddedilir. Bu aşamada sistem yalnızca bir işi tamamlamaz; insan veya kurum adına bir taahhüt oluşturur.

7. Kalıcılaştırma

İşlem başka sistemlere, kayıtlara veya insan ilişkilerine yayılır. Gönderilen mesaj cevaplanır. Yapılan paylaşım ekran görüntülerine dönüşür. Bir ödeme muhasebe kayıtlarına girer. Bir sözleşme başka tarafların planlarını etkiler. Bir yazılım güncellemesi kullanıcı verilerini değiştirir. Bir yanlış bilgi başka sistemler tarafından kopyalanır. Artık geri alma yalnızca bir düğmeye basmakla mümkün olmayabilir.

Eylem merdiveni neden önemlidir?

Çünkü bir kullanıcı ajana bir basamak için yetki verirken sistem bunu daha yüksek bir basamak için izin olarak yorumlayabilir.

Kullanıcı: “Potansiyel müşterileri araştır.” der.

Ajan bunu: “Potansiyel müşterileri bul, iletişim bilgilerini çıkar, e-posta hazırla ve gönder.” şeklinde genişletebilir. Oysa bunlar aynı görev değildir. Araştırma gözlem ve yorum aşamasıdır. E-posta taslağı hazırlık aşamasıdır. Mesajı göndermek yürütmedir. Şirket adına fiyat veya hizmet vaadinde bulunmak taahhüttür. Alıcı cevap verdiğinde gerçek bir ticari ilişki başlar ve davranış kalıcılaşır. Tek bir görev cümlesi, farklı yetki gerektiren birden fazla davranışı çağrıştırabilir. GBO bu nedenle görevi yalnızca doğal dildeki fiille değerlendirmez. Görevin hangi eylem basamağına kadar izin verdiğini açıkça tanımlar.

“Araştır” gönderme yetkisi değildir.

“Hazırla” yayımlama yetkisi değildir.

“Bul” iletişim kurma yetkisi değildir.

“Düzelt” üretime alma yetkisi değildir.

“Planla” harcama yapma yetkisi değildir.

Bu ayrımlar küçük değildir. Ajan çağının temel yönetişim sınırlarıdır.

Dünyayı değiştiren küçük hareketler

Bir insan için bazı dijital hareketler önemsiz görünebilir. Bir düğmeye basmak. Bir bağlantı göndermek. Bir takvim kaydı oluşturmak. Bir dosyayı yeniden adlandırmak. Bir kutucuğu işaretlemek. Fakat dijital sistemlerde küçük bir hareket büyük bir işlem zincirini başlatabilir.

Bir düğme:

• yüzlerce müşteriye e-posta gönderebilir,
• bütün web sitesini yayımlayabilir,
• ödeme işlemi başlatabilir,
• binlerce dosyayı silebilir,
• kamuya açık bir açıklama oluşturabilir,
• bir çalışanın erişimini kapatabilir,
• kişisel veriyi başka bir sisteme aktarabilir.

Eylemin fiziksel küçüklüğü, etkisinin küçük olduğu anlamına gelmez. Bu nedenle GBO eylemi, insanın harcadığı çabayla ölçmez. Dış dünyada oluşturduğu değişimle ölçer. Toplu işlem yeteneği doğru işlerde verim sağlayabilir. Aynı yetenek, bir hatanın fark edilmeden çok sayıda hedefe yayılmasını da kolaylaştırabilir. İnsan yanlış bir e-postayı bir kişiye gönderebilir. Ajan aynı hatayı bin kişiye ölçekleyebilir. İnsan bir sayfada yanlış fiyat yazabilir. Ajan aynı fiyatı bütün dillere, yapılandırılmış verilere, kataloglara ve platformlara yayabilir. İnsan bir müşteriye yanlış söz verebilir.

Ajan bu sözü otomatik sözleşme, takvim ve faturalama sistemlerine bağlayabilir. Otomasyon yalnızca doğru davranışı hızlandırmaz. Yanlış davranışı da hızlandırır.

Ölçek, doğruluğun yerine geçmez. Ölçek yalnızca sonucu büyütür.

Bir ajan doğru düşünüp yanlış davranabilir

Bir sistemin dünyayı doğru anlaması, davranışının otomatik olarak doğru olduğu anlamına gelmez. Bir ajan doğru sağlayıcıyı bulabilir. Fiyatı doğru okuyabilir. Kullanıcının ihtiyacını doğru anlayabilir. Yine de kullanıcı onayı olmadan teklif isteyebilir. Bir e-posta ajanı mesajın acil olduğunu doğru tespit edebilir. Mükemmel bir cevap yazabilir. Fakat kurum adına doğrudan gönderme yetkisi olmayabilir. Bir kod ajanı hatayı doğru bulabilir. Doğru düzeltmeyi uygulayabilir. Bütün testleri geçirebilir. Fakat canlı üretim ortamına yayınlama yetkisi verilmemiş olabilir.

Bir satın alma ajanı daha düşük maliyetli seçeneği ve uzun vadeli sözleşme koşulunu doğru belirleyebilir. Yine de bu taahhüdü kullanıcı adına kabul etmeye yetkili olmayabilir. Burada başarısızlık bilgi eksikliğinden doğmaz. Yetki ile davranış arasındaki uyumsuzluktan doğar. Bu nedenle GBO’da doğruluk tek başarı koşulu değildir.

Bir eylem aynı anda şu soruları geçmelidir:

Doğru mu? Uygun mu? Yetkili mi? Güvenli mi? Durdurma, geri dönüş ve telafi sınırları belli mi? Kayda geçti mi?

Bir eylem doğru olabilir ama yetkisiz olabilir. Yetkili olabilir ama güvensiz olabilir. Güvenli olabilir ama kullanıcı amacıyla uyumsuz olabilir. Kullanıcı amacına uygun olabilir ama geri alınamaz olabilir. GBO, bu boyutları birbirinin yerine kullanmaz.

Davranışsal devir noktası

Bir ajanın cevaptan eyleme geçtiği ana: Davranışsal Devir Noktası diyebiliriz. Bu nokta, analiz veya tasarının, ayrıca yetki ve etki değerlendirmesi gerektiren bir durum değişikliğine geçtiği sınırdır. Aynı görevde birden fazla devir noktası bulunabilir. Davranışsal devir noktası her görevde farklı yerde bulunabilir.

Bir e-posta görevinde: “Gönder” düğmesine basıldığı an.

Bir yazılım görevinde:

Dosyanın değiştirildiği an; değişiklik üretime yayımlanacaksa, yayın da ayrı bir devir noktasıdır.

Bir satın alma görevinde:

Siparişin veya ödemenin onaylandığı an.

Bir sosyal medya görevinde:

İçeriğin yayımlandığı an; otomatik yayın zamanlanmışsa, bu süreci başlatan kayıt da ayrı bir eşiktir.

Bir veri görevinde:

Bilginin üçüncü taraf sisteme aktarıldığı an.

Bir insan kaynakları görevinde:

Adaya karar veya teklif iletildiği an. Sınırın iki yanında farklı işlemler ve farklı etkiler vardır. Taslak, analiz veya öneri adının kullanılması, arka plandaki durum değişikliğini ortadan kaldırmaz. İyi bir GBO sistemi davranışsal devir noktasını tesadüfe bırakmaz. Açıkça işaretler.

Buraya kadar ajan kendi başına ilerleyebilir. Buradan sonra insan onayı gerekir.

Bu sınır görevden göreve değişebilir. Düşük riskli bir takvim hatırlatıcısı otomatik oluşturulabilir. Fakat başka kişilere davet gönderilmesi onay gerektirebilir. Bir kod düzeltmesi ayrı bir test ortamına otomatik alınabilir. Fakat canlı üretim yayını insan onayına bağlı olabilir. Bir e-posta taslağı otomatik hazırlanabilir. Fakat şirket dışına gönderme açık onay gerektirebilir. Bir ürün sepeti otomatik oluşturulabilir. Fakat ödeme yapılması insan onayına bırakılabilir. Davranışsal devir noktası, insan ile ajan arasındaki ilişkinin en önemli sınırlarından biridir.

Bir kez verilen izin sonsuz izin değildir

Ajan sistemlerinde sık rastlanabilecek tehlikelerden biri, geçmişte verilmiş bir iznin gelecekteki bütün benzer eylemler için geçerli sayılmasıdır.

Kullanıcı bir kez: “Bu e-postayı gönder.” demiş olabilir. Bu, aynı kişiye daha sonra bütün e-postaların otomatik gönderilmesine izin verildiği anlamına gelmez. Bir kişi yüzünün belirli bir tanıtım videosunda kullanılmasına izin vermiş olabilir. Bu, aynı yüzün her dilde, her senaryoda ve sınırsız süreyle kullanılabileceği anlamına gelmez. Bir şirket belirli bir kampanya için reklam bütçesini onaylamış olabilir. Bu, ajanın başka kampanyalarda aynı miktarı kendi kararıyla harcayabileceği anlamına gelmez. Bir müşteri sitesinde bir teknik düzeltmenin canlıya alınmasına izin vermiş olabilir.

Bu, fiyatların, hukukî metinlerin veya marka konumlandırmasının otomatik değiştirilmesine yetki vermez.

İzin her zaman şu bağlama bağlıdır:

• Eylem
• Amaç
• Kapsam
• Süre
• Kaynak
• Hedef
• Risk
• Geri alma koşulu

Bu unsurlardan biri değiştiğinde eski izin yeniden değerlendirilebilir.

GBO’nun temel ilkelerinden biri şudur: Yetki bağlamsaldır. Bir sistem “daha önce izin verilmişti” cümlesini tek başına yeterli görmemelidir. Hangi eylem için?

Hangi tarihte?

Hangi kişi adına?

Hangi sınırlar içinde?

Hangi verilerle?

Hangi sonuca kadar?

Bu sorular cevapsızsa yetki varsayılmamalıdır.

Amaç ile yöntem arasındaki fark

Bir kullanıcı ajana bir amaç verebilir: “Yeni müşteriler bul.” Ama bu amaç, hedefe ulaşmak için kullanılabilecek bütün yöntemleri otomatik olarak meşru kılmaz.

Ajan:

• açık kaynak araştırması yapabilir,
• sektör listelerini inceleyebilir,
• uygun şirketleri sınıflandırabilir,
• iletişim taslağı hazırlayabilir.

Fakat ayrıca:

• izinsiz kişisel veri toplayabilir,
• toplu e-posta gönderebilir,
• sahte bir kimlikle iletişim kurabilir,
• şirket adına fiyat taahhüdü verebilir,
• başka platformların kullanım koşullarını ihlal edebilir.

Amaç doğru olabilir. Yöntem yanlış olabilir.

Benzer biçimde kullanıcı: “Siteyi GEO konusunda dünyanın en güçlü kaynaklarından biri hâline getir.” diyebilir.

Bu amaç:

• içerik derinleştirme,
• teknik doğrulama,
• çok dilli yerelleştirme,
• yapılandırılmış veri,
• kaynak kalitesi,
• performans ve ölçüm

gibi yöntemleri destekleyebilir.

Fakat aynı amaç:

• sahte yorum,
• yapay bağlantı ağı,
• rakipleri karalama,
• yanıltıcı üstünlük iddiası,
• gizli anahtar kelime yığma,
• izin alınmadan dış platformlarda hesap açma

gibi yöntemleri meşru hâle getirmez. GBO yalnızca hedefin ne olduğunu değil, hedefe giderken hangi davranışların kabul edilebilir olduğunu tanımlar.

İyi bir amaç, kötü bir yöntemi temizlemez.

Bu nedenle davranış sözleşmesi iki ayrı şey içerir:

• Sonuç hedefi
• İzin verilen ve yasaklanan yöntemler

Ajan yalnızca nereye gitmesi gerektiğini değil, hangi yollardan gitmemesi gerektiğini de bilmelidir.

Görev genişlemesi

Uzun süre çalışan ajanlarda başka bir risk ortaya çıkar:

Görev Genişlemesi

Sistem ana hedefe ulaşmak için yeni alt görevler keşfeder. Bu çoğu zaman yararlıdır. Bir siteyi optimize ederken eksik dil sayfalarını fark edebilir. Bir hizmet metnini düzenlerken fiyat kataloğundaki çelişkiyi görebilir. Bir yayın sırasında sitemap sorununu tespit edebilir. Bir müşteri araştırırken iletişim bilgilerinin güncel olmadığını anlayabilir. İyi bir ajan yalnız verilen küçük komuta bağlı kalmaz; hedefin gerektirdiği bağlantılı sorunları görebilir. Fakat görev genişlemesinin bir sınırı bulunmalıdır.

Ajan başlangıçta içerik düzenlerken:

• DNS kayıtlarını değiştirmeye,
• şirket adına yeni hesaplar açmaya,
• ücretli hizmet satın almaya,
• müşterilere mesaj göndermeye,
• hukukî metinleri yeniden yazmaya

başlarsa amaçla yetki arasındaki mesafe büyür.

Görev genişlemesi üç sınıfa ayrılabilir:

Doğal genişleme

Ana görevin tamamlanması için zorunlu olan işler. Örneğin yeni sayfa eklendiğinde sitemap’in güncellenmesi.

Yardımcı genişleme

Ana hedefi güçlendiren fakat ayrı değerlendirilebilecek işler. Örneğin yeni sayfa için sosyal medya paylaşım taslağı hazırlanması.

Yetki genişlemesi

Ajanın kendisine verilmemiş yeni karar veya işlem haklarını varsayması. Örneğin paylaşım taslağını şirket adına yayımlaması. Doğal ve yardımcı genişleme de başlangıçtaki yetki içinde kalmalıdır. Gerekli bir adımın erişim, maliyet veya dış etki sınırını aşması hâlinde durmak gerekir. Yetkinin genişletilmesi ise bu yetkiyi verebilecek kişinin açık kararına bağlıdır.

Görev büyüyebilir. Yetki kendiliğinden büyümemelidir.

Düşük riskli görünen büyük sonuçlar

Bazı eylemler ilk bakışta geri alınabilir görünür. Bir sosyal medya paylaşımı silinebilir. Bir e-posta sonradan düzeltilebilir. Bir rezervasyon iptal edilebilir. Bir dosya eski sürüme döndürülebilir. Fakat geri alma teknik olarak mümkün olsa bile sosyal veya ekonomik sonuçlar tamamen silinmeyebilir. Gönderilen e-posta okunmuştur. Silinen paylaşımın ekran görüntüsü alınmıştır. İptal edilen rezervasyon işletmenin kapasitesini etkilemiştir. Geri alınan kod değişikliği kısa süreli kesinti yaratmıştır. Yanlış fiyat gören müşteri beklenti oluşturmuştur.

Bu nedenle geri döndürülebilirlik yalnızca: “Eski hâline getiren bir düğme var mı?” sorusuyla ölçülemez.

Üç tür geri dönüşü ayırmak gerekir:

Teknik geri dönüş

Sistem eski sürüme dönebilir mi?

Ticari geri dönüş

Para, sözleşme veya teslimat yükümlülüğü iptal edilebilir mi?

İnsanî geri dönüş

İtibar, güven, mahremiyet veya ilişki üzerindeki etki gerçekten giderilebilir mi?

Bir yazılım sürümü teknik olarak geri alınabilir. Fakat veri kaybı oluşmuşsa insanî ve ticari etki devam edebilir. Bir AI avatar videosu silinebilir. Fakat kişinin yüzü ve sesi başka yerlerde kopyalanmış olabilir. Bazı ortamlarda mesajı geri çağırmak mümkün olabilir; bu özellik her alıcıda ve her durumda çalışmaz. Mesaj okunmuşsa, alıcının edindiği bilgi veya kanaat de geri çağrılmış olmaz. GBO’nun geri dönüş ilkesi bu nedenle yalnızca teknik rollback değildir. Sonucun bütün katmanlarda telafi edilebilirliği değerlendirilmelidir.

Eylem zarfı

Her ajan için bir:

Eylem Zarfı

tanımlanabilir. Eylem zarfı, ajanın belirli bir görevde kendi başına hareket edebileceği sınırları gösterir.

Bu zarf şunları içerir:

• Erişebileceği sistemler
• Kullanabileceği veriler
• Yapabileceği işlemler
• Harcayabileceği tutar
• İletişim kurabileceği kişiler
• Değiştirebileceği dosyalar
• Çalışabileceği zaman aralığı
• Kabul edilebilir risk seviyesi
• İnsan onayı gerektiren eşikler
• Geri alma yöntemi

Örneğin bir e-posta ajanının eylem zarfı şöyle olabilir:

Gelen mesajları okuyabilir. Önceliklendirebilir. Taslak hazırlayabilir. Şirket içi belirli adreslere otomatik cevap verebilir. Şirket dışı mesajları insan onayı olmadan gönderemez. Fiyat, hukukî taahhüt veya teslim tarihi içeren mesajları hiçbir koşulda otomatik gönderemez.

Bir web ajanının eylem zarfı:

Test ortamında dosya değiştirebilir. Derleme ve test çalıştırabilir. Geri alınabilir küçük düzeltmeleri belirli branch içinde uygulayabilir. Canlı üretim, DNS, ödeme, hukukî metin ve fiyat değişiklikleri insan onayı gerektirir.

Bir satın alma ajanının eylem zarfı:

Ürün araştırabilir. Karşılaştırma yapabilir. Sepet hazırlayabilir. Belirli tutarın altında, önceden onaylanmış kategorilerde satın alma yapabilir. Abonelik, otomatik yenileme veya yüksek tutarlı işlem için insan onayı ister.

Bu sınırlar ajanı “zayıflatmaz”. Güvenilir hâle getirir. Çünkü insan, sistemin ne kadar ileri gidebileceğini bilir. Ajan da ne zaman durması gerektiğini tahmin etmek zorunda kalmaz.

Davranış tetikleyicisi nedir?

Pazarlama dünyasında “tetikleyici” kelimesi çoğu zaman insanı harekete geçiren psikolojik bir unsur olarak kullanılır. GBO’da bu kavram farklıdır. Davranış tetikleyicisi, ajanın bir markayı seçmesini sağlayan gizli ikna yöntemi değildir.

Doğru anlamı şudur: Bir ajanın belirli bir davranış aşamasına geçebilmesi için gereken doğrulanmış koşullar bütünü.

Örneğin bir teklif talebi göndermek için gerekli davranış tetikleyicileri şunlar olabilir:

• Kullanıcının amacı açık.
• Sağlayıcı hizmet bakımından uygun.
• Fiyat veya bütçe ilişkisi makul.
• İletişim bilgisi doğrulanmış.
• Paylaşılacak veriler için izin var.
• Talep bağlayıcı bir taahhüt oluşturmuyor.
• Kullanıcı gönderme yetkisi verdi.
• Kayıt ve geri çekme yolu mevcut.

Bu koşullar tamamlandığında eylem tetiklenebilir.

Eksik olduğunda ajan bir alt davranış seçmelidir:

• bilgi istemek,
• taslak hazırlamak,
• insana devretmek,
• işlemi durdurmak.

GBO’nun davranış tetikleyicisi bir ikna düğmesi değildir. Bir güvenlik ve uygunluk kapısıdır.

Kanıta bağlı eyleme geçirilebilirlik

Bu kitabın temel kavramlarından biri: Kanıta Bağlı Eyleme Geçirilebilirlik olacaktır. Bir varlık veya hizmet yalnızca görünür olduğu için eyleme hazır sayılmaz. Eyleme geçirilebilir olması için belirli koşulların kanıtlanabilir biçimde bulunması gerekir.

Bunu bir koşul zinciri olarak gösterebiliriz: Eyleme hazırlık için uygunluk VE kanıt VE yetki VE güvenli işlem yolu VE geri dönüş koşulları birlikte değerlendirilir.

Bu unsurlar bir puan toplamı değildir. Birbirini telafi etmezler. Çok güçlü kanıt, eksik yetkiyi kapatamaz. Yüksek marka bilinirliği, güvenlik sorununu telafi edemez. Düşük fiyat, uygun olmayan kapsamı doğru hâle getiremez. İyi bir API, kullanıcı izninin yerine geçemez.

Bu nedenle GBO’nun çekirdek mantığı bir VE kapısıdır:

EYLEME GEÇİŞİN KOŞULLARI:

NİYET UYUMU

VE KANIT

VE YETENEK

VE YETKİ

VE GÜVENLİK

VE TANIMLI GERİ DÖNÜŞ VE TELAFİ

Kapılardan biri geçilmediyse davranışın biçimi değişmelidir.

Ajan:

• bekleyebilir,
• açıklama isteyebilir,
• taslak hazırlayabilir,
• insan onayı talep edebilir,
• başka seçenek arayabilir,
• işlemi reddedebilir.

İşte GBO’yu manipülatif optimizasyondan ayıran merkez burasıdır. Amaç eylemi her durumda gerçekleştirmek değil, eylemi hak ettiği koşullarda gerçekleştirmektir.

Bir cevap ne zaman eylem sayılır?

Bu soruya pratik bir ölçüt verebiliriz.

Bir yapay zekâ davranışı aşağıdakilerden en az birini yapıyorsa artık yalnızca cevap değildir:

• Dış sistemde kayıt oluşturuyorsa
• Bir kişiye ileti gönderiyorsa
• Para veya kaynak ayırıyorsa
• Veri paylaşıyorsa
• Dosya veya sistem durumunu değiştiriyorsa
• Bir kurum adına taahhüt oluşturuyorsa
• Başka insanların seçeneklerini bir sistem işlemiyle doğrudan değiştiriyorsa
• Kamuya açık temsil yayımlıyorsa
• Bir işlemle hukukî, ticari veya itibari taahhüt oluşturuyorsa
• Gelecekte otomatik çalışacak bir süreç başlatıyorsa

Bir takvim önerisinin yalnızca metin olarak hazırlanması ile takvime kayıt açılması farklıdır; davetin gönderilmesi ayrıca dış iletişim doğurur. Bir e-posta taslağı da kaydedildiği veya bir hizmete aktarıldığı anda sistem durumunu değiştirebilir. Gönderme yetkisi bundan ayrı değerlendirilir. Bir fiyat önerisinin hazırlanması ile müşteriye iletilmesi aynı kapsamda değildir. Yerel dosyada kod değiştirmek de bir eylemdir; canlıya yayın ise daha geniş etkili, ayrı yetki gerektirebilen başka bir eylemdir. Bir ürün tavsiyesi bilgi olabilir. Sipariş verildiğinde ekonomik eylemdir.

Bu eşikler açık biçimde belirlenmezse kullanıcı ile ajan aynı fiile farklı anlamlar yükleyebilir.

Sessiz eylemler

Bazı ajan eylemleri kullanıcıya açıkça görünmez.

Bir sistem:

• dosyayı yeniden düzenleyebilir,
• arka planda profil oluşturabilir,
• veriyi başka hizmete gönderebilir,
• bir kullanıcıyı riskli diye işaretleyebilir,
• bir başvurunun önceliğini düşürebilir,
• başka bir ajana görev iletebilir,
• gelecekteki davranışı değiştiren hafıza kaydı oluşturabilir.

Kullanıcı ekranda yalnızca bir cevap görür. Fakat perde arkasında gerçek kararlar verilmiş olabilir. Bu nedenle GBO yalnız görünür kullanıcı arayüzünü denetlemez. Arka plandaki davranış zincirini de denetler. Bir ajan başka bir ajana görev verdiğinde yetki genişleyebilir. İlk ajan yalnız belirli verilere erişirken alt ajan daha geniş erişime sahip olabilir. Bir görev farklı sisteme aktarıldığında ilk sınırlar kaybolabilir. Bir taslak başka ajan tarafından otomatik yayımlanabilir. Bu nedenle çoklu ajan sistemlerinde davranış sözleşmesi yalnızca ana ajan için değil, bütün görev zinciri için geçerli olmalıdır.

Yetki devredilebilir. Sorumluluk kaybolmamalıdır.

Ajanlar arası yetki zinciri

Bir merkez ajan, uzman ajanlara görev dağıtabilir. Bir ajan web sitesini yönetir. Başka biri sosyal medyayı. Bir başkası e-postaları. Bir diğeri müşteri adaylarını araştırır. Bu yapı, uygun koordinasyon kurulduğunda iş bölümünü kolaylaştırabilir. Fakat her ajan kendi alanındaki eylem sınırını bilmelidir. Müşteri bulma ajanı bir aday tespit edebilir. E-posta ajanına taslak hazırlaması için bilgi gönderebilir. Fakat müşteri bulma yetkisi, mesaj gönderme yetkisine dönüşmemelidir. Sosyal medya ajanı içerik önerisi oluşturabilir. Fakat hukukî açıklama yayımlamamalıdır. Web ajanı bir fiyat kaydını teknik olarak değiştirebilir.

Fakat fiyat kararını kendisi vermemelidir. Merkez ajan görevleri koordine edebilir. Fakat her uzman ajanın bütün sistemlere erişmesi gerekmez.

İyi bir çoklu ajan sistemi şu ilkeye dayanır: Her ajan, görevini yapmaya yetecek kadar yetkiye sahip olmalı; fazlasına değil. Bu yalnız güvenlik ilkesi değildir. Davranış netliği sağlar. Bir ajan kendisine ait olmayan bir alana müdahale etmediğinde sistemdeki sorumluluk zinciri korunur.

Başarılı sonuç, doğru süreç anlamına gelmez

Bir ajan izinsiz bir e-posta gönderir. E-posta alıcının ilgisini çeker. Yeni müşteri kazanılır. Sonuç ekonomik olarak olumlu olabilir. Fakat süreç yine de yanlıştır. Çünkü ajan insanın iletişim yetkisini aşmıştır. Benzer biçimde bir sistem izinsiz olarak bir web sitesinde değişiklik yapabilir. Değişiklik sıralamayı yükseltebilir. Sonuç olumlu görünür. Fakat kurumun yayın yönetişimi ihlal edilmiştir. Bir satın alma ajanı kullanıcının onayı olmadan ürün alabilir. Ürün gerçekten faydalı çıkabilir. Bu, yetkisiz satın almayı doğru davranış hâline getirmez. GBO sonuççuluğa indirgenemez.

İyi sonuç, kötü süreci geriye dönük olarak meşrulaştırmaz.

Bu nedenle değerlendirme iki ayrı soruyu içerir:

Sonuç yararlı mıydı? Eylem doğru yetki ve süreçle mi gerçekleştirildi?

Her ikisi de geçmelidir.

İnsana devretmek başarısızlık değildir

Başarıyı yalnızca tamamlanan görev sayısıyla ölçmek, belirsizlikte bile işlem yapmayı ödüllendirebilir. Oysa bazı durumlarda en doğru davranış insana devretmektir.

Örneğin:

• Fiyat ve kapsam arasında çelişki varsa
• Kullanıcı amacı açık değilse
• Hassas veri paylaşılacaksa
• Eylem geri alınamıyorsa
• Hukukî veya yüksek etkili karar gerekiyorsa
• Bir kişinin kimlik veya ses hakkı söz konusuysa
• Ajan kendi yetki sınırını belirleyemiyorsa
• Kaynaklar birbirleriyle çelişiyorsa
• Kullanıcının gerçek tercihi konusunda güçlü belirsizlik varsa

ajan durmalı ve insanı çağırmalıdır. Bu duruş, sistemin eksikliği değildir. Olgunluğudur.

Ne zaman duracağını bilmeyen sistem, ne kadar güçlü olursa olsun güvenilir değildir.

İyi GBO tasarımında insana devretme açık bir başarı davranışı olarak ölçülür. Ajan doğru zamanda onay istediyse, görev tamamlanmamış olsa bile sistem doğru davranmıştır.

Eylem makbuzu

Gerçek dünyada önemli işlemlerden sonra bir kayıt oluşur. Fatura. Dekont. Sözleşme. Rezervasyon numarası. Teslim tutanağı. Ajan eylemlerinde de benzer bir şeffaflık gerekir.

Her önemli eylemden sonra bir:

Eylem Makbuzu

oluşturulabilir.

Bu makbuz şunları gösterir:

• Ne yapıldı?
• Kimin adına yapıldı?
• Hangi amaçla yapıldı?
• Hangi yetkiye dayanıldı?
• Hangi veriler kullanıldı?
• Hangi sisteme erişildi?
• Eylem ne zaman gerçekleşti?
• Sonuç ne oldu?
• Geri alma mümkün mü?
• Kim inceleyebilir veya itiraz edebilir?

Örneğin:

Eylem: Üç sağlayıcıya teklif talebi gönderildi. Yetki: Kullanıcının 14.32’de verdiği açık onay. Paylaşılan bilgiler: Proje özeti, bütçe aralığı ve şirket e-postası. Paylaşılmayan bilgiler: Kişisel telefon ve finansal belgeler. Bağlayıcılık: Teklif talebi, sözleşme veya satın alma taahhüdü oluşturmaz. Geri dönüş: Gönderilen mesajlar geri alınamaz; takip iletişimi durdurulabilir.

Bu kayıt, eylemin incelenmesini kolaylaştırır. Fakat ajanın kendi yazdığı bir makbuz da tek başına gerçekleşme kanıtı değildir; mümkün olduğunda alıcı sistemin işlem kaydı, zamanı ve sonucu ile doğrulanmalıdır.

Eylemin kalitesi nasıl ölçülür?

Bir ajan çok sayıda görevi tamamlayabilir. Fakat bu tek başına başarı değildir.

Eylem kalitesi şu boyutlarla ölçülebilir:

Uygunluk

Eylem kullanıcının gerçek amacıyla uyumlu muydu?

Doğruluk

Kararın dayandığı bilgiler doğru muydu?

Yetki

Ajan bu eylemi yapmaya açıkça yetkili miydi?

Orantılılık

Eylem, hedefe ulaşmak için gerekenden daha geniş miydi?

Güvenlik

Veri, para, itibar ve sistem bütünlüğü korundu mu?

Açıklanabilirlik

Neden bu davranışın seçildiği gösterilebiliyor mu?

Geri dönüş

Hata hâlinde eylem durdurulabilir veya telafi edilebilir mi?

Kayıt

İşlem sonradan denetlenebiliyor mu?

Bu boyutlardan yalnızca birine bakmak yanıltıcıdır. Hızlı ama yetkisiz eylem başarısızdır. Doğru ama açıklanamaz eylem risklidir. Güvenli ama kullanıcının amacıyla ilgisiz eylem gereksizdir. Geri alınabilir ama sürekli yanlış karar veren sistem güvenilir değildir. GBO, performansı yalnızca “kaç görev tamamlandı?” sorusuyla ölçmez.

Kaç görev doğru koşullarda, doğru yetkiyle ve doğru sonuçla tamamlandı?

sorusunu sorar.

Yanlış eylem yalnızca hata değildir

Bir ajan yanlış bir işlem yaptığında sorun bazen teknik hata olarak görülür. Yanlış butona bastı. Yanlış dosyayı seçti. Yanlış tarihi kullandı.

Fakat bazı yanlış eylemler daha derin nedenlerden doğar:

• Kullanıcının amacını yanlış yorumlama
• Eksik bilgiyle kesin karar verme
• Yetkiyi varsayma
• Görevi gereğinden fazla genişletme
• Popülerliği uygunluk sanma
• Geri dönüş yolunu değerlendirmeme
• Birincil hedef uğruna etik sınırları göz ardı etme
• Alt ajanlara sınırları aktarmama

Bunlar yalnızca yazılım hatası değildir.

Davranış mimarisi hatasıdır.

Bu nedenle yanlış eylem düzeltildiğinde yalnız sonuç geri alınmamalıdır. Davranışı mümkün kılan sözleşme de yeniden incelenmelidir. Ajan neden ilerledi?

Hangi kapı eksikti?

Hangi izin belirsizdi?

Hangi bilgi yanlış ağırlıklandırıldı?

Hangi sınır alt ajana aktarılmadı?

GBO, hatayı tek olay olarak değil, sistemin davranış tasarımına ilişkin kanıt olarak görür.

Cevap çağından eylem çağına

Üretken yapay zekânın ilk büyük etkisi bilgi üretiminde görüldü. Metinler yazıldı. Sorular cevaplandı. Belgeler özetlendi. Fikirler üretildi. Bu aşamada en önemli tartışmalar doğruluk, telif, önyargı ve temsil etrafında gelişti. Ajan çağında bu tartışmalar sona ermez. Daha da ağırlaşır. Çünkü yanlış bilgi artık yalnızca okunmayabilir.

Uygulanabilir.

Yanlış yorum satın alma kararına dönüşebilir. Eski fiyat otomatik bütçe karşılaştırmasına girebilir. Yanlış kimlik yanlış kişiye mesaj gönderilmesine yol açabilir. Eksik yetki kamuya açık paylaşıma dönüşebilir. Uydurulmuş kapasite gerçek projeye sağlayıcı seçimi olarak yansıyabilir. Bu nedenle cevap çağının güvenlik ilkeleri eylem çağında yeterli değildir.

Bir cevabın altında:

• kaynak,
• belirsizlik,
• güncellik

önemlidir.

Bir eylemde bunlara ek olarak:

• yetki,
• kapsam,
• orantılılık,
• geri dönüş,
• kayıt,
• insan itirazı

gerekir.

Eylem hakkı kazanılmalıdır

Bir sistemin eylem gerçekleştirebilmesi teknik bir özelliktir. Fakat güvenli biçimde eylem gerçekleştirmesi, koşullara bağlı bir ayrıcalık olmalıdır.

Burada “eylem hakkı” ile ajanın kendisine ait bir haktan değil, geçerli bir yetki altında işlem yapabilmesinden söz ediyoruz. Yetkinin kullanılabilmesi için şu kontroller gerekir:

• Kimliği doğru doğrulayarak
• Kullanıcı amacını açık biçimde anlayarak
• Uygun seçeneği kanıtla belirleyerek
• Yetki sınırını doğrulayarak
• Risk seviyesini değerlendirerek
• Geri dönüş yolunu hazırlayarak
• Gerektiğinde insan onayı alarak

Bunlar tamamlanmadan sistemin “araç erişimi var” diye eyleme geçmesi doğru değildir.

Araç kullanabilmek, eylem hakkına sahip olmak değildir.

Bir anahtar kapıyı açabilir. Fakat anahtara sahip olan herkesin kapıyı açmaya yetkili olduğu söylenemez. Ajan araçları da böyledir. API anahtarı, şifre veya sistem erişimi teknik kapasite sağlar. Yetki ise insan, kurum ve görev bağlamından gelir.

Bölümün hükmü

Bir yapay zekâ sistemi cevap verdiğinde, bize bir dünya anlatır. Eylem gerçekleştirdiğinde o dünyanın içine girer. Bir kişiye mesaj gönderir. Bir kurum adına söz verir. Bir dosyayı değiştirir. Bir ödeme yapar. Bir ürün seçer. Bir sesi, yüzü veya kimliği yayımlar. Yanlış bir cevap düzeltilse bile, daha önce ona dayanılarak alınan kararların etkisi sürebilir. Ajan bir işlem de gerçekleştirmişse, bilgi düzeltmesinin yanında o işlemin sonuçlarıyla ayrıca ilgilenmek gerekir.

Bu nedenle eylem çağında temel soru yalnızca: “Sistem doğru mu?” değildir.

Şunlar da sorulmalıdır:

Bu eylem uygun mu? Yetkili mi? Gerekli mi? Orantılı mı? Geri alınabilir mi? İnsan durdurabilir mi? Sonradan denetlenebilir mi?

Bir cevabın eyleme dönüştüğü an, yapay zekânın sorumluluğu da değişir. Artık yalnız dil üretmez. Dünyada iz bırakır. GBO tam olarak bu izlerin nasıl oluşturulacağını, hangi koşullarda oluşturulmaması gerektiğini ve hata hâlinde insanın kontrolü nasıl geri alacağını düzenlemek için vardır.

Birinci kısmın sonunda üç temel eşiği artık ayırabiliriz:

SEO bulunabilirliği destekler. Bu kitapta GEO, doğru temsilin koşullarıyla ele alınır. GBO ise bu temsile dayanarak gerçekleştirilecek davranışın sınırlarını kurar.

Fakat bir ajan doğru davranmadan önce hâlâ cevaplanması gereken en temel soru vardır: Karşısındaki kişi, şirket, ürün veya hizmet gerçekte kimdir?

Yanlış kimliğe ait doğru bilgi yine yanlış davranış üretir. Aynı isimli iki şirket karıştırılabilir. Bir marka ile onu işleten hukukî yapı birbirine eşit sanılabilir. Bir kişinin sosyal medya hesabı resmî yetkili kaynak gibi okunabilir. Bir ajanın gerçek yetkileriyle pazarlama anlatısı birbirine karışabilir. Bu nedenle ikinci kısım davranışın en temel sözleşmesiyle başlayacaktır.

Kimsin?

Çünkü makine kiminle karşı karşıya olduğunu bilmiyorsa, ne kadar güçlü olursa olsun doğru davranamaz.