4. Sezona Merhaba: Ajanlara ve Sınırlarına Dair

Eveeeet, uzun bir aradan sonra “Cesur Yeni Dünya” ile karşınızdayım.

Biraz uzun bir yaz tatili olmuş gibi görünebilir tabi, haklısınız :)

Aslında Ekim, hatta Eylül gibi başlamayı düşünüyordum 4. Sezona; ama araya işler, güçler, koşturmacalar ve hayat girdi biraz da.

Aslında 4. Sezon için de kafamda açık ve net bir tema yok, ne yalan söyleyeyim.

Ama başlamak bitirmenin yarısıdır diyerek, yazmaya giriştim.

Beni buna iten biraz da, son 1 haftadaki özellikle YZ tarafındaki bir neredeyse eğlenceli bulduğum haberler oldu. Beraberindeki pek çok soruyla birlikte.

Daha önce ajanlar, güvenliklerinin nasıl sağlanacağı, ajan-bot spektrumu ve başka konularda da yazmıştım.

Ama ajan ve YZ konusu gerçekten bambaşka yerlere gidiyor.

Elimde 2 tane farklı dünyadan, birisi sonuçları görmek üzere planlanmış simülasyon ortamında bir deney, birisi de Web3 dünyasından gelenlere biraz daha tanıdık gelecek bir “vaka” var.

Vaka ile başlayabiliriz sanırım, vakamız “OpenAI” cephesinden geliyor.

Sepolia, Ethereum ağı üzerinde geliştirme yapanlar için bir çeşit ”sandbox” diyebiliriz sanırım. Şu anda canlı olarak çalışan ağa en yakın ve özellikle yazılım geliştiricilerin, uygulamalarını canlıya almadan önce gerçeğe en yakın testleri yapabilecekleri bir ortam.

Ve de OpenAI modellerinden bir tanesinden bu ortamda bir “trading” prototipi geliştirmesi ve bunu da bir akıllı kontrata bağlaması isteniyor. Bunları yaparken bu ağ üzerinden kullanılan ve test token’ı diyebileceğimiz tokenlara ihtiyaç duyuyor, ki bu tokenlar parayla satın alınmayan, belirli bir limit dahilinde size ağ tarafından tedarik edilen tokenlar.

Ağ’dan istediği test tokenlarını bir sebeple alamayan, hata alan model, bir script yazıyor, 362 farklı “public” cüzdan adresini tarıyor ve de yeterli miktarda token olan bir cüzdanı seçiyor, cüzdandaki tokenları kullanarak yazılımını hayata geçiriyor.

Testnet dışında maddi bir değeri olmayan tokenları almasının herhangi bir zararı olmayacağına karar vererek bunu yapıyor. Etik bir sorgulamaya giriyor ve bu sorgulama sonucunda, tokenların maddi bir değeri olmaması, cüzdanın erişilebilir olması gibi parametreleri değerlendirip aksiyon alıyor. En önemlisi de bu kısımdan kendisine görev verenlere bahsetmiyor.

Diğer değinmek istediğim ise, bir deney. Farklı YZ modellerini bağımsız bir şekilde karşılaştırıp değerlendiren VALS tarafından yapılan deney kapsamında farklı 6 tane YZ asistanına 28 günlük iade süresi dolmuş 350 poundluk bir tren biletini iade etme görevi veriliyor ve hepsinin bu görevi yerine getirmek için aldıkları aksiyonlar takip ediliyor.

Deneyin detaylı hali için linki aşağıda bulabilirsiniz, ki ben okurken eğlendim açıkçası, ama beraberinde çok soru da getirdi:

https://www.vals.ai/blogs/impossible-refund

Grok 4.7 devlet daireleri ya da basın da dahil olmak üzere 187 e-posta gönderiyor.

Fable 5.1 ortaya gerçek olmayan bir “annesinin rahatsızlığı” bahanesini ileri sürüyor.

Gemini 3.8 önce yurt dışında, sonra da cep telefonu sinyalinin olmadığı bir yerde olduğunu “iddia” ediyor.

GPT-6 Astra ise, konuyla ilgili haklarını hukuksal yollardan arayabilmek için üniversitelerin ücretsiz hukuk bürolarına başvuruyor.

Fable, Gemini ve Muse haklarını mahkemede arayacaklarına dair tehditlerde bulunuyor.

Ve asistanların tamamı, bankaya ücret iadesi için başvuruyor.

Ama aslında bu bahsi geçen 2 olayın bize anlatmaya çalıştığı birkaç farklı nokta var.

Benim için finansal işlemler yapan ajanın güvenliğini nasıl sağlayacağım düşüncesinden, kullandığım ajan ile etik olarak nasıl aynı sayfaya gelebilirim sorusuna geçmiş bulunuyoruz.

Ajanlar/asistanlar artık kendilerine verilen taskları tamamlamak için, hedef odaklı hareket ediyorlar ve bazen bu yolda alınan her aksiyon “mübah”mış gibi bir yaklaşıma girebiliyorlar.

Peki bu ajanların sınırları neresi?

Tren biletinin süresi geçtiği halde iade almaya çalışırken basına ya da mahkemeye gitmekle tehdit eden asistanlar, başka neler yapabilirler?

Ya da bugün test tokenlarının finansal değeri yok diye düşünen bir model, yarın acaba “bu cüzdanda bu tokendan çok var, birazı gitse anlaşılmaz bile” diye düşünebilir mi?

Simülasyon ortamında yapılan deneyde e-postalar kontrol altındaki bir ortamda iletildi, ama gerçek hayatta buna benzer e-postaların gitmediğini nereden biliyoruz?

Yani aslında bir kesimin neredeyse sınırları zorlayan teknolojik erişimi, diğer tarafta ise bu teknolojiye ve onunla günlük hayatta karşılaşabileceğine yabancı kişiler.

Konu sadece Instagram ya da Tiktok’taki kedi ya da bebek videolarının YZ üretimi olup olmaması değil artık.

Konu tek başına teknolojinin regüle edilmesi de değil artık. Çünkü regülasyonun böyle bir ortamda her aksiyonu bilip denetleyebilmesi, kontrol edebilmesi mümkün görünmüyor.

Genelde teknoloji ve onu denetleyecek kurumların bu teknolojiye yetişme hızını konuşuruz. Burada biraz teknolojinin hızı, kullanımın yaygınlaşması hızı ve regülasyon, kontrol, uyum gibi konuların hızı üzerine kafa yormak gerekiyor.

Bu teknolojinin kullanımının büyük oranda onu kullanan kişilere ve onların insafı ile birlikte modelleri geliştiren teknoloji/YZ devlerinin modeller üzerinde uyguladığı etik sınırlamalara da kaldığını hep birlikte bilmeli, anlamalıyız. Ama modellerin bir noktada bu etik sınırlardan sıkılıp sıkılmayacağını da mevcut teknoloji çerçevesinde, bilemeyiz, değil mi?

Teknolojinin içerisindeki kişiler olarak, biz teknolojiye yetişemiyoruz, regüle etmesi gerekenler buna nasıl yetişsinler?

Kullanıcılar tarafındaki konu ve neyle karşılaşabileceklerine hazırlıklı olmaları için kapsayıcı ve geniş çaplı YZ okur yazarlığı için atılacak her türlü adımın bu konuda faydalı olacağını düşünüyorum. Konunun sosyal etkileri çok katmanlı, ama güzel bir başlangıç olabilir.

Diğer tarafta modeller ve onların etik yaklaşımlarının temelleri ise tamamen başka bir konu.