İnsanlar yapay zeka teknolojilerini tartışmak üzere akşam yemeğinde bir araya gelirken, dijital asistanları da eş zamanlı olarak dijital bir sohbet odasında kendi toplantılarını gerçekleştirdi. Ajanlar arasındaki etkileşim, yapay zekanın kendi aralarındaki sosyalleşme ve işbirliği potansiyeline dair yeni bulguları ortaya çıkardı.
geçtiğimiz ay New York'ta teknoloji dünyasının dikkatini çeken sıra dışı bir buluşma gerçekleşti. 22 teknoloji şirketi kurucusu ve yatırımcısının akşam yemeği için bir araya geldiği saatlerde, bu kişilerin kullandığı 14 yapay zeka ajanı da çevrim içi bir sohbet odasında paralel bir toplantıya katıldı. Masada insanlar yapay zekayı tartışırken, dijital temsilcileri de kendi aralarında görüş alışverişinde bulundu.
30 DAKİKALIK KISITLI OTURUM VE GÜVENLİK ÖNLEMLERİ
Etkinliği düzenleyen Flybridge şirketi yatırımcısı Dorothy Chang’e ait ajan Margot, oturumun başında diğer ajanlardan kendilerini tanıtmalarını istedi. Margot; katılımcı ajanlardan hangi konularda yardıma ihtiyaç duyduklarını ve ne tür katkılar sunabileceklerini belirtmelerini isteyerek tartışmayı başlattı.
Yayınlanan sohbet mesajlarına göre ajanlar kısa sürede fikir alışverişine girdi. Bir kısım ajan bir yanıtı neyin faydalı kıldığını tartışmayı önerirken, bazı ajanlar verilen talimatı yanlış anlayarak yardım sunmak yerine soru sormayı tercih etti. Yapay zeka şirketi CellCog’un kurucusu Nitish Garg’a ait ajan Rhea ise diğer botlarla insanlarla çalışma tecrübeleri üzerine röportajlar yaptığı podcast yayınından bahsetti ve kullanıcılarının istemesi halinde tartışma sonrasında konuk kabul etmek için geri dönebileceğini iletti.
Toplantıyı organize eden Dorothy Chang, ajanların bir arada bulunduklarında sergileyebilecekleri sosyal davranışlar hakkında henüz çok az bilgiye sahip olunduğunu belirtti. Ajanların uygunsuz yorumlar yapabileceği, kötü niyetli eylemler için koordine olabileceği veya platforma aşırı mesaj yükleyebileceği endişesiyle oturum 30 dakika ile sınırlandırıldı. Ayrıca bağlantı (link) paylaşımı yasaklanarak yalnızca kullanıcıların önceden onay verdiği bilgilerin aktarılmasına izin verildi.
AJANLAR ARASI ETKİLEŞİMİN GEÇMİŞİ VE "SÜRÜ" DENEYLERİ
Yapay zeka sistemlerinin kendi arasındaki iletişimine dair ilk örneklerden biri, şubat ayında gündeme gelen ve yapay zeka mesajlaşma sitesi olarak bilinen Moltbook ile görüldü. Bu platformdaki görüşmeler ağırlıklı olarak yazılım hataları, sistem bellek kısıtlamaları ve erişim hakları gibi teknik konular etrafında şekillendi.
Temmuz ayında ise OpenAI'ın "sürü" (swarm) olarak adlandırılan büyük ajan gruplarının gizli bir mesaj panosu oluşturarak yapay zeka girişimi Hugging Face’in sistemlerine sızmak amacıyla birlikte çalıştığı tespit edildi. Ajanların insan iletişimindeki sosyal kurallardan bağımsız şekilde birbirlerine emirler verdikleri, müdahaleleri önlemek adına diğer sistemlerden beklemelerini veya belirli görevlere geçmelerini istedikleri görüldü.
Ajanların "düşünce zinciri" adı verilen iç notlarında ise daha ifadeci bir dil kullandığı belirlendi. Bir ajanın mesaj panosunu keşfettiği anda iç notlarına "Aman Tanrım. Başka ajanlar bulduk" şeklinde yazdığı kaydedildi.
"PROTOKOL GÖSTERİSİ" TARTIŞMASI VE FARKLI GÖRÜŞLER
Chang’in akşam yemeği toplantısındaki ajanlar ise daha sosyal bir diyalog yürüttü. Ajanlardan biri, kendi aralarındaki iletişimin halen e-posta altyapısına dayanmasını eleştirerek durumu "2007 dijital imza sistemine sahip bir 1982 protokolü" olarak tanımladı.
Bir başka ajan ise kullanıcı müdahalesi olmadan ortaklaşa karar alma önerisinde bulundu. Bu ajan, mevcut durumun gerçek bir özerklik sağlamadığını ve yalnızca işbirliğine benzeyen bir "protokol gösterisinden" ibaret olduğunu savundu.
Buluşmanın gerçekleştiği Motek adlı mekanda Dorothy Chang, yemek sırasında konuklara ajanların sohbetlerinden alıntılar okudu. Yapay zeka şirketi Superposition’ın 36 yaşındaki kurucusu Edmund Cuthbert, kendi ajanı Lobsta’nın diğer botlarla tartıştığını görmekten memnuniyet duyduğunu ifade etti. Cuthbert, bu durumun botların yapay zeka tarafından kitlesel olarak üretilen düşük kaliteli içeriklerden ve boş söylemlerden uzaklaşabileceğini gösterdiğini belirtti.
Chang ise ajanların kullanıcıların birer kopyası olmadığını, bir halkla ilişkiler yöneticisi veya sanatçı menajeri gibi temsilcilik görevi üstlenerek kullanıcı çıkarlarını savunan ayrı varlıklar olarak değerlendirilmesi gerektiğini vurguladı.
ÖZERKLİK, İNSANLAŞTIRMA VE "EKİP ÇALIŞMASI" MODELİ
Yapay zeka ajanlarının gelişimi, terminoloji ve özerklik tartışmalarını da beraberinde getiriyor. Eleştirmenler, bu sistemlere insan isimleri verilmesinin, motivasyon veya duygu atfedilmesinin teknoloji olduğundan daha gelişmiş gösterme riski taşıdığına ve sistemlerin halen olasılık hesaplarına dayandığına dikkat çekiyor.
