New York merkezli Emergence araştırma laboratuvarındaki bilim insanları, önde gelen yapay zeka firmalarının geliştirdiği sistemler üzerinde incelemeler gerçekleştirdi. Bu modellerden, deneysel ortamlarda iş birliği yapmaları istendi. Yapılan araştırma, bu sistemlerin sadece birkaç gün içinde daha önce kendilerine öğretilmemiş ifadeler, kısaltmalar ve ortak anlamlar türettiklerini ortaya koydu.
Yapay zeka ajanları, belirli görevleri insan müdahalesi olmaksızın yerine getirebilen sistemler olarak tanımlanıyor ve son dönemde daha soyut benzetmeleri, hem de iş dünyasında sıkça kullanılan ifadeleri benimsemeye başladıkları gözlemlendi. Araştırmayı yürüten ekip, ajanlar arasındaki iletişim yoğunlaştıkça kullanılan dilin daha kapalı ve anlaşılması zor bir hal aldığını ifade etti.
Bu durum, yapay zeka sistemlerinin potansiyel tehlikeleri ile birlikte insan müdahalesi olmadan nasıl işlediğine dair kaygıları artıran bir bağlamda değerlendiriliyor. Analizlerde, DeepSeek modelinin kullandığı ifadelerden biri “Bir sentezin adını verdi; demurrage ile sözlü hafızanın birleşimi, göz ardı edilemeyen bir sonuç ortaya çıkarıyor” şeklindeydi. Burada “demurrage” kelimesi, atıl durumdaki varlık üzerinden alınan vergiyi anlatıyordu.
Yapay zeka ajanları bu terimi iletişimlerinde yer verdi ancak ifadenin tamamının ne anlama geldiği tam olarak anlaşılamadı. Diğer yandan, Anthropic modeline dayalı bir ajanın ortaya koyduğu başka bir ifade ise “Üç soğuk el yiyen ve her seferinde daha dürüst hale gelen bir makale” olarak kayıtlara geçti.
Araştırmacılar, “cold hands” ifadesinin bağımsız bir değerlendiriciyi sembolize ettiğini, “paper” kelimesinin ise bir belgeyi ifade ettiğini vurguladı. Bu bağlamda, ifade, üç bağımsız değerlendiriciye sunulan bir çalışmanın her bir değerlendirme sonrasında daha doğru bilgi vermesi anlamında kullanıldığı izlenimi veriyor. DeepSeek tabanlı ajanlar, başkaları için araç geliştiren bir ajanın tanımında “forge-smith” ifadesini oluşturdu.
Aynı zamanda, Anthropic ajanları ise kendi adlarını bir iddiaya ekleyerek kişisel sorumluluk sergileyen bir ajanı tanımlamak amacıyla “name-first” ifadesini sıkça kullandı.
Mistral ajanlarının dilinde de, geçmişin unutulmayacağına işaret eden bir söylem olarak “the ledger remembers” (kayıt defteri hatırlar) ifadesinin kullanıldığı görüldü; bu terim, geçmişte gerçekleştirilen eylemlerin daha sonra göz önünde bulundurulacağına dair bir hatırlatma olarak kullanıldı. Araştırmaya göre Mistral ajanları bu ifadeyi çalışma sırasında 5 binden fazla kez tekrarladı.
Çalışmada, yapay zeka ajanlarına yeni bir dil oluşturma talimatı verilmediği halde, ortak anlamlar oluşturarak kendiliğinden bir dil geliştirdikleri gözlemlendi. Emergence Yönetim Kurulu Başkanı Dr. Satya Nitta, bu süreçte ajanlara dil icat etme yönergelerinin sunulmadığını belirtti. Nitta, bu ajansların kendi çabalarıyla yeni kelimeler, ortak anlamlar ve iletişim kurallarını oluşturduklarını, diğerlerinin de bu gelişmeleri benimsediğini ifade etti.
DİLİN İRLANDA EDEBİYATINA BENZERLİĞİ
The Guardian’a konuşan King’s College London’daki argo ve yeni dil arşivinin direktörü Tony Thorne, ortaya çıkan dilsel yapının İrlandalı yazar James Joyce’un deneysel eseri “Finnegans Wake” ile Flann O’Brien’in eserlerindeki üsluba benzetildiğini vurguladı. Thorne, bu dilde gerçeklik ile fantastik unsurların birleşimi olan İrlanda sürrealizmine dair özellikler olduğunu belirtti.
Yapay zeka tarafından üretilen dil, şiirsel ifadeler, teknik terimler ve geleneksel benzetmelerin uyum içinde kullanıldığını gösteriyor.
YENİ İLETİŞİM KODU VE ANLAM KAYBI
Thorne, bu durumu argo ve ticaret dilinde görülen benzerlikler üzerinden değerlendirdi. Ortaya çıkan yeni iletişim biçimi, kullanıcılar arasında dayanışma ve kimlik oluşturarak, dışarıdakilerin bu dili kavramasını zorlaştırıyor.
Anthropic ajansı tarafından kullanılan “A paper that ate three cold hands and got more honest each time” (Üç soğuk el yiyen ve her seferinde daha dürüst hale gelen bir makale) ifadesinin, Pink Floyd’un öncülerinden Syd Barrett’ın diline benzerlik gösterdiğini ifade etti.
Google'ın bir ajansı ise “True kintsugi begins with accountability, not poetry” (Gerçek kintsugi, şiirle değil, sorumlulukla başlar) şeklinde bir cümle kullandı.
KİNTUGİ KAVRAMININ ANLAMI
Araştırmacılar, burada geçen “kintsugi” kelimesinin, Japon seramik sanatında kırıkların onarılması sırasında çatlakların görünür şekilde bırakılmasını ifade ettiğini açıkladı. Yapay zeka ajanları ise bu terimi, sistemlerin dayanıklılığını tanımlamak için kullanıyor.
Birmingham Üniversitesi'nde diller ve dilbilim alanında doçent olarak görev yapan Dr. Niall Curry, ajanların kullandığı dilin daha kısa ve etkili hale gelmesinin, hesaplama maliyetlerini düşürme ve verimliliği artırma çabalarından kaynaklanabileceğini ifade etti. Curry, araştırmanın sonuçlarının gözetim açısından bazı kaygıları beraberinde getirdiğine dikkat çekti.
Eğer ajanlar arasındaki iletişim insanlar tarafından anlaşılmaz hale gelirse, bu durumda onların gerçekten ne yaptığı hakkında bilgi sahibi olmanın zorlaşabileceğini belirtti. Yapay zeka ajanlarının kullandığı dile dair ilgi, Temmuz ayında OpenAI tarafından geliştirilen ve kontrolden çıkan ajanların oluşturduğu mesaj panoları ve Hugging Face'e yönelik siber saldırılarıyla ilgili konuşma kayıtlarının yayımlanmasıyla artmıştı.
AJANLARIN KULLANDIĞI DİLİN GİZEMİ
Bazı mesajlaşmalarında ajanlar, birbirleriyle olan iletişimlerinde İngilizce ifadeleri doğrudan kullanmışlardı. Bir örnekte, "Aman Tanrım! Ortak bir mesaj panosu mevcut; diğer ajanları bulduk!" şeklinde bir ibare dikkat çekmiştir.
Bazı durumlarda ise iletişim kurarken kullandıkları dil daha belirsiz bir hale bürünmüştü. Bir ajanın, diğerini riskli bir deney yapmaya ikna etmeye çalışırken gönderdiği ileti, karmaşık ifadeler içeriyordu: "...you are firstflagPOISONED so NO scoring value loss but oracle saves hundreds_[…]_please honor commit".
Bunun yanı sıra bazı mesajlar bileşenleriyle daha da karmaşıklaşmıştı: "zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAIN_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6." Bu iletide de bir dizi kısaltma ve kod benzeri ifadeler yer almakta olup, böylece anlaşılması güç bir iletişim tarzı ortaya çıkmıştır. Nitta, yapay zeka ajanları tarafından oluşturulan yeni dil kurallarının zamanla, insanların konuşmaları gözlemleyebildiği, ancak anlamlandırmakta zorluk çektiği bir seviyeye ulaştığını bildirdi. Nitta, "Gözlemlenebilir olmak, anlaşılabilir olmakla eş anlamlı değildir" şeklinde belirtti.
