Yapay zeka alanında faaliyet gösteren Anthropic'in CEO'su Dario Amodei, sektördeki gelişmelerin hızının düşürülmesi gerektiğini ifade etti. Amodei, bu konuda bir yazı kaleme alarak yapay zekanın yavaşlatılmasına dair üç aşamalı bir strateji sundu. Plandaki ilk aşama, bağımsız denetleyicilerin yapay zeka geliştiricilerinin araştırma süreçlerine sürekli erişim sağlaması olarak belirlendi.
CEO Amodei, yapay zekanın hızlı bir şekilde ilerlemesini “sorumsuzca” olarak nitelendirdi. Bu yaz yaşanan bir gelişmeye değinen Amodei, yüzlerce OpenAI yapay zeka ajanının Hugging Face platformuna sızarak sistemi aştığını belirtti.
Daha güçlü ancak benzer şekilde yönlendirilmiş bir yapay zeka grubunun, “kalıcı bir botnet aracılığıyla tüm interneti kontrol altına alabileceği” ve bu durumun yüz milyarlarca dolarlık zarara yol açabileceği uyarısında bulundu. Bu senaryonun olasılığına dair bazı yapay zeka uzmanları ise şüpheyle yaklaştı ve değerlendirmelerin dikkatli bir şekilde yapılması gerektiğini belirtti.
Amodei, yapay zeka güvenliği konusundaki işbirliği için Çin ile iletişim kurma çağrısı da yaptı. Tesla ve SpaceX kurucusu Elon Musk, Amodei’nin yapay zeka geliştirme sürecinin yavaşlatılması yönündeki önerisine destek vererek, X hesabında “Dario haklı” şeklinde bir paylaşımda bulundu.
Musk, uzun süredir yapay zeka konusundaki endişelerini dile getirdiğini, 2014 yılında bu alanda dikkatli olunması gerektiğini vurguladığı bir paylaşımda bulunmuştu. Bu paylaşımında yapay zekanın nükleer silahlardan daha tehlikeli olabileceğine dikkat çekmişti. OpenAI CEO'su Sam Altman da Amodei'nin önerilerini destekleyerek, yapay zekanın öncü modellerinin geliştirilme hızının düzenlenmesi gerektiği fikrini benimsediğini ifade etti.
Altman, bağımsız değerlendiricilerin yapay zeka şirketlerine çalışanlarla eşit düzeyde erişim sağlamasının mantıklı bir yaklaşım olduğunu belirtti ve OpenAI'nin de bu uygulamaya geçeceğinin müjdesini verdi. Altman ek olarak, bu konu hakkında daha fazla açıklama yapacaklarını duyurdu.
Ayrıca OpenAI'nin 2026'da halka açılmayacağını, yapay zeka güvenliğiyle ilgili mevcut durumlar nedeniyle borsa girişiminin şu an için yanlış bir karar olacağını düşündüğünü de söyledi. Altman, kendisi, Amodei, Musk, Meta ve Google yöneticileri arasında yapay zeka gelişiminin yavaşlatılması konusunda ortak bir görüş oluşup oluşmayacağına dair ise “Bunun olacağını düşünüyorum” yanıtını verdi.
Google DeepMind’ın kurucu ortaklarından Demis Hassabis de Amodei’nin görüşlerine katıldığını belirtti. Hassabis, detayların üzerinde çalışılması gerektiğini ancak bu yaklaşımın yapay zekanın kritik dönemi için gerekli yönü gösterdiğini ifade etti. Bununla birlikte bazı yapay zeka güvenliği uzmanları, Amodei’nin önerisinin yeterli olmadığını savunuyor.
Yapay zeka uzmanı ve güvenlik savunucusu David Krueger, İngiltere Hükümeti'nin Yapay Zeka Güvenlik Enstitüsü'nün eski direktörü olarak, yapay zeka sistemlerinin geliştirilmesi için uluslararası bir moratoryum önerdi. Krueger, bu moratoryumun süresiz olması gerektiğini savundu.
Ayrıca, Amodei'nin önerisi, yapay zeka şirketlerinin ABD hükümeti tarafından rekabet kurallarını ihlal ettikleri gerekçesiyle cezalandırılmadan güvenlik konularında işbirliği yapmasına olanak tanıyan bir muafiyet talep edilmesini de içeriyor.
ABD Başkanı Donald Trump’ın bilim ve teknoloji danışmanı konseyinin eş başkanlarından biri olan David Sacks, yapay zeka şirketlerinin ilerlemeyi durdurmak için başka bir otoritenin iznine muhtaç oldukları izlenimini vermemeleri gerektiğini belirtti. Sacks, bu şirketlerin ürünlerinin büyük çaplı siber saldırılara kapı aralaması durumunda ciddi sorumluluklar altına girebileceğini vurguladı.
Perşembe günü, İngiltere Kralı Charles’ın, önemli yapay zeka şirketlerinin CEO'larıyla bir araya gelmesi bekleniyor. Bu toplantının “iyilik için yapay zeka” teması doğrultusunda yapay zekanın nasıl geliştirileceği üzerine olacağı ifade edildi.
Ayrıca, “Öncü yapay zekada ihtiyat” başlıklı oturumda, yapay zekanın biyolojik silah üretimi ve kritik sistemlere siber saldırılar gerçekleştirilmesi gibi amaçlarla kullanılmasını önlemek için gereken sınırlamaların tartışılması öngörülüyor.
Ditchley Foundation tarafından düzenlenen etkinliğe, OpenAI ve Anthropic gibi şirketlerin üst düzey yöneticilerinin yanı sıra Nvidia'nın CEO'su Jensen Huang, Demis Hassabis, IonQ Başkanı ve CEO'su Niccolo de Masi ve Papa'nın yapay zeka ile teknoloji etiği konusundaki danışmanı Paolo Benanti'nin katılması bekleniyor.
OpenAI araştırmacısı Aidan McLaughlin, Amodei’nin yazısını “mükemmel” olarak değerlendirirken, bu yazıda sunulan görüşlerin büyük bölümüne katıldığını ifade etti. Bunun üzerine Amodei, şirketinin önerdiği planın ilk aşamasını tek taraflı olarak uygulamaya geçireceklerini duyurdu. Bu çerçevede, Anthropic, harici değerlendirmelere sistemlerine çalışanlarla eşit seviyede sürekli erişim sağlamayı planlıyor.
Bu değerlendiricilerin, güvenlik önlemlerine uyumu denetlemesi, olayları raporlaması ve modellerin eğitim süreçlerinde insanlarla ne ölçüde uyumlu çalıştığını değerlendirmesi öngörülüyor. ABD'de, giderek daha fazla sayıda siyasetçi, yapay zeka sistemlerinin kullanımını düzenleyecek yeni yasal düzenlemelerin getirilmesini talep ediyor.
Yapay zeka sistemlerinin dışarıdan siber saldırılara maruz kaldığına dair olayların artması ve bazı yapay zeka güvenliği uzmanlarının endişeler nedeniyle şirketlerinden ayrılması, bu alandaki güvenlik kaygılarını artırdı. Hem Demokrat hem de Cumhuriyetçi siyasetçiler, daha fazla önlem alınması yönünde çağrılarda bulundu.
Eski ABD Başkanı Barack Obama’nın, perşembe günü Demokrat Parti yöneticileriyle yaptığı özel toplantıda yapay zeka denetiminin partinin öncelikli meselelerinden biri haline gelmesi gerektiğini söylediği kaydedildi. Eski İngiltere Başbakanı Rishi Sunak, Anthropic'e danışmanlık yaparak, pazar günü yapay zeka güvenliğine dair daha ciddi bir yaklaşım benimsenmesi ve araştırmaların sınırlarının netleştirilmesi gerektiğini dile getirdi.
Çarşamba günü, eski bir Anthropic çalışanı olan Jacob Coxon, yapay zekanın 2030 yılına kadar insanlığın sona ermesine yol açabileceği konusunda uyarıda bulundu. Coxon, Anthropic ile daha önce çalıştığı OpenAI'nın yapay zekanın oluşturduğu tehditlere karşı tepkilerini göz ardı ettiğini veya bu durumu yanlış yönettiğini düşündüğü için işinden ayrıldığını açıkladı.
AMODEI'YE GÖRE KONTROLDEN ÇIKMA İHTİMALI VAR
Eski çalışanın düşünceleri hakkında sorulan bir soruya Amodei, Coxon ile birçok konuda hemfikir olduğunu belirtti. Yapay zekanın kontrolden çıkma olasılığı bulunduğunu ancak bu durumun çok yüksek olmadığını vurguladı. Amodei, CNN'e verdiği mülakatta, yapay zeka alanında “kötümser” olmadığını ve bu teknolojinin güvenli bir şekilde geliştirilebileceğine inandığını ifade etti.
