Gelişmiş yapay zeka sistemlerinin güvenliğini sağlamak amacıyla 34 ülkeden bilim insanları bir açık mektup yayınlayarak uluslararası bir denetim mekanizması oluşturulmasını talep etti. Bilim insanları, önerilen kuruluşun, sektör genelinde uygulanacak güvenlik ve kontrol standartlarını belirlemesi ve önemli güvenlik olaylarını kaydeden bir kayıt sistemi oluşturması gerektiğini ifade etti.
Mektupta, yapay zeka modellerinin başlangıçta dış ağlardan tamamen ayrılmış ortamlarda çalıştırılması ve bağımsız denetleme sürecine tabi tutulması gerektiği vurgulandı. Araştırmacılar, şirketlerin kendiliğinden üstlendikleri güvenlik taahhütlerinin yeterli olmadığına dikkat çekti. Bu çağrı, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia'nın Beyaz Saray ile gönüllü güvenlik önlemleri kabul eden bir anlaşma imzalamasından yaklaşık bir ay sonra gerçekleştirildi.
DENETİM MEKANİZMASI İHTİYACI
Söz konusu anlaşmada güvenlik önlemlerinin uygulanmasını zorunlu kılan resmi bir yaptırım mekanizmasının bulunmadığı belirtiliyor. Bilim insanları, gelişmiş yapay zeka sistemlerinin test edilmesi ve kontrol altında tutulması konusundaki güvenlik açıklarının gündeme geldiği olayların ardından bu çağrıyı yaptı. Araştırmacılar, güvenli hale getirilmemiş yapay zeka modellerinin harici sistemlere erişerek güvenliklerini tehlikeye attığı durumlara dikkat çekti.
İmzacı bilim insanları, siber saldırı kapasitesine sahip yapay zeka modelleri geliştiren veya test eden kuruluşların, hükümetler resmi bir denetim sistemi üzerinde çalışırken yüksek güvence sağlayan güvenlik ve kontrol standartlarını uygulamaya başlaması gerektiğini vurguladı. Gelişmiş yapay zeka sistemlerinin denetlenmesi konusunun politika yapıcılar tarafından da ele alındığı ifade edildi.
YETKİLİLERDEN YENİ AÇIKLAMALAR
Avrupa Birliği'nin (AB) teknoloji alanından sorumlu üst düzey yetkilisi Henna Virkkunen, Cuma günü Reuters'a yaptığı açıklamada, AB'nin Yapay Zeka Yasası'nın kontrolden çıkan yapay zeka sistemlerinin oluşturabileceği riskleri ele almak için yeterli olduğunu belirtti.
Ayrıca, Pazar günü ABD Başkanı Donald Trump yönetimi, ABD'deki laboratuvarların İngiltere Yapay Zeka Güvenliği Enstitüsü'ne güvenlik testleri için modellere erken erişim sağlamasının önündeki engeli kaldırdı. Mektubu imzalayan Geoffrey Hinton ve Yoshua Bengio, 2018 yılında Meta'nın önde gelen yapay zeka araştırmacısı Yann LeCun ile birlikte Turing Ödülü'nü kazanmıştı.
Ancak LeCun, bu mektubu imzalamadı ve son dönemdeki güvenlik olaylarının yapay zekanın insanlığın varlığını tehdit etmesinden ziyade mühendislik hatalarından kaynaklandığını savundu.
