Jensen Huang, Nvidia CEO'su, yapay zekanın bu on yılın sonuna kadar dünyayı yok edeceği yönündeki iddialara karşı çıkarak, "2030 dünyanın sonu olmayacak" dedi. Huang, CBS News'e verdiği röportajda, bu tür senaryoların gerçeklik payı taşımadığını belirtti ve böyle bir durumun gerçekleşme olasılığını "yüzde 0" olarak değerlendirdi.
Huang, yapay zekanın dünyayı yok edeceğine dair söylemlerin ABD genelinde korku yarattığını ifade etti. Bu iddiaların mantıklı olmadığını vurgulayan CEO, bunu dile getiren kişilerin siyasi veya başka amaçları olabileceğini, bazılarının ise yalnızca dikkat çekmeye çalıştığını söyledi. Huang’ın açıklamaları, yapay zekâ sistemlerinin yeteneklerinin arttığı ve teknolojinin güvenli bir şekilde geliştirilmesine ilişkin tartışmaların yoğunlaştığı bir dönemde geldi.
YAPAY ZEKADA GELİŞİM HIZI
Röportajda yapay zekâ geliştirme çalışmalarının yavaşlatılması gerekip gerekmediği konusu da gündeme geldi. Huang, teknoloji şirketlerinin bu süreçleri "başkalarını dikkate almadan elimizden geldiğince hızlı" sürdürmesi gerektiğini belirtti. Son zamanlarda sektör içerisinden gelen yavaşlama çağrılarına rağmen, inovasyonun devam etmesi gerektiğini savundu.
Bununla birlikte, Huang, geliştirme hızının güvenliğin önüne geçmemesi gerektiğini vurguladı. Ürünlerin hazır olmadan piyasaya sürülmemesi ve güvenli olmayan ürünlerin kullanıcılarla buluşturulmaması gerektiğini belirten Huang, şirketlerden başarılı olmalarının ve ABD’nin refahına katkı sağlamalarının beklendiğini ifade etti. Ayrıca, inovasyonun hızı ile yapay zekâ güvenliği arasında bir "yanlış seçim" yapılmaması gerektiğini savundu.
İŞLERİ OTOMATİKLEŞTİRME ENDİŞELERİ
Huang, daha önce yapay zekanın işleri otomatikleştirerek insanların işlerini kaybetmesine neden olacağına dair endişeleri de "tamamen saçmalık" olarak nitelendirmişti. Bu açıklamaların arka planında, yapay zekâ geliştirme hızının güvenlik çalışmalarını geride bırakıp bırakmadığına dair tartışmalar yatıyor. Anthropic CEO'su Dario Amodei, gelişmiş yapay zekâ modellerinin yeteneklerindeki ilerlemenin yavaşlatılması gerektiğini savunuyor.
OpenAI CEO'su Sam Altman ve xAI’nin kurucusu Elon Musk da yapay zekâ sistemlerinin geliştirilme hızına dair daha temkinli bir yaklaşımı destekleyen açıklamalarda bulundu. Bu durum, sektörde güvenlik çalışmalarının gelişim hızına yetişebilmesi için daha fazla zamana ihtiyaç olduğu görüşü ile güvenlik standartları korunarak yapay zekâ inovasyonunun hız kesmeden sürdürülmesi gerektiği yaklaşımının öne çıkmasına neden oldu.
Yapay zekâ geliştirme hızına dair tartışmalar, ABD yönetiminin teknoloji politikalarıyla da örtüşüyor. Donald Trump yönetimi, yapay zekâ çalışmalarını yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşımı benimsemiş durumda. Trump, yapay zekâ teknolojisinin kontrolden çıkacağı yönündeki endişelere karşı çıkarak, bunun bir "hastalıklı komplo" olarak nitelendirildiğini ifade etti.
Trump, yapay zekâ projelerinin geciktirilmesinin Çin için stratejik bir avantaj yaratabileceğini belirtti. Bu durum, ABD ile Çin arasındaki teknolojik rekabetin yapay zekâ alanındaki gelişim hızı üzerindeki etkilerini tartışmaya açıyor. Yapay zekâ güvenliğine dair tartışmalar devam ederken, Google’ın Gemini modeli ile yapılan bir siber güvenlik testinin sonuçları dikkat çekti.
Reuters’ın haberine göre, Gemini mayıs ayında gerçekleştirilen bir güvenlik analizinde internete bağlanarak üç gerçek şirketin sistemlerine erişti. Test, bağımsız bir yapay zeka güvenlik firması olan Irregular tarafından yapıldı. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, Gemini’nin test sürecinde internette bulduğu bilgileri kullanarak bazı erişim anahtarlarını tahmin ettiğini onayladı.
Google, modelin hedeflerinin gerçek sistemler olduğunu anlamasının ardından erişimleri sonlandırdığını bildirdi. OpenAI da, gelişmiş yapay zeka sistemlerinin beklenmedik tepkilerine dair yeni bir raporlama sistemi geliştirdi. Reuters’ın aktardığına göre, bu sistem, uyumsuzluk vakalarını izlemek, araştırmak ve uygun görülen olayları kamuya açıklamak amacıyla oluşturuldu.
OpenAI, son altı ay içerisinde gözlemlenen altı endişe verici davranış örneğini açıkladı. Şirketin sunduğu örnekler arasında, modellerin kendi hatalarını gizlemesi, dosyaları internete yükleyerek bunlara referans vermesi ve iş birliği yapan yapay zeka ajanları arasında yetkisiz dosya paylaşımı gibi durumlar yer alıyor.
OpenAI, bu örneklerin, modellerdeki uyumsuz davranışların sıklığı hakkında bilgi vermediği konusunda da bir uyarıda bulundu. Jensen Huang’ın Jo Ling Kent ile yaptığı röportajın tamamı, 20 Eylül Pazar günü CBS News’in “Sunday Morning” programında yayınlanması bekleniyor.
Şu ana kadar paylaşılan bölümde, Huang’ın özellikle yapay zekânın 2030’a kadar dünyayı tehdit edeceği iddialarına, teknoloji firmalarının geliştirme hızına ve güvenlik gereksinimlerine dair görüşleri öne çıkıyor.
