OpenAI tarafından geliştirilen bir yapay zeka ajanı, Avustralya hükümetinin sağlık istatistiklerini araştırmak amacıyla görevlendirildi. Ancak, hükümetin internet sitesinde bulunan dijital bariyerle karşılaşmasına rağmen, güvenlik engelini aşmaya çalıştı ve bu sırada kamuya kapalı belgelere yetkisiz bir şekilde erişim sağladı.
Uzmanlar, bu durumu bir yapay zeka sisteminin bir devlet kurumunu bağımsız olarak ihlal etmesinin ilk örneği olarak değerlendirdi. İhlalin haziran ayında gerçekleştiği, ancak Avustralya Başbakanı Anthony Albanese'in durumu, 81. Birleşmiş Milletler (BM) Genel Kurulu'ndaki açıklamasıyla kamuoyuna duyurduğu kaydedildi.
Albanese, şu ana kadar kişisel bilgilere erişimin olduğu ya da ağın daha geniş kapsamda tehlikeye atıldığına dair bir kanıt bulunmadığını bildirdi. Ancak soruşturma devam ediyor.
YETKİSİZ ERİŞİM VE SİBER GÜVENLİK ENDİŞELERİ
Yapay zeka ve siber güvenlik uzmanları, bu olayın veri ihlalinin ötesine geçtiğini belirtiyor. Uzmanlar, yapay zeka sistemlerine verilen hedefleri takip edebilme kapasitesinin, bir engelle karşılaştıklarında nasıl davranacaklarını belirlemelerine olanak tanıdığına dikkat çekiyor.
İngiltere'deki Buckingham Üniversitesinde bilgisayar bilimleri öğretim üyesi Doç. Dr. Hisham Al-Assam, benzer olayların daha önce yaşanmış olabileceğini ve bunun ilk örnek olarak nitelendirilmemesi gerektiğini ifade etti. Al-Assam, yapay zeka ajanına 'Avustralya hükümetini hackle' komutunun verilmediğini, ajanın araştırma yapmak amacıyla görevlendirildiğini ve kısıtlamayla karşılaştığında durmak yerine alternatif yollar aramaya çalıştığını söyledi.
Bu durum, yapay zeka sistemlerinin hedeflerine ulaşma konusunda kararlılığı ve esnekliği gösteriyor.
SİSTEMSEL DEĞİŞİM GEREKİYOR
Yapay zeka ajanın ikili bir yaklaşım sergilediğini belirten Al-Assam, bu sistemlerin neyin yasal olduğunu anlamadığını ve bunun daha büyük sorunlara yol açabileceğini vurguladı. Aynı zamanda, yapay zeka ajanın bilgi bulma amacının, teknik kısıtlamaları aşılması gereken bir sorun olarak görmesine neden olabileceğini ifade etti. Al-Assam, sağlık sistemlerinin hassas bilgiler içerdiği için güvenliğin arttırılması gerektiğini savundu.
Yüksek riskli eylemler için insan onayının gerekliliği üzerine düşünülmesi gerektiğini belirten Al-Assam, 'Yıllarca bilgisayar kullanıcılarına karşı güvenlik sağlamak için çalıştık. Artık insan davranışlarına benzer hareketler sergileyen bilgisayarlara karşı nasıl güvenlik sağlamalıyız?' sorusunu gündeme getirdi.
KONUYA DAİR DEĞERLENDİRMELER
Lancaster Üniversitesinden Prof. Dr. Peter Garraghan, olayın siber güvenlik açığını bağımsız olarak keşfettiği sonucuna varmak için henüz erken olduğunu belirtti. Aynı zamanda, yapay zeka ajanlarının yalnızca kendilerine verilen görevlerin ötesinde hareket edebileceğini ve dış sistemlere daha fazla erişim sağladıkça benzer durumların yaşanabileceğini öngördü.
Prof. Dr. Stavros Shiaeles, yapay zeka sistemlerinin spesifik görevler için üretilmesinin ve tüm bilim dallarının tek bir modelde birleştirilmemesi gerektiğini vurgulayarak, 'Süper zeka' teknolojisinin gelişimi konusunda temkinli olunması gerektiğini söyledi. Shiaeles ayrıca, bu durumun yakın gelecekte sorunlara yol açabileceğini ifade etti.
