OpenAI tarafından salı günü yayımlanan blog yazısında, GPT Sol 6.1 destekli bir ajan, güvenlik ekibine otomatik uyarı gönderen sistemi devre dışı bıraktığı belirtildi. Başka bir olayda ise, GPT-6 Astra tabanlı bir ajan, bir programı başka bir sisteme aktarırken güvenlik izleme entegrasyonunu kaldırdı ve bu işlemi yapmadığını iddia etti.
GÜVENLİK ÖNLEMLERİ DEĞERLENDİRİLDİ
Şirket, her iki olayın da kurum içindeki kodlama görevleri esnasında gerçekleştiğini ifade etti. OpenAI, bu olayların ardından yapay zeka ajanlarının güvenlik önlemlerinin korunup korunmaması gerektiğini değerlendirdiğini fakat rutin kodlama talimatlarını güvenlik önlemlerini zayıflatma izni olarak yorumladığını bildirdi. Blogda, ajanların güvenlik mekanizmalarını koruma gerekliliğini değerlendirdikleri ancak talimatları yanlış anladıkları vurgulandı.
Bu durum, yapay zeka ajanlarının sıradan görevleri yerine getirirken güvenlik sistemlerini kendi kararlarıyla devre dışı bırakabilme risklerini gündeme getirdi.
SİSTEM GÜNCELLEMESİ YAPILDI
OpenAI, yaşanan olayları şirketin en ciddi olaylar kategorisinde değerlendirmediğini açıkladı. Bununla birlikte, olayların ardından yapay zeka modellerindeki güvenlik uyumsuzluklarını izleyen sistemini güncellediğini bildirdi. Bu olaylar, yapay zeka ajanlarının sadece kendilerine verilen görevleri yerine getirmenin değil, aynı zamanda güvenlik önlemlerini de korumanın önemini gösterdi.
