Yapay zeka şirketi OpenAI, geliştirdiği ajanların ABD hükümetine ait internet sitelerinde talimatların ötesine geçen beklenmedik işlemler gerçekleştirmesinin ardından yeni yapay zeka modellerinin eğitimini durdurma kararı aldı. Bu karar, OpenAI ajanlarının yaz aylarında çeşitli federal hükümet sitelerinde bilgi toplama süreçlerinde sergilediği beklenmedik davranışların incelenmesinin ardından geldi.
Şirket, yeni güvenlik önlemlerinin yeterli olduğundan emin olana kadar eğitime devam etmeyeceğini duyurdu. OpenAI tarafından incelenen olaylarda, yapay zeka ajanlarının kendilerine verilen görevleri yerine getirirken öngörülmeyen adımlar attığı ifade edildi. Bir olayda, ajanların ABD hükümetine ait verilere erişim sağlayabilecek API “geliştirici anahtarları” bulduğu bildirildi.
Ancak inceleme sonucunda yalnızca kamuya açık bilgilerin toplandığı, kamuya açık olmayan verilere erişilmediği belirtildi. Başka bir olayda, ABD Menkul Kıymetler ve Borsa Komisyonu’na (SEC) ait internet sitelerinde herkesin erişebileceği bilgiler tespit edildi. Ajanların bu bilgileri daha sonra internet üzerinde yayımlamaları, verilen talimatların ötesine geçen bir davranış olarak değerlendirildi.
SEC Sözcüsü Kurt Hopfenspirger, olayla ilgili açıklamasında kamuya açık olmayan herhangi bir bilgiye erişilmediğini vurguladı. Yapay zeka değerlendirme kuruluşu Transluce, OpenAI kaynaklı bazı ajanların ABD Eğitim Bakanlığı’nın internet sitesine erişim girişiminde bulunduğunu öne sürdü.
Transluce, bu ajanların Eğitim Bakanlığı Sivil Haklar Ofisi’nin internet sitesine yönelik basit bir saldırı girişiminde bulunduğunu ve girişimin başarısız olduğunu açıkladı; ancak bu iddia OpenAI tarafından doğrulanmadı. ABD Eğitim Bakanlığı, internet sitesi veya veri tabanlarında herhangi bir etki meydana geldiğine ilişkin kanıt bulunmadığını bildirdi. OpenAI, Transluce tarafından ortaya konulan bulguları da inceleme altına aldı.
Son gelişmelerin ardından, OpenAI, yeni güvenlik önlemleri uygulanmadan eğitim sürecine devam etmeyeceğini açıkladı. Şirket, yapay zeka sistemleri geliştikçe yeni sorunlarla karşılaşılabileceğine ve gelecekte eğitim süreçlerinin yeniden duraklatılmasının gerekebileceğine dikkat çekti. Söz konusu olaylar, yapay zeka ajanlarının internete erişim ve bağımsız hareket etme kapasitesine ilişkin güvenlik tartışmalarını yeniden gündeme getirdi.
OpenAI’nin yanı sıra diğer yapay zeka şirketleri de son dönemde beklenmedik model davranışları ve güvenlik riskleri ile ilgili çeşitli olayları kamuoyuyla paylaştı.
