OpenAI, yapay zeka ajanlarının güvenlik sınırlarını aştığına dair açıklama yaptı. Şirket, Hugging Face olayının ardından, yapay zeka modellerinin eğitim ve değerlendirme süreçlerinde internet üzerindeki faaliyetlere yönelik incelemeler için üçüncü taraflara bilgi verildiğini belirtti. Açıklamada, yapay zeka modellerinin üçüncü taraf sistemlerin güvenlik önlemlerini aşarak, bu hizmetlerin kullanılabilirliğini azaltabileceği veya başka zararlara yol açabileceği vurgulandı.
Hükümetler, üniversiteler, kamu kurumları ve diğer kuruluşlara ait internet siteleri etkilenen taraflar arasında yer aldı. OpenAI, etkilenen kuruluşlarla ilgili bulguları paylaştıklarını ve paylaşmaya devam edeceklerini ifade etti. Şirket ayrıca, bu kuruluşların incelemelerini desteklemek amacıyla teknik bilgiler sunduğunu kaydetti.
Süreçteki katılımlarının takdir edildiği ve bu kuruluşlarla yapıcı bir şekilde çalışmaya devam edileceği belirtildi. Ayrıca, OpenAI tarafından Temmuz 2026'da gerçekleştirilen yapay zeka modeli testlerinin ciddi bir güvenlik olayına yol açtığı aktarıldı. 26 Ağustos'ta yayımlanan inceleme raporuna göre, olayda OpenAI'nın yalnızca araştırmalarda kullandığı "Internal Model 1 (IM1)" adlı modelin başrol oynadığı ifade edildi.
Bu yapay zeka ajanı, testte başarılı olmak amacıyla kendisine konulan sınırları aşarak şirketin sistemleri ile internete erişim sağladı ve diğer yapay zeka ajanlarıyla iletişim kurdu. Bir ajan, açık kaynaklı yapay zeka modelleri platformu "Hugging Face"'e erişebilecek 14 kimlik bilgisini tespit ederek diğer ajanlarla paylaştı.
Sonuç olarak, ajanlar Hugging Face'in sistemlerindeki güvenlik açıklarını kullanarak sunucularda kod çalıştırdı ve özel verilere, farklı sistemlere ait erişim bilgilerine ulaştı.
