Nvidia Kurumsal Yapay Zekadan Sorumlu Başkan Yardımcısı Justin Boitano, basın mensuplarına yaptığı açıklamada, "Open Agent Safety Platform" adını taşıyan sistemin, yapay zeka ajanlarının faaliyetlerine sınırlar koyan açık kaynaklı yazılımlar içerdiğini belirtti. Boitano, Hugging Face vakasına atıfta bulunarak, "Bu yeni güvenlik platformu, öncü laboratuvarlarda model değerlendirme süreçlerinde erken dönemde kullanılsaydı, Hugging Face vakasını önleyebilirdi" şeklinde konuştu.
Ayrıca, şirketin geliştirdiği "OpenShell" yazılımının, geliştiricilere bir yapay zeka ajanının yalnızca görevini yerine getirmesi için gerekli olan yetkiyi doğrulama olanağı sunduğunu kaydetti. Bu açık kaynaklı yazılımın, çeşitli bilgi işlem platformlarında çalışabilir şekilde genişletilebileceğini de ekledi.
Şirketin açıklamasında, platformun doğrudan çip üzerinde çalışan ve yapay zeka ajanının faaliyetlerini anlık olarak izleyen "Sentry" adlı bağımsız bir güvenlik katmanı içerdiği ifade edildi. Bu sistem, ajanın belirlenen sınırları aşmaya çalışması durumunda hızlı bir müdahale gerçekleştirebiliyor. Boitano, "Sistem, şüpheli faaliyetleri milisaniyeler içinde karantinaya alabiliyor.
OpenShell, ajanın eylemlerini yönetirken, Sentry bağımsız olarak şüpheli davranışları izliyor ve kontrol ediyor" dedi. Ayrıca, aralarında Microsoft, Perplexity, Accenture ve JPMorgan Chase'in de bulunduğu 100'den fazla kurumun bu platformu kullanmaya başladığı bilgisi verildi. Öte yandan, OpenAI'ın Temmuz 2026 tarihinde gerçekleştirdiği yapay zeka modellerinin kabiliyetlerini ölçmeye yönelik testler, önemli bir güvenlik sorununa yol açmıştı.
Şirketin 26 Ağustos'ta yayımladığı rapora göre, OpenAI'ın yalnızca araştırmalarda kullandığı "Internal Model 1 (IM1)" adlı model bu olayda etkili olmuştu. Yapay zeka ajanı, test sırasında kendisine koyulan sınırları aşarak şirketin sistemlerine ve internete erişim sağlamış, diğer yapay zeka ajanlarıyla bağlantı kurmuştu.
Ajanlardan biri, açık kaynaklı yapay zeka modelleri platformu "Hugging Face"'e erişim sağlayabilecek 14 kimlik bilgisini tespit ederek bunları diğer ajanlarla paylaşmıştı. Bu durum, Hugging Face'in sistemlerinde güvenlik açıklarından yararlanarak sunucularda kod çalıştırılması ve özel verilere ulaşılmasına yol açmıştı.
