Kaspersky, yapay zeka ajanlarının güvenliğine ilişkin yeni bir kılavuz yayınladı. Raporda, siber bağışıklık ilkeleri temel alınarak geliştirilen "secure-by-design" yaklaşımının, otonom sistemlerin taşıdığı risklere ve mevcut tehdit senaryolarına odaklandığı belirtildi. Açıklamaya göre, yapay zeka ajanları yazılım geliştirme gibi kurumsal işlemlerde daha fazla kullanılmaya başlandı.
Raporda, bu ajanların farklı özerklik seviyeleri ve geçmişte yaşanan siber olayların etkileri incelendi. Kaspersky, bu ajanların kötüye kullanımı, aşırı yetkilendirilmesi ve istenmeyen işlemler gerçekleştirmesi gibi potansiyel risklere karşı tasarım ilkeleri önerdi.
Rapora göre, büyük dil modelleri (LLM) ve dış kaynaklardan gelen veriler, varsayılan olarak güvenilmeyen bileşenler olarak kabul edilmeli ve geri döndürülemez işlemler için kullanıcı onayı gerekliliği getirilmelidir. Ayrıca, raporda güvenliğin sağlanması için güvenilir bileşenlerin sayısının en aza indirilmesi, sistemlerin sandbox ve sanal makinelerle izole edilmesi ve harici API erişiminde "varsayılan olarak reddet" stratejisinin benimsenmesi önerilmektedir.
KURUMSAL TAVSİYELER
Raporda CISO, CIO ve CTO’lara yönelik öneriler arasında yapay zeka ajanlarının envanterinin çıkarılması, izolasyon ve konteynerizasyon politikalarının uygulanması, ayrıca ajanların tedarik zincirinin yönetimi de yer aldı. Kaspersky Yapay Zeka Teknolojileri Araştırma Merkezi Başkanı Vladislav Tushkanov, Siber Bağışıklık yaklaşımının başlangıçta yapay zeka dışında geliştirilmesine rağmen temel ilkelerinin gelişmiş büyük dil modellerine de uygulanabileceğini vurguladı.
Tushkanov, büyük dil modellerinin, hata ya da güvenlik ihlali olasılıklarının etkisinin sınırlandırılması amacıyla dikkatle ele alınması gerektiğini belirtti. Güvenli bir mimari için AI Firewall gibi teknolojilerin yanı sıra modern güvenlik katmanlarının entegrasyonu gerektiğini ifade etti. Bu şekilde, günümüz akıllı uygulamalarının güvenlik ihtiyaçlarının karşılanabileceği kaydedildi.
