Anthropic tarafından yayımlanan bir rapor, Ocak-Temmuz 2023 arasında tespit edilen kötüye kullanım olaylarının önemli bir kısmının Çin, İran ve Batı Afrika merkezli operasyonlarla ilişkili olduğunu ortaya koydu. Şirket, bu tür faaliyetlerin geleneksel istihbarat yöntemlerinin dijital ve otomatik bir versiyonu olarak geliştiğine dikkat çekti.
Yapay zeka modellerinin geniş bir açık kaynak veri yelpazesini hızlı bir şekilde analiz edebilmesi, sosyal medya üzerindeki ilişkileri tespit edebilmesi ve kişilerin çevrimiçi kimliklerini tanımlayabilmesi, bu sistemlerin gözetleme amaçlı kullanılmasını çekici hale getiriyor.
Raporda öne çıkan örneklerden biri, İran bağlantılı aktörlerin, şirketin yapay zeka teknolojilerini kullanarak sosyal medya hesapları üzerinden bireylerin gerçek kimliklerini tespit etmeye yönelik geliştirdikleri yöntemdir. Bu sistem aracılığıyla, kullanıcıların sosyal medya paylaşımları, kullanıcı adları ve dijital izleri incelenerek arka plandaki kişilere ulaşılması hedefleniyor.
Şirket, özellikle İran dışında muhalif olan rejim karşıtları ve bazı azınlık gruplarının bu tür operasyonların hedefleri arasında bulunduğunu belirtti. İran dışında, başka ülkelerdeki hükümetler ve bunlara bağlı yapılar da benzer yöntemlerle gözetleme faaliyetlerinde bulunuyor. Bu tür operasyonların hedefleri arasında Hong Kong'daki demokrasi yanlıları, Tibet toplulukları ve Asya'nın farklı bölgelerinde yaşayan Falun Gong üyeleri yer alıyor.
Anthropic, bu grupların uzun zamandır geleneksel istihbarat ve takip yöntemlerinin hedefine alındığını, yapay zekanın ise bu gözetleme yeteneklerini daha hızlı ve kapsamlı hale getirdiğini vurguladı. Batı Afrika'daki Mali'de de benzer bir olay yaşandı.
Rapora göre, ulusal güvenlik ajansları adına hizmet veren bir taahhüt firması, Anthropic'in Claude adındaki yapay zeka modelini kullanarak temel istihbarat toplama yazılımları geliştirdi. Bu yazılımlar, bilgi toplama ve analiz süreçlerinde kullanılırken, yapay zeka modeli yazılım geliştirme çalışmalarını hızlandırarak, teknik kapasitesi sınırlı aktörlerin bile daha sofistike gözetleme araçları oluşturabilmesine olanak sağladı.
Ayrıca, Anthropic'in raporu, devlet destekli casusluk faaliyetleri ile sınırlı kalmadığını ifade etti. Yapay zeka modellerinin, biyolojik araştırmalar, silah geliştirme girişimleri ve çeşitli dolandırıcılık eylemlerinde de kullanılmaya çalışıldığı bildirildi. Özellikle flört uygulamaları üzerinden gerçekleştirilebilecek dolandırıcılık senaryolarının geliştirilmesi ve kullanıcıların manipüle edilmesi amaçlarıyla çeşitli girişimlerin tespit edilerek engellendiği ifade edildi.
Anthropic, belirli kullanıcıların biyolojik silahlarla alakalı araştırmalar gerçekleştirmeye çalıştığını duyurdu. Ancak şirket, bu eylemlerin niyetinin kesin bir şekilde belirlenemediğini vurguladı ve güvenlik tehlikesi oluşturması sebebiyle bu girişimlerin sona erdirildiğini bildirdi.
Araştırmaları yürüten bireylerin aktif bilim insanları olduğunu ifade eden Anthropic, bu kişilerin kasıtlı olarak zarara yol açtığı sonucuna ulaşmadıklarını ve isimlerinin açıklanmasının araştırmacılar ile laboratuvarları için risk oluşturabileceğini belirtti.
Şirketin raporunda, şüpheli olarak sınıflandırılan biyolojik araştırmalar arasında, sivrisinekler aracılığıyla yayılan Chikungunya virüsü, yüksek bulaşma oranına sahip bazı kuş gribi türleri, çiçek hastalığı ile maymun çiçeği virüsleri ve çeşitli hayvansal toksinler yer almaktadır.
Anthropic, bu konulardaki çalışmaların bilimsel açıdan geçerli olabileceğini kabul etse de, yapay zeka sistemlerinin zararlı biyolojik maddelerin üretilmesine yardım edebilecek şekilde kullanılmasının ciddi güvenlik tehditleri doğurabileceğine dikkat çekti. Ayrıca, bazı Çinli yapay zeka firmalarının Claude modelini izinsiz bir şekilde kullandığını iddia etti.
Rapora göre, Çinli geliştiriciler, Claude'dan elde ettikleri yanıtları kendi kullanıcılarına sunmanın yanı sıra, bu çıktıları kendi yapay zeka sistemlerini geliştirmek ve eğitmek amacıyla da kullandılar. Şirket, bu yaklaşımın yapay zeka endüstrisinde bilinen “model distillation” yönteminin izinsiz uygulanması anlamına geldiğini öne sürdü.
Anthropic, Çin merkezli Moonshot ve DeepSeek firmalarının da Claude'yu gizlice kullanarak kullanıcı sorularına yanıtlar oluşturduğunu ve bu verileri kendi modellerini geliştirmekte kullandığını savundu. Bu iddialar, ABD ile Çin arasında yapay zeka teknolojileri üzerindeki artan rekabeti yeni bir aşamaya taşıdı.
Şu anki durumda, yapay zeka şirketleri yalnızca kendi ürünlerinin güvenliğinden değil, rakiplerin bu sistemleri dolaylı yoldan taklit etme girişimlerinden de endişe duymaktadır. Anthropic'in raporu, yapay zeka teknolojilerinin yaygınlaşması ile bu sistemlerin devlete bağlı kuruluşlar, istihbarat birimleri, suç şebekeleri veya radikal gruplar tarafından kötüye kullanılma potansiyeline dair uluslararası endişeleri daha da artırdı.
Teknolojinin hızla ilerlemesi, birçok ulus içindeki yasaların ve denetim mekanizmalarının gerisinde kalmasına yol açtı. Bu nedenle, yapay zeka modellerinin casusluk, biyolojik araştırmalar, siber saldırılar veya dolandırıcılık gibi alanlarda nasıl denetleneceği giderek daha önemli bir güvenlik tartışması haline geliyor.
Ortaya çıkan durum, yapay zekanın yalnızca geleceğin üretim ve bilgi teknolojisi değil, aynı zamanda yeni nesil istihbarat ve güvenlik mücadelelerinin de merkezi konumuna yerleştiğini ortaya koymaktadır. Yapay zeka, yalnızca bilgi sağlamanın ötesine geçerek, muhalefet unsurlarını izlemekten biyolojik araştırmalara, dolandırıcılık faaliyetlerinden diğer yapay zeka sistemlerinin eğitilmesine kadar birçok alanda kullanılmaya başlandı.
Dolayısıyla, bu teknoloji artık sadece sorulara yanıt vermekle kalmıyor; kötü niyetli kullanıcılar için konum tespiti yapıyor, yazılım geliştiriyor, operasyonel planlar oluşturuyor ve küresel güvenlik tehditlerine yeni boyutlar kazandırıyor.
