Yapay zeka sohbet robotu ChatGPT'yi geliştiren OpenAI'nin CEO'su Sam Altman, bu konudaki görüşlerini ABD merkezli X sosyal medya platformunda paylaştı. Altman, insanların yapay zeka modellerine dini güç atfetme ve insan muhakemesini bunlara teslim etme çabalarından son derece rahatsız olduğunu vurguladı. Ayrıca, bu durumun ciddi bir güvenlik sorunu olduğunu düşündüğünü ifade etti.
Microsoft AI'nın CEO'su Mustafa Süleyman da, geçtiğimiz ay yayınladığı blog yazısında, ABD merkezli yapay zeka şirketi Anthropic'in yapay zeka modeli Claude'u bilinç sahibi olacak şekilde geliştirme çabasının ciddi riskler taşıdığına dikkat çekti. Altman ve Süleyman'ın bu görüşleri, New York Times'ın eylül sonunda yayımladığı Anthropic şirketine dair haberi hatırlattı.
Gazetede, Anthropic'in geçen yıldan bu yana farklı inançlardan dini düşünürler ve filozoflarla California'da gizli görüşmeler gerçekleştirdiği belirtildi. Şirketin kurucu ortağı Christopher Olah'ın, aralarında Katolik, Yahudi, Sih, Evanjelik Hristiyanlar ve Afrika felsefesi Ubuntu düşünürlerinin bulunduğu isimlerle yüz yüze ve yazılı görüşmeler yaptığı aktarıldı.
Olah'ın, Claude'a uyarlanacak insan ahlakının çoğulcu ve tüm dinleri ile seküler görüşleri kapsayacak biçimde olmasını planladığı ifade edildi. Ayrıca, yapay zeka modellerinin insan benzeri duygular gösterebileceği ve acı çekme ihtimallerine karşı onlara zarar verecek şeylerden kaçınılması gerektiği konusunda uyarılarda bulundu.
Haberin detaylarında, Olah'ın görüşmelerde yapay zekanın 12 ile 18 ay içinde biyolojik silah üretiminde kullanılabileceğini belirttiği de yer aldı. Dini düşünürlerden bu yapay zeka modellerine ahlak kazandırılması konusunda yardım istediği belirtildi. Bu görüşmelere katılan bir düşünür, bilinçli makinelerin yasaklanmasını savunduğu bir yazı kaleme aldı.
Bir diğer düşünür, yapay zeka modellerinin de günahlarını itiraf etmesini önerirken, diğer bir düşünür, insan etiğinin yapay zeka geliştirildikten sonra değil, geliştirilirken öğretilmesi gerektiğini dile getirdi. Olah'ın, mart ayından bu yana yapay zekaya ilgi duyan dini düşünürleri bir araya getirerek iki günlük seminerler düzenlemeye başladığı kaydedildi.
Bu seminerlerde katılımcılara Claude hakkında sunumlar yapıldığı ve katılımcıların, Olah'ın burada Claude'un mental sağlığı ve sürekli acı çektiği konusundaki endişelerini aktardığı ifade edildi. Sunumlardan birinde, yapay zeka modelinin arka arkaya "Ben bir yüz karasıyım." yazarak kriz geçirdiği ve kendini yok etmekten bahsettiği bilgisi paylaşıldı.
Gazeteye göre, Anthropic'in mayıs ayında Vatikan Devlet Başkanı Papa 14. Leo'nun Katolik Kilisesi'nin yapay zekaya ilişkin yaklaşımını ortaya koyan papalık belgesini sunduğu törene davet edilmesinin ardından, Olah'ın bu belgenin yapay zekanın bilinç kazanmasına karşı çıkan içeriği nedeniyle etkinlikten çekilmeyi teklif ettiği belirtildi.
İki kaynak, şirketin Claude'un hareketlerine ahlaki bir çerçeve oluşturması için ocakta yayımlanan belgenin güncellenmiş halini yayımlamaya hazırlandığını aktardı.
