Çin’de yapay zeka teknolojilerine ait yeni yayımlanan aktüel risk değerlendirmesinde, yapay zekanın aşırılıkçı kümeler ve terör örgütlerince kitle imha silahları üretmek için kullanılabileceği ihtarına yer verildi.
Çin Ulusal Siber Güvenlik Standardizasyonu Teknik Komitesi ile Ulusal Bilgisayar Ağı Acil Durum Cevap Teknik Grubu, “Yapay Zeka Güvenlik İdaresi Çerçeve Belgesi”nin aktüel versiyonunu yayımladı.
Yapay zeka teknolojisinin sağladığı gelişen bilgi sürece yetenekleriyle sıradan insanlara dahi yıkıcı silahların imalini öğrenme talihi verebileceğine değinilen dokümanda, kitle imha silahları ve kritik silah sistemlerinin üretimine dair bilgi ve yetenekler üzerindeki denetim kaybının risklerine işaret edildi.
Yapay zeka sistemlerinin eğitmek üzere aralarında nükleer, biyolojik ve kimyasal silahlar ile füze sistemlerine ait temel teorik bilgilerin de yer aldığı içerik bakımından epey geniş derlemeler ve datalardan yararlandığına dikkat çekilen dokümanda, “Yeterli kontrol yapılmazsa aşırılıkçı kümeler ve teröristler, yapay zeka vasıtasıyla bu çeşit silahların tasarımı, imalatı, sentezlenmesi ve kullanılmasına ait bilgileri edinip bu yetenekleri geliştirebilirler.” ihtarına yer verildi.
“BARIŞA YÖNELİK RİSKLERİ ARTIRABİLİR”
Belgede, yapay zeka sistemlerinin “erişim takviyeli bilgi üretimi” ismi verilen teknikle bir soruna cevap vermeden evvel internet üzerindeki geniş ölçekli şimdiki bilgileri taradığı hatırlatılarak, bunun mevcut denetim sistemlerini etkisiz kılarak barışa ve güvenliğe yönelik riskleri yoğunlaştırabileceği vurgulandı.
Bir yapay zeka uygulamasının muteber olabilmesi için insan denetiminin yitirilmemesinin temel unsur olması gerektiğinin altı çizilen evrakta, yapay zekanın insan üzere bağlantı kurmasının ve öz-farkındalık kazanmasının tehlikelerine dikkat çekilerek, “İnsanlığın varlığı ve kalkınmasını tehdit edebilecek denetimsiz riskleri engelleyebilmek için yapay zekanın hep insan denetiminde kalacağından emin olmalıyız.” değerlendirmesinde bulunuldu.
