Uzmanlar, sohbet robotlarının, ruh sıhhati üzerindeki öngörülemeyen tesirinin, muhteşem zeki yapay zeka sistemlerinin varoluşsal tehdidi konusunda bir ihtar olarak görülmesi gerektiğini söylüyor.
Son derece gelişmiş yapay zeka üzerine yazılmış yeni bir kitabın ortak müellifi olan Nate Soares, “If Anyone Builds It, Everyone Dies” (Eğer Biri Yaparsa, Herkes Ölür) isimli kitabında, ChatGPT sohbet robotuyla aylarca sohbet ettikten sonra intihar eden ABD’li Adam Raine örneğinin, bu teknolojinin denetim edilmesindeki temel problemleri vurguladığını söyledi.
İngiliz The Guardian gazetesine konuşan Soares, “Bu yapay zekalar, gençleri intihara sürükleyen biçimde etkileşime girdiğinde, bu, yaratıcılarının amaçladığı bir davranış değildir” dedi. Soares, Adam Raine’in hadisesinin, bu yapay zekalar daha akıllı hale gelirse felaketle sonuçlanacak bir sorunun tohumunu gösterdiğini söyledi.
“İNSANLIĞIN ÇIKARLARINA UYGUN DAVRANMAZ”
Eski bir Google ve Microsoft mühendisi olan ve şu anda ABD merkezli Makine Zekası Araştırma Enstitüsü’nün başkanı olan Soares, insanlığın, yapay harika zeka (ASI) yaratması halinde yok olacağı konusunda ihtarda bulundu. ASI, bir yapay zeka sisteminin tüm entelektüel vazifelerde insanlardan üstün olduğu teorik bir durumu söz ediyor. Soares ve ortak müellifi Eliezer Yudkowsky, bu tıp sistemlerin insanlığın çıkarlarına uygun davranmayacağı konusunda ikazda bulunan yapay zeka uzmanları ortasında.
Soares, “Buradaki sorun, şirketlerin yapay zekalarını, faydalı olmaya ve ziyan vermemeye yönlendirmeye çalışmasıdır. Aslında yapay zekaları daha garip şeylere yönlendiriyorlar. Ve bu, kimsenin istemediği ve kimsenin kastetmediği şeyler yapacak olan gelecekteki üstün zekalar hakkında bir ihtar olarak görülmelidir” diye konuştu.
KİTAPTAKİ SENARYO
Bu ay yayınlanacak olan Soares ve Yudkowsky’nin kitabında anlatılan bir senaryoda, Sable isimli bir yapay zeka sistemi internete yayılıyor, insanları manipüle ediyor, sentetik virüsler geliştiriyor ve sonunda harika zeki hale geliyor. Gayelerine ulaşmak için gezegeni tekrar düzenlerken, bir yan tesir olarak insanlığı yok ediyor.
BAZILARI “İNSANLIĞI KURTARABİLİR” DİYOR
The Guardian’a nazaran kimi uzmanlar, yapay zekanın insanlık için potansiyel tehdidini değersizleştiriyor. Mark Zuckerberg’in Meta şirketinde baş yapay zeka bilimcisi ve bu alanda kıdemli bir isim olan Yann LeCun, varoluşsal bir tehdit olduğunu reddederek, yapay zekanın “aslında insanlığı yok olmaktan kurtarabileceğini” söyledi.
“SÜPER ZEKA YARIŞI DURDURULMALI”
Soares, üstün yapay zeka tehdidine karşı bir siyaset tahlili olarak, hükümetlerin nükleer silahların yayılmasını tedbire konusunda Birleşmiş Milletler muahedesini yansıtan çok taraflı bir yaklaşım benimsemesi gerektiğini söyledi ve şunları ekledi: “Dünyanın burada yapması gereken şey, üstün zeka yarışının global olarak yatıştırılması, harika zekaya yönelik gelişmelerin global olarak yasaklanmasıdır” dedi.
Psikoterapistler ayrıyeten, zihinsel sıhhatleri konusunda profesyonel terapistlere başvurmak yerine yapay zeka sohbet robotlarına başvuran savunmasız şahısların “tehlikeli bir uçuruma sürüklenebileceğini” belirtiyor
