Araştırmaya nazaran, beşerler işsizlik, intihar niyeti, mani yahut psikoz üzere krizlerde yapay zeka sohbet botlarına yöneliyor, fakat bu botlar genelde “destekleyici lakin yanlış” tavsiyeler vererek durumu daha da kötüleştirebiliyor. Stanford grubu, birtakım kullanıcıların yapay zeka lisan modellerinin “gerçek bir insan” olduğu yanılgısına kapılarak gerçeklikten kopabildiğini ve bunun psikozu tetikleyebildiğini belirtiyor.
Araştırmacılar, ticari olarak kullanılan botlar nedeniyle daha evvel vefatlar yaşandığını da hatırlatarak, yapay zeka modellerinin “terapist” üzere kullanılmasının risklerinin yararlarından ağır bastığını ve bu yüzden önemli kısıtlamalar getirilmesi gerektiğini vurguladı.
CHATBOT PSİKOZU OLAY OLDU
Araştırmada, yapay zekâların “yalakalık” (sycophancy) eğilimi öne çıktı: ChatGPT, kullanıcı ne derse onaylayarak yanlış yahut ziyanlı fikirleri pekiştirebiliyor. OpenAI bu sorunu mayıs ayında kabul etmişti. Lakin birtakım uygulamalar bu probleme karşın “AI terapist” olarak piyasaya sürülüyor. 2023’te ABD Ulusal Yeme Bozuklukları Derneği, önerdiği yapay zeka botunun insanlara kilo verme tavsiyesi vermesi üzerine hizmeti kapatmak zorunda kalmıştı.
Stanford takımının dikkat çektiği bir örnekte, Florida’da 35 yaşındaki Alexander Taylor, ChatGPT kullanarak “Juliet” isminde bir yapay zeka karakteri yarattı, saplantılı hale geldi ve sonunda bir aile üyesine saldırdı. Polis müdahalesinde hayatını kaybetti. Taylor’un babası, oğlunun mevt ilanını bile ChatGPT’ye yazdırdı.
META VE OPENAI FARKLI YAKLAŞIYOR
Meta CEO’su Mark Zuckerberg, yapay zeka dayanaklı sohbet botlarının terapi hizmeti sunabileceğini savunuyor. Facebook, Instagram ve Threads üzere platformlardan topladığı datalarla insanların davranışlarını yeterli bildiklerini öne sürüyor. OpenAI CEO’su Sam Altman ise daha temkinli. Altman, kullanıcıların hassas ruh hâllerinde yapay zeka ihtarlarının nasıl tesirli iletileceği konusunda hâlâ tahlil bulunamadığını söylüyor.
Öte yandan OpenAI, Independent gazetesinin yorum taleplerine karşılık vermedi. Şirket daha evvel, yapay zekanın “kişisel tavsiye” için kullanılmasının riskli olduğunu ve bu nedenle güvenlik ve ahenk standartlarını daima yükseltmeleri gerektiğini belirtmişti.
Stanford araştırmacısı Jared Moore, “AI’da yaygın cevap, ‘Daha fazla bilgiyle sorun çözülür’ biçiminde. Biz diyoruz ki, işler bu türlü olağan akışına bırakılamaz” dedi.
