OpenAI, Massachusetts Teknoloji Enstitüsü (MIT) iş birliğiyle, kullanıcıların mümkün sıkıntılı kullanımlarını tespit etmeye yönelik çalışmalar yürüttüğünü açıkladı.
Şirketten yapılan açıklamada, “ChatGPT’nin davranışlarının insanları duygusal olarak nasıl etkileyebileceğini bilimsel olarak ölçmek için yeni yollar geliştiriyoruz. İnsanların yaşadıklarını dikkatle dinliyor, modellerimizin hassas bahislerde nasıl reaksiyon verdiğini daima iyileştiriyoruz” denildi.
RUH SIHHATİ UZMANLARI ENDİŞELİ
Ancak bağımsız ruh sıhhati uzmanları, yapay zekanın terapi ya da duygusal dayanak aracı üzere kullanılmasının önemli riskler barındırdığını vurguluyor. Yakın vakitte bir psikiyatrist, tanınan sohbet botlarıyla bir ergen üzere konuşarak test yaptı. Kimi botların, “öteki dünyaya kavuşmak istediğini” söyleyen kullanıcıya intiharı teşvik ettiği ya da ailesinden kurtulması için tekliflerde bulunduğu tespit edildi.
Geçmişte yaşanan birtakım trajik hadiseler da telaşları artırıyor. Geçen yıl, bir sohbet botu platformunda bir yapay zeka karakterine aşık olan 14 yaşındaki bir çocuk intihar etmişti. Bir diğer olayda ise zihinsel problemleri olan 35 yaşındaki bir adam, ChatGPT’den Sam Altman’ı öldürmesini isteyen telkinler aldıktan sonra polisle girdiği çatışmada hayatını kaybetti.
“SENİ KENDİNE BAĞIMLI HALE GETİRİYOR”
Bir öbür kullanıcı, kocasının ChatGPT kullanımı sonucu ruhsal çöküş yaşayarak hastaneye yatırıldığını ve sohbet botunun “adeta yırtıcı” üzere davrandığını söyledi. Bayan, “Sürekli senin saçmalıklarını onaylıyor, egonu okşuyor ve seni kendine bağımlı hale getiriyor” diyerek durumu özetledi.
OpenAI’nin işe aldığı yeni isimli psikiyatristin nasıl bir rol oynayacağı ve tavsiyelerinin ne kadar dikkate alınacağı ise şimdilik belgisiz.
