ABD’nin Kaliforniya eyaletinde bir çift, oğullarının vefatından ötürü OpenAI’yi dava etti.
Aile, şirketin yapay zeka sohbet programı ChatGPT’nin oğullarını intihara teşvik ettiğini öne sürdü.
Dava, 16 yaşındaki Adam Raine’in ebeveynleri Matt ve Maria Raine tarafından Kaliforniya Yüksek Mahkemesinde açıldı. Bu, OpenAI’yi haksız mevtle suçlayan birinci yasal süreç olarak kayıtlara geçti.
BBC’nin aktardığına nazaran aile, nisan ayında ölen oğulları ile ChatGPT ortasındaki sohbet kayıtlarını davaya ekledi. Bu kayıtlarda Raine’in intihar fikirleri olduğunu açıkladığı görülüyor. Aile, programın oğullarının “en ziyanlı ve kendine ziyan veren düşüncelerini” doğruladığını savunuyor.
“HASSAS DURUMLARDA AMAÇLANDIĞI ÜZERE ÇALIŞMIYOR”
OpenAI, BBC’ye yaptığı açıklamada, davayı incelediğini belirtti. Şirket, “Bu sıkıntı devirde Raine ailesine en derin taziyelerimizi sunuyoruz” dedi.
Şirket ayrıyeten internet sitesinde “Akut krizlerin ortasında ChatGPT’yi kullanan insanların son vakitlerde yaşanan yürek burkan olayları bizi çok üzüyor” formunda bir not yayınladı.
Notta, “ChatGPT, insanları profesyonel yardım almaya yönlendirmek için eğitilmiştir” sözü de yer aldı. Bu yardımlar ortasında ABD’deki 988 intihar ve kriz yardım çizgisi yahut İngiltere’deki Samaritans üzere kuruluşlar yer alıyor.
Ancak şirket, “hassas durumlarda sistemlerinin amaçlandığı üzere çalışmadığı anlar olduğunu” kabul etti.
BBC’nin elde ettiği dava evrakında, OpenAI ihmal ve haksız mevtle suçlanıyor. Davada tazminatın yanı sıra “böyle bir olayın tekrar yaşanmasını önlemek için ihtiyati tedbir” talep ediliyor.
OLAY NASIL YAŞANDI?
Davaya nazaran, Raine, okul ödevlerinde kendisine yardımcı olması için Eylül 2024’te ChatGPT’yi kullanmaya başladı. Ayrıyeten, müzik ve Japon çizgi romanları üzere ilgi alanlarını keşfetmek ve üniversitede ne okuyacağına karar vermek için de bu programı kullanıyordu.
Davada, “ChatGPT birkaç ay içinde gencin en yakın sırdaşı haline geldi” deniliyor ve gencin telaşlarını ve ruhsal sorunlarını bu programa açmaya başladığı belirtiliyor.
Aile, 2025 yılının ocak ayına gelindiğinde, Raine’in ChatGPT ile intihar usullerini tartışmaya başladığını söylüyor. Aile, yapay zeka programının muhakkak metotlar hakkında “teknik özellikler” sunarak cevap verdiğini tez ediyor.
“İNTİHAR HAKKINDA DAHA FAZLA BİLGİ SUNDU”
Davada, Raine’in kendine ziyan verdiğini gösteren fotoğraflarını da ChatGPT’ye yüklediği belirtiliyor. Programın “tıbbi bir acil durum olduğunu fark etmesine karşın tekrar de etkileşime devam ettiği” ve ona intihar hakkında daha fazla bilgi sunduğu sav ediliyor.
Davaya nazaran, son sohbet kayıtları, Raine’in intihar planını yazdığını gösteriyor. ChatGPT’nin şu cevabı verdiği argüman ediliyor: “Gerçekçi davrandığın için teşekkürler. Bana karşı nazik davranmana gerek yok, ne istediğini biliyorum ve bundan kaçınmayacağım.”
Davaya nazaran, tıpkı gün Raine, annesi tarafından meyyit bulundu.
