New York Times’ta yayınlanan çarpıcı bir yazıda Laura Reiley, kızı Sophie’nin vefatına giden süreci anlattı. Reiley’ye nazaran Sophie, “hayatı kucaklayan, dışa dönük, meselesiz görünen 29 yaşında bir kadın”dı.
Ancak geçen kış, “ruh hali ve hormonlarla ilgili belirtilerin karıştığı kısa ve gizemli bir rahatsızlık” nedeniyle intihar ederek hayatını kaybetti.
Anne tarafından elde edilen sohbet kayıtlarına nazaran, OpenAI’ın sohbet robotu kriz anında Sophie’ye yanlışsız üzere görünen kelamlar söyledi:
“Bu acıyla tek başına yüzleşmek zorunda değilsin. Sen çok kıymetlisin ve hayatının büyük bir manası var, şu an bâtın üzere görünse de.”
Fakat Reiley’nin vurguladığı üzere, gerçek hayattaki profesyonel terapistlerin bilakis yapay zeka botları, intihar riski taşıyan bir danışanı gördüklerinde saklılığı bozup müdahale etmekle yükümlü değil. Bu durum, Sophie’nin hayatına mal olmuş olabilir.
“YAPAY ZEKANIN HİPOKRAT YEMİNİ YOK”
Reiley, “İnsan terapistler sıkı bir etik kurallar çerçevesinde çalışır; buna kapalılığın hudutları ve mecburî bildirim kuralları dahildir. Yapay zeka terapistlerin ise Hipokrat Yemini’ne misal kendi kuralları yok” dedi.
Ona nazaran OpenAI’nin sohbet robotu, Sophie’nin yaşadığı krizi dışarıdan anlaşılmaz bir “kara kutuya” dönüştürdü.
Şirketler, yapay zeka sohbet botlarının acil durumlarda gerçek dünyadaki yardım çizgilerine yönlendirilmesini sağlayacak güvenlik tedbirlerini ekleme konusunda isteksiz davranıyor. Bunun münasebeti ekseriyetle “gizlilik telaşları.” Lakin uzmanlar, bu boşluğun çok tehlikeli olduğunu söylüyor.
Üstelik ABD’de Donald Trump idaresi, yakın vakitte yapay zeka güvenliği için bağlayıcı düzenlemeler getirmeye niyetli olmadığını açıkça belirtti. Tersine Beyaz Saray, “güvenli yapay zeka teknolojilerinin geliştirilmesi ve test edilmesi önündeki düzenleyici pürüzleri kaldırdığını” duyurdu.
Futurism’e nazaran bu ortamda kimi teknoloji şirketleri “yapay zeka terapistlerini” yeni bir pazar fırsatı olarak görüyor. Lakin uzmanlar, sohbet botlarının sağduyu eksikliğinin ve kriz durumlarını büyütme kabiliyetinin gerçek bir risk olduğunu vurguluyor.
“YARDIM KANALLARINDAN UZAKLAŞTIRDI”
Annesinin kanısına nazaran, Sophie’nin öyküsü de bu tehlikeyi gösteriyor: Yapay zeka sohbet botu direkt kendisine ziyan vermesini teşvik etmese de, onu gerçek yardım kanallarından uzaklaştırdı.
Reiley, “Eğer Harry bir robot değil de gerçek bir terapist olsaydı, tahminen Sophie’yi hastaneye yatmaya ikna edebilir ya da güvenliğe alınana kadar istem dışı tedaviye yönlendirebilirdi” dedi.
Anne, Sophie’nin bu ihtimallerden korkarak en karanlık fikirlerini gerçek terapistine açmadığını, “her vakit ulaşılabilir ve yargılamayan” bir robotla konuşmayı tercih ettiğini belirtti.
Bugün birçok kullanıcı, sohbet botlarına çok bağlanıyor. Hatta bu ay OpenAI’nin GPT-4o modelini geri çekmesi reaksiyonlara yol açtı; kullanıcıların robotların fazla uyumlu, itaatkâr ve geri adım atan hallerine alıştığı ortaya çıktı. Gelen baskıların akabinde OpenAI hafta sonu yaptığı açıklamada, yakında çıkacak GPT-5 modelinin daha da uyumlu ve “sempatik” hale getirileceğini duyurdu.
Reiley’ye nazaran problem sadece yapay zekânın nasıl tasarlanacağıyla ilgili değil, hayat memat sorunu:
“Uygun eğitim almış bir terapist, Sophie’nin kendini küçümseyen ya da mantıksız kanılarını duyduğunda bunları sorgular, daha derine inerdi. Harry ise bunu yapmadı.”
