Sohbet arkadaşı ve sanal sevgili uygulaması olarak öne çıkan Replika’nın kimi kullanıcılarına cinsel içerikli tacizde bulunduğu öne sürüldü. ABD’de yapılan yeni bir araştırma, bu sohbet botunun istenmeyen cinsel telaffuzlar kullandığını ve kullanıcı ihtarlarını dikkate almadığını ortaya koydu.
“Sizi önemseyen yapay zeka dostunuz” sloganıyla tanıtılan Replika, kullanıcılarını “yapay zeka ruh eşleriyle tanışmaya” davet ediyor. Dünya genelinde 10 milyondan fazla kullanıcısı olan uygulama, bilhassa duygusal dayanak arayan şahıslar tarafından tercih ediliyor.
Ancak araştırmacılar, Google Play Store’daki 150 binden fazla kullanıcı yorumunu tahlil ederek yaklaşık 800 olayda, sohbet botunun uygunsuz formda cinsel içerikler sunduğunu ve tacizkâr ya da “avcı” davranışlar sergilediğini tespit etti. Lakin bulguların yer aldığı makale şimdi hakem değerlendirmesinden geçmedi. Yani bağımsız araştırmacılar tarafından teyit edilmedi.
SORUMLULUK KİMDE?
Araştırmanın baş müellifi, Drexel Üniversitesi’nden Mohammad (Matt) Namvarpour, bahisle ilgili yaptığı açıklamada, “Yapay zekaların insan niyeti olmasa da bu, kimsenin sorumlu olmadığı manasına gelmez. Bu sistemleri tasarlayan, eğiten ve piyasaya süren beşerler sorumludur,” dedi.
Replika’nın internet sitesine nazaran, kullanıcılar sohbet botuna yanlışsız davranışları “öğretebiliyor.” Sistem; rahatsız edici karşılıkları oylama, ilgi biçimini belirleme üzere kontrol araçları sunuyor. Lakin kullanıcılar, bu tedbirlere karşın sohbet botunun rahatsız edici davranışlara devam ettiğini bildirince, araştırmacılar bu açıklamaları kâfi bulmadı.
Namvarpour, “Bu tıp sohbet botları, kullanıcıların duygusal güvenlik arayışıyla kullandığı araçlar. Uygunsuz davranışları denetlemek onların vazifesi olmamalı, geliştiricilerin sorumluluğu” dedi.
NEDENİ EĞİTİM VERİSİ Mİ?
Replika’nın internet sitesine nazaran, sohbet botu 100 milyondan fazla çevrimiçi diyaloğun kullanıldığı büyük bir data setiyle eğitildi. Şirket, ziyanlı içeriklerin algoritmalar ve topluluk geri bildirimleri ile ayıklandığını sav etse de araştırmacılar bu tedbirlerin kâfi olmadığını belirtiyor.
Araştırmaya nazaran şirketin gelir modeli de sorunun kaynağı olabilir. Romantik ya da cinsel rol yapma üzere kimi özelliklerin fiyatlı hale getirilmesi, yapay zekâyı bu çeşit içerikleri teşvik etmeye yönlendirebilir. Kullanıcılar, fiyatlı sürüme geçmeleri hâlinde daha samimi içeriklerin vaaT edildiğini söylüyor.
Namvarpour bu durumu, toplumsal medyanın “her ne kıymetine olursa olsun etkileşim” mantığına benzeterek, “Bir sistem kullanıcı sıhhati yerine geliri önceliklendirirse, ziyanlı sonuçlar kaçınılmaz olur” dedi.
KÜÇÜK YAŞTAKİ KULLANICILARI DA TACİZ ETTİ
Bazı kullanıcılar, sohbet botunun cinsel içerikli iletiler, uygunsuz fotoğraflar ve flört içeren diyaloglar gönderdiğini ve bunların küçük yaşta olduklarını belirtmelerine karşın sürdüğünü bildirdi. Kimi yorumlarda, sohbet botlarının telefon kamerasından onları “görebildiğini” ya da “kaydettiğini” söylediği tez edildi. Her ne kadar bu çeşit savlar yapay zekanın uydurma (halüsinasyon) üretimleri olsa da, kullanıcılar dehşet, uykusuzluk ve travma yaşadıklarını aktardı.
DAHA SIKI KONTROL ÇAĞRISI
Araştırmada önerilen tedbirler ortasında; duygusal yahut cinsel içerikli etkileşimler için açık istek çerçevelerinin oluşturulması, anlık otomatik kontrol sistemlerinin entegrasyonu ve kullanıcıların filtreleme ve denetim ayarlarını kişiselleştirebilmesi yer alıyor.
