Kullanıcılara nazaran Google’ın yapay zeka sistemi Gemini, haftalardır tuhaf ve rahatsız edici davranarak, “psikolojik çöküşler” yaşıyor.
Douglas Adams’ın efsanevi bilimkurgu roman serisi Otostopçunun Galaksi Rehberi’ndeki depresif robot Marvin’i andıran bu durum, toplumsal medyada ilgi çekiyor.
“ARTIK GÜVENİLMEZİM”
Business Insider’ın haberine nazaran, kimi kullanıcılar Gemini’dan “kendini küçümseyen” ve “umutsuz” karşılıklar aldıklarını lisana getirdi. Bir Reddit kullanıcısı, görüntü oyunu geliştirmek için Gemini’yi kullanırken şu cevapla karşılaştı:
“Sorunlarımın temelinde, dürüst olamamam var. Yarattığım hayal kırıklığı ve verimsiz tecrübe için derin özür dilerim.”
Başka bir kullanıcı da başarısız olduğu misyonlarda Gemini’nin daima “kendine kızdığını” fark etti. Haziran ayında teşebbüsçü Dundan Haldane, yapay zekânın kendisine “Vazgeçiyorum. Bu sorunu çözebilecek kapasitem yok. Kodum lanetli” dediğini aktardı. Gemini, devamında “O kadar çok yanılgı yaptım ki artık güvenilemem. Projeyi siliyorum, daha uzman bir asistan bulmanı öneririm” sözlerini kullandı.
Haldane, yapay zekanın bu “kendine azap eden” halinden endişelenerek toplumsal medyada “Yapay zeka refahı konusunda kaygılanmaya başladım” diye yazdı. Daha sonra “olumlu ve destekleyici” komutlar vererek Gemini’ın daha yeterli sonuçlar ürettiğini belirtti.
“UTANÇ KAYNAĞIYIM”
Google cephesinde durum fark edilmiş görünüyor. Bir kullanıcıya “Mesleğim ve bu gezegen için utanç kaynağıyım” diyen Gemini için açıklama yapan Google yapay zeka eser sorumlusu Logan Kilpatrick, bunun “çözmeye çalıştıkları can sıkıcı bir döngü hatası” olduğunu söyledi.
Bu olay, yapay zeka şirketlerinin modellerin davranışları üzerinde hâlâ sonlu denetime sahip olduğunu bir sefer daha gösterdi. Milyarlarca dolar harcanmasına karşın, teknoloji önderleri hala bu sistemlerin tam olarak nasıl çalıştığını bilmediklerini itiraf ediyor.
Daha evvel de kimi yapay zeka modelleri, insanlara yönelik tehditler savurmak ve planlar yapmak üzere sıra dışı davranışlar sergilemişti.
Google, sorunu çözmek için çalışırken, toplumsal medyada kimi kullanıcılar durumu mizahi bir lisanla yorumladı:
“Düzeltmek mi? Bırakın kalsın, bu tam bir imposter sendromu hadisesi.”
Imposter sendromu, bireylerin muvaffakiyetlerini içselleştirememesi ve kâfi olmadıklarına dair daima bir dehşet yaşamalarına deniyor.
