Yapay zeka her geçen gün daha zeki hale geliyor; ancak bu zekâ, gerçeği söyleme konusunda pek de sağlam değil. Yeni kuşak lisan modelleri, bilgi üretiminde insanüstü bir performans sergilese de, bu bilgilerin doğruluğu giderek daha çok sorgulanır hale geliyor.
OpenAI’ın “o3” ve “o4-mini” modelleriyle yapılan son testler, yapay zekanın gerçekle bağını ne kadar sık kopardığını gözler önüne serdi. Modellerin yüzde33 ila yüzde 48 oranında yanlış bilgi üretmesi, “akıllandıkça yanılıyor mu?” sorusunu akıllara getirdi.
Bu yalnızca OpenAI ile sonlu değil. Google, DeepSeek üzere devlerin yapay zeka tahlilleri de tıpkı tuzağa düşüyor. Üstelik bu kusurlar, teknolojinin en gelişmiş sürümlerinde bile azalmak yerine artıyor.
“HALÜSİNASYONLAR SİLİNMEZ BİR KUSUR OLABİLİR”
Vectara CEO’su Amr Awadallah’a nazaran yapay zekadan büsbütün gerçek bilgi beklemek, bugünkü sistemlerle mümkün değil. Awadallah, “Halüsinasyonları sıfırlamak hayalperestlik olur” diyor ve bu teknolojilere yatırım yapan şirketlerin bu gerçekle yüzleşmesi gerektiğini vurguluyor.
Gerçeğe dayanmayan içerikler yalnızca kullanıcı itimadını sarsmakla kalmıyor, birebir vakitte iş dünyasında kusurlu kararların temelini de atabiliyor. Bilhassa son devirde model eğitimi için giderek daha fazla kullanılan sentetik datalar, yapay zekaların kendi uydurmalarını referans almasına neden oluyor. Bu da, yanlışın tekrar üretilip doğrulaştırılması manasına geliyor.
Tüm bu gelişmeler, yapay zeka çağında bilginin niteliğini ve güvenilirliğini yine sorgulamamıza neden oluyor. Teknoloji büyüyor fakat ona olan itimat tıpkı süratle artıyor mu, yoksa azalmaya mı başladı?
