Sağlık kesiminde yanılgı yapma potansiyeli yüksek olan üretken yapay zeka araçlarının yaygın biçimde kullanılmaya başlanması, doktorlar ve uzmanlar ortasında giderek daha fazla kaygı yaratıyor.
Bu telaşların temelinde, yapay zekâların “halüsinasyon” olarak bilinen ve gerçekte var olmayan bilgileri emniyetli üzere sunma eğilimi var.
Son olarak, Google’ın sıhhat odaklı yapay zeka modeli Med-Gemini ile ilgili bir kusur, bu sorunun ne kadar önemli olabileceğini gözler önüne serdi.
VAR OLMAYAN BEYİN BÖLGESİ
Google araştırmacıları, Mayıs 2024’te yayımladıkları bir makalede, Med-Gemini’nin radyoloji laboratuvarında beyin taramalarını tahlil etme yeteneğini test etti. Model, sonuçlarından birinde “basilar ganglia” bölgesinden bahsetti. Lakin “basilar ganglia” isimli bir beyin bölgesi gerçekte yok.
Nörolog Bryan Moore bu yanılgıyı fark ederek The Verge’e bildirdi. Google ise yanılgıyı “basal ganglia” (beynin motor hareketler ve alışkanlık oluşumuyla alakalı bölgesi) ile “basilar artery” (beyin sapının tabanındaki ana damar) tabirlerinin karışmasına bağladı ve “yazım hatası” olarak nitelendirdi.
TIP ALANINDA YÜKSEK RİSK
Uzmanlar, bu çeşit yanılgıların günlük internet aramalarında bilgi kirliliğine yol açabileceğini, lakin hastane ortamında sonuçlarının çok daha ağır olabileceğini vurguluyor.
Providence sıhhat sisteminin tıbbi bilgi yöneticisi Maulin Shah, “İki harf farkı lakin çok büyük bir sıkıntı. Bu tıp kusurlar son derece tehlikeli” dedi.
Google, geçen yıl Med-Gemini’nin tıpta “önemli potansiyele” sahip olduğunu, röntgen, BT taramaları ve öteki imajlardan hastalık tespitinde kullanılabileceğini duyurmuştu.
Ancak uzmanlar, yüksek riskli alanlarda kusur toleransının insan düzeyinde değil, çok daha düşük olması gerektiğini söylüyor.
