Annals of Internal Medicine mecmuasında yayımlanan bir makaleye nazaran, adamın ChatGPT’ye sofra tuzuna alternatif sorduğunda chatbot’un “sodyum bromür” teklifiyle başladı. Lakin bu husus, tarım ilaçları, havuz temizleyicileri ve köpeklerde epilepsi tedavisinde kullanılan, toksik bir kimyasal.
AĞIR NÖROLOJİK TEHLİKELER YARATIYOR
Sodyum bromür, 19. ve 20. yüzyıllarda yatıştırıcı ve baş ağrısı tedavisinde yaygın kullanılsa da, kandaki birikimi “bromizm” ismi verilen zehirlenmeye yol açabiliyor. Bu durum; konuşma bozukluğu, halüsinasyon, psikoz ve komaya kadar giden ağır nörolojik belirtiler yaratabiliyor. Kelam konusu husus 1970’lerde ABD’de yasaklanmasına karşın, bu olayda görüldüğü üzere hala tehlike arz ediyor.
Habere nazaran, ChatGPT’yi test eden 404 Media, misal sorularda chatbot’un tekrar sodyum bromürü önerdiğini, lakin bunun tehlikelerine dair ihtar yapmadığını ortaya koydu.
OpenAI CEO’su Sam Altman, yeni GPT-5 modelinin “sağlık hususlarında en uygun yapay zeka” olduğunu sav ederken, bu olay eski modellerin sıhhat tavsiyesi konusundaki risklerini bir kere daha gündeme getirdi.
