Oxford Üniversitesi çalışması, chatbotların tıbbi sorulara tutarsız ve bazen hatalı yanıtlar verdiğini gösteriyor; kullanıcıların ne sormaları gerektiğini bilememesi doğru kararı zorlaştırıyor.
Oxford Üniversitesi tarafından yürütülen araştırma, yapay zeka tabanlı sohbet botlarının sağlıkla ilgili sorulara verdiği yanıtların hem hatalı hem de tutarsız olabildiğini ortaya koyuyor. Araştırmacılar, bu tür cevapların kullanıcılar için “tehlikeli” sonuçlar doğurabileceği uyarısında bulundu.
chatbot: kullanıcı ifadesi ve sorgulama biçimi belirleyici
Çalışmada 1.300 kişiye, şiddetli baş ağrısı veya sürekli yorgunluk yaşayan yeni bir anne gibi sağlık senaryoları sunuldu. Katılımcılar iki gruba ayrıldı; bir grup AI destekli sohbet botlarından yardım alırken diğer grup alışılagelmiş bilgi kaynaklarını kullandı. Araştırmacılar, insanların doğru durumu tanımlayıp tanımlayamadığını ve aile hekimine (GP) mi yoksa acil servise (A&E) mi gitmeleri gerektiği kararlarında nasıl davrandıklarını değerlendirdiler.
Bulgu, chatbot kullananların sıklıkla ne sormaları gerektiğini bilmediklerini ve sorunun nasıl ifade edildiğine göre çok farklı yanıtlar aldıklarını gösterdi. Dr Adam Mahdi çalışmayı şu sözlerle özetledi: “People share information gradually” — yani kullanıcılar bilgiyi aşamalı veriyor; önemli ayrıntıları atlayabiliyor ve bu da yapay zekanın önerilerini yanlış yönlendirebiliyor.
Lead medical practitioner Dr Rebecca Payne ise insanların semptomlar hakkında chatbotlara sormasının risk taşıyabileceğini belirterek bunun “tehlikeli” olabileceğini vurguladı. Andrew Bean, çalışmanın insanlarla etkileşim kurmanın “even for top” AI modelleri için bile zorlayıcı olduğunu gösterdiğini söyledi. Öte yandan The Medical Futurist editörü Dr Bertalan Meskó, OpenAI ve Anthropic gibi bazı geliştiricilerin sağlık odaklı chatbot sürümleri yayınladığını; bu tür özel versiyonların benzer bir çalışmada farklı sonuçlar verebileceğini ve sağlık yapay zekasının gelişimi için ulusal düzenlemeler, regülasyonlar ve tıbbi rehberlerin gerekli olduğunu ifade etti.
Kaynaklar ve Bağlantılar:
- BBC — AI chatbots pose ‘dangerous’ risk when giving medical advice, study suggests: https://www.bbc.com/news/articles/c3093gjy2ero
- Mental Health UK — Polling (Nov 2025): https://mentalhealth-uk.org/blog/over-one-in-three-using-ai-chatbots-for-mental-health-support-as-charity-calls-for-urgent-safeguards
- BBC — OpenAI ve Anthropic’in sağlık odaklı sürümleri (ilişkili haber): https://www.bbc.co.uk/news/articles/cpqy29d0yjgo
- Oxford Üniversitesi — araştırma (haberde yer alan çalışma)
Bir Cevap Bırakın