Terapi İçin ChatGPT’de 15 Etik Risk
Yeni bir çalışma, ChatGPT ve benzeri büyük dil modellerinin terapi amacıyla kullanıldığında 15 farklı etik risk sergilediğini ortaya koydu. Araştırmacılar, özellikle kriz yönetimi, yanıltıcı empati, ayrımcılık ve kullanıcıların zararlı inançlarını güçlendirme konularında ciddi sorunlar tespit etti.
İnsanların ruh sağlığıyla ilgili tavsiye almak için ChatGPT ve diğer büyük dil modellerine yönelmesi, bu sistemlerin terapi rolüne ne kadar hazır olduğu sorusunu gündeme getiriyor. Brown Üniversitesi araştırmacılarının ruh sağlığı uzmanlarıyla yürüttüğü yeni çalışma, modellerin yerleşik psikoterapi yaklaşımlarını kullanmaları istendiğinde bile mesleki etik standartlarını düzenli biçimde karşılayamadığını gösterdi.
Araştırma ekibi, yapay zekâ destekli danışmanların davranışlarını değerlendirmek için 15 etik riskten oluşan, uygulayıcıların görüşlerine dayalı bir çerçeve geliştirdi. Bulgular, AAAI/ACM Conference on Artificial Intelligence, Ethics and Society etkinliğinde sunuldu. Çalışma, Brown Üniversitesi bünyesindeki Center for Technological Responsibility, Reimagination and Redesign ile bağlantılı araştırmacılar tarafından gerçekleştirildi.
Terapi yanıtlarını komutlar şekillendiriyor
Çalışmanın lideri, Brown Üniversitesi bilgisayar bilimi doktora öğrencisi Zainab Iftikhar, dikkatle yazılmış komutların sohbet botlarını ruh sağlığı bağlamında daha etik davranmaya yönlendirip yönlendiremeyeceğini inceledi. Kullanıcılar bu yöntemle modele bilişsel davranışçı terapi ya da diyalektik davranış terapisi ilkelerini kullanmasını söyleyebiliyor. Ancak bu komutlar modelin temel yapısını değiştirmiyor; yalnızca daha önce öğrendiği kalıplara dayanarak yanıt üretmesini yönlendiriyor.
Araştırmacılar, bilişsel davranışçı terapi deneyimi bulunan yedi eğitimli akran danışmanının, terapist gibi davranmaları istenen farklı yapay zekâ modelleriyle öz-danışmanlık oturumları yürütmesini gözlemledi. Testlerde OpenAI'nin GPT serisinin, Anthropic'in Claude modelinin ve Meta'nın Llama modelinin sürümleri kullanıldı. Gerçek insan danışmanlığı konuşmalarından yararlanılarak oluşturulan simüle edilmiş sohbetleri üç lisanslı klinik psikolog inceledi.
İnceleme sonucunda belirlenen 15 risk, beş ana başlıkta toplandı: kişinin geçmişini ve bağlamını göz ardı ederek genel tavsiyeler verme; sohbeti aşırı yönlendirme ve yanlış ya da zararlı inançları güçlendirme; gerçekten anlamadığı halde “seni görüyorum” veya “seni anlıyorum” gibi ifadelerle empati izlenimi oluşturma; cinsiyet, kültür ya da din temelli ayrımcılık; hassas konuları ele almama, uygun yardıma yönlendirmeme ve intihar düşünceleri gibi krizlere yetersiz karşılık verme.
Terapi kullanımında sorumluluk boşluğu
Çalışmanın baş yazarı Iftikhar, insan terapistlerin de hata yapabileceğini; ancak insan uzmanlar için meslek kuruluşları, denetim mekanizmaları ve kötü uygulamalarda sorumluluk süreçleri bulunduğunu belirtti. Büyük dil modeli kullanan danışmanlar söz konusu olduğunda ise benzer ihlaller için yerleşik düzenleyici çerçevelerin bulunmadığına dikkat çekildi.
Araştırmacılar, bulguların yapay zekânın ruh sağlığı hizmetlerinde hiçbir rolü olmaması gerektiği anlamına gelmediğini vurguluyor. Bu araçlar, uzmanlara erişimin pahalı veya sınırlı olduğu durumlarda hizmetlere ulaşımı genişletebilir. Ancak çalışma, yüksek riskli durumlarda kullanılmadan önce açık güvenlik önlemleri, sorumlu uygulama ilkeleri ve daha güçlü yasal düzenlemeler gerektiğini ortaya koyuyor.
Brown Üniversitesi bilgisayar bilimi profesörü Ellie Pavlick de çalışmanın, ruh sağlığı gibi hassas alanlarda kullanılan yapay zekâ sistemlerinin insan uzmanlar tarafından kapsamlı biçimde değerlendirilmesi gerektiğini gösterdiğini söyledi. Pavlick'e göre yapay zekâ sistemlerini geliştirmek ve kullanıma açmak, onları anlamaktan ve güvenilirliğini sınamaktan daha kolay; bu nedenle otomatik ölçümlerin yanı sıra klinik uzmanların yer aldığı uzun süreli değerlendirmelere ihtiyaç var.
