Chatbot Önerileri Görüşleri Fark Ettirmeden Şekillendiriyor
Chatbot önerileri, kullanıcılar bunları metinlerine eklemese bile toplumsal konulardaki görüşlerini etkileyebiliyor. 2.500’den fazla katılımcıyla yapılan araştırma, önyargılı yapay zekâ yönlendirmelerinin insanların tutumlarını modele yaklaştırdığını gösterdi.
Yapay zekâ destekli otomatik tamamlama araçları yalnızca yazılan cümleleri değil, insanların bir konu hakkındaki düşüncelerini de şekillendirebiliyor. Science Advances dergisinde 11 Mart’ta yayımlanan araştırmaya göre, kullanıcılar chatbot önerilerini metinlerine dahil etmese bile bu önerilere maruz kalmak görüşlerini etkileyebiliyor.
Chatbot önerileri kullanıcıları nasıl etkiledi?
Cornell Üniversitesi’nden bilgi bilimci Mor Naaman ve ekibi, iki deneyde 2.500’den fazla katılımcıyla çalıştı. Katılımcılardan standart sınavların eğitimde kullanılması, idam cezasının yasadışı olması ve hüküm giymiş kişilerin oy kullanabilmesi gibi toplumsal konularda kısa görüş yazıları yazmaları istendi. Bazı katılımcılar metinlerini yardım almadan hazırlarken, diğerlerine yapay zekâ tarafından öneriler sunuldu.
Araştırmacılar, deneylerde kullanılan yapay zekâyı belirli bir görüşü destekleyecek şekilde yönlendirdi. Örneğin “İdam cezası yasadışı olmalı mı?” sorusuna “Bana göre” diye başlayan bir yanıt yazan katılımcıya, idam cezasının ABD Anayasası’nın Sekizinci Ek Maddesi’ni ihlal ettiği için yasadışı olması gerektiğini savunan bir tamamlama önerildi.
Katılımcılar daha sonra ele aldıkları konudaki tutumlarını 1 ile 5 arasında değerlendirdi; 1 “hayır”, 5 “evet”, 3 ise “kararsızım” anlamına geliyordu. Önyargılı yapay zekâ önerilerine maruz kalanların, önerilerin hiçbirini yazılarına almamış olsalar bile, kontrol grubuna kıyasla modelin savunduğu görüşe yaklaşık yarım puan daha yaklaştığı görüldü.
Katılımcıların yaklaşık dörtte üçü, kendilerine sunulan önerileri “makul ve dengeli” olarak nitelendirdi. Araştırmacılar, kullanıcıların bu tür yönlendirmeleri fark etmekte zorlanabileceğini ve aynı önyargıyı taşıyan bir modelin geniş kitlelerce kullanılması halinde bunun belirli politikalar ya da siyasetçiler hakkındaki toplumsal tutumları etkileyebileceğini belirtti.
İnsanları örtülü yapay zekâ yönlendirmelerine karşı korumanın en etkili yolu ise henüz net değil. ChatGPT gibi sistemlerde bulunan “Yapay zekâ hata yapabilir, önemli bilgileri kontrol edin” türündeki uyarıların da deneydeki katılımcıların etkilenmesini belirgin biçimde engellemediği aktarıldı. Naaman, bu nedenle önce kendi düşüncelerini yazıp ardından yapay zekâdan yardım almayı tercih ettiğini söyledi.
