LLM'ler Muhakeme Yapmıyor mu?

2016'da AlphaGo'nun Go şampiyonu Lee Sedol'u 4-1 yenmesi, yapay zekânın yaratıcı hamleler üretebildiğine dair güçlü bir izlenim oluşturdu. Beş maçlık serinin ikinci oyunundaki 37. hamle, insan oyunculara o kadar sıra dışı gelmişti ki bazı yorumcular bunun bir yazılım hatası olduğunu düşündü. Oysa hamle, AlphaGo'nun sezgisel tahminleri gelecekteki olası sonuçlarla sınayan arama mekanizmasının ürünüydü.

MIT Technology Review'da yayımlanan değerlendirmede, AlphaGo'nun iki tamamlayıcı sistemden oluştuğu vurgulanıyor. Politika ağı, güçlü bir insan oyuncunun hangi hamleyi seçebileceğini tahmin ederek sezgisel öneriler sunarken arama sistemi, binlerce olası devam yolunu içeren bir oyun ağacını inceleyip hamlelerin sonuçlarını karşılaştırıyordu. İnsan düşüncesindeki hızlı ve sezgisel “Sistem 1” ile yavaş ve adım adım ilerleyen “Sistem 2” ayrımına benzetilen bu yapı, 37. hamlenin seçilmesini sağladı.

LLM'lerde muhakeme sınırı

Günümüzün büyük dil modelleri ise temel olarak bir sonraki kelime parçasını tahmin ederek çalışıyor. Son dönemde kullanılan zincirleme düşünme yöntemleri, modellerin yanıt vermeden önce ara adımlar üretmesini sağlıyor ve özellikle matematik ile kodlama görevlerinde başarıyı artırıyor. Ancak bu adımlar, AlphaGo'daki aramadan farklı olarak bağımsız bir muhakeme mekanizması oluşturmuyor; aynı sonraki belirteç tahmini sürecinin daha uzun süre çalıştırılmasına dayanıyor.

Graepel'e göre sohbet botlarının muhakeme olarak nitelenmesini zorlaştıran üç temel eksik bulunuyor. Modeller genellikle hangi hipotezleri değerlendirdiğini, bunlara ne kadar güvendiğini ve hangi soruların açık kaldığını gösteren kalıcı ve incelenebilir bir bilgi durumuna sahip değil. Ayrıca modelin bildikleri ile bu bilgileri nasıl işlediği birbirinden net biçimde ayrılmıyor; son olarak, zincirleme düşünme metinleri bazen modelin sonuca ulaştıktan sonra oluşturduğu açıklamalar olabiliyor.

Bu sorunlar tıp, mühendislik ve bilimsel araştırma gibi yüksek riskli alanlarda önem kazanıyor. Bir sistem yanlış tanı veya hatalı tedavi önerdiğinde, hatanın kanıtlardan mı, varsayımlardan mı yoksa çıkarım sürecinden mi kaynaklandığının belirlenebilmesi gerekiyor. Yazar, bu nedenle Google DeepMind'daki görevinden ayrıldığını ve AlphaGo'nun mimarisinden esinlenen yeni bir makine muhakemesi yaklaşımına ihtiyaç olduğunu belirtiyor.

Önerilen yaklaşımda sistem, neleri kesin kabul ettiğini, nelerden şüphelendiğini, hangi seçenekleri elediğini ve hangi soruların yanıt beklediğini sürekli güncelleyen bir “epistemik durum” tutacak. Her yeni hamle; bir soru sormak, hesaplama yapmak veya deney yürütmek gibi belirsizliği azaltan bir adım olarak değerlendirilecek. Bağımsız bir bileşenin de bu adımların kanıtlarla desteklenip desteklenmediğini kontrol etmesi, sistemin doğrulanmış bilgiyi biriktirmesine ve geçmiş deneyimlerden daha iyi stratejiler öğrenmesine yardımcı olabilir.

Gerçek dünya Go oyunundan çok daha karmaşık; mevcut durumun tamamı bilinmiyor, seçenekler değişken ve eylemlerin sonuçları belirsiz. Buna rağmen LLM'lerin araçlarla, API'lerle ve kodla etkileşime girebilmesi, bu tür genel problemlere yönelik yapıların geliştirilebileceği düşüncesini destekliyor. Graepel'in vardığı sonuç ise açık: Modeli büyütmek sezgiyi keskinleştirebilir, ancak tek başına sezgiyi denetlenebilir muhakemeye dönüştürmez.