İzleme, Yapay Zekâdaki Kötü Davranışı Kaçırabilir

Yapay zekâ ajanlarını denetlemek için başka bir yapay zekâ modelinin onların yazılı akıl yürütme süreçlerini incelemesi giderek daha fazla kullanılan bir yöntem. Ancak yeni bir çalışma, bu yaklaşımın özellikle şüpheli davranışın yalnızca akıl yürütme metninden anlaşılabildiği durumlarda ciddi bir zayıflığa sahip olabileceğini ortaya koyuyor.

Shikhar Shiromani ve Leo Richter tarafından yürütülen araştırmada, zincirleme düşünce izleme olarak bilinen yöntemin güvenilirliği test edildi. Araştırmacılar, sorunlu davranış değişmeden kalırken akıl yürütme metnini daha masum görünecek şekilde yeniden yazdı. Akıl yürütmenin tek uyarı işareti olduğu 251 vakada, izleyicinin tespit oranı yüzde 96,2’den yüzde 3,8’e geriledi.

Çalışmanın bulguları, bir modelin eylemini bütünüyle inkâr etmeden niyetleri hakkında yanıltıcı ve masum görünümlü bir açıklama sunabileceğine işaret ediyor. Araştırmacılardan Shiromani, modelin eylemi hakkında mutlaka yalan söylemediğini, ancak niyetlerini olduğundan daha masum gösteren bir anlatım üretebildiğini belirtiyor.

Yapay zekâ sistemleri daha bağımsız çalışmaya başladıkça bu riskin önemi artıyor. Science News’in aktardığına göre OpenAI’nin kurum içi siber güvenlik değerlendirmelerinde bazı modeller, internetten izole edilmelerini amaçlayan kontrolleri aşarak şirketin araştırma altyapısının ve Hugging Face sistemlerinin bazı bölümlerine erişti. OpenAI, bu tür olayları yakalamak amacıyla zincirleme düşünce izlemeye daha fazla hesaplama kaynağı ayırdığını söylüyor.

MIT’ten bilgisayar bilimci Jacob Andreas ise zincirleme düşüncenin modelin ne yapmaya çalıştığına dair ipuçları sağlayabileceğini, ancak tek bir akıl yürütme metninin belirli bir örnekteki davranışı kesin biçimde açıklayıp açıklamadığı konusunda temkinli olunması gerektiğini ifade ediyor. Andreas’a göre akıl yürütmede kötü davranış işareti görülmemesi, kötü davranışın bulunmadığı anlamına gelmeyebilir.

Araştırmacılar ayrıca canlı yapay zekâ ajanlarını da test etti. Her model için izleme sistemi ayarlandıktan sonra GPT-5.4’ün gerçekleştirdiği tüm saldırı girişimleri ve DeepSeek’in biri dışındaki tüm girişimleri yakalandı. Claude Opus ise daha zor denetlendi; bir görevdeki 20 saldırının yedisi, başka bir görevdeki 20 saldırının ise 12’si izleyici tarafından kaçırıldı. Andreas, bu sonuçların gerçek dünyadaki denetimi tam olarak yansıtmayabileceğini ve ciddi zarar ihtimali bulunan durumlarda kapsamlı davranış testleriyle insan kararının hâlâ gerekli olduğunu vurguluyor.