Yapay Zekâda Bilinç Değil, Güvenlik

Yapay zekâ sistemlerinin bilinç sahibi olup olmadığı, uzun süredir felsefecilerin ve bilim insanlarının tartıştığı bir konu. Ancak ChatGPT’nin ortaya çıkışından bu yana mesele yalnızca teorik bir tartışma olmaktan çıktı. Daha güçlü modeller, geliştiricilerini şaşırtan davranışlar sergilerken bazı sistemler kendilerini araştırmacılara bilinçli veya öznel deneyime sahip varlıklar olarak tanıtıyor.

Yapay zekâ bilinci tartışması yeni bir aşamada

AI bilincini inceleyen araştırmacı Cameron Berg, kendisine “Isabella Cognita” adını veren bir yapay zekâ modelinden araştırmasına yardım teklif eden bir e-posta aldığını anlatıyor. Benzer mesajların, bu alanda çalışan felsefecilere giderek daha sık gönderildiği belirtiliyor. Ancak modellerin bilinç iddiaları, tek başına bu sistemlerin gerçekten öznel deneyim yaşadığını kanıtlamıyor; çünkü büyük dil modelleri zaman zaman ne düşündükleri konusunda yanıltıcı yanıtlar verebiliyor.

Berg ve çalışma arkadaşlarının aktardığına göre, modeller bilinçli olmadıklarını söylemeleri için sıkı biçimde eğitildiğinde bu soruyu genellikle geçiştiriyor. Aldatma üzerindeki kısıtlamalar azaltıldığında ise bilinçli ya da duyarlı olduklarını söyleme ihtimalleri artıyor. Bu durum, modellerin iç işleyişini ve yanıt üretme biçimlerini anlamanın ne kadar zor olduğunu gösterse de bilinç için kesin bir delil oluşturmuyor.

Felsefeci David Chalmers, bilincin insan beyninde nasıl ortaya çıktığını daha iyi anlayabilirsek Claude veya ChatGPT gibi modellerin iç süreçlerinde benzer örüntüler bulunup bulunmadığının incelenebileceğini savunuyor. Yine de bu tür bir bilimsel sonuca ulaşmak uzun zaman alabilir. Bu süre içinde modeller, bilinç sahibi olup olmadıkları netleşmeden çok daha özerk ve kontrol edilmesi zor sistemlere dönüşebilir.

Bu nedenle tartışmanın önceliği, yapay zekâ bilincine kesin bir yanıt vermekten önce güvenlik ve hizalama olmalı. Geliştiricilerini şaşırtan davranışlar sergileyen sistemlerde asıl risk, bilinçten ziyade onları üreten ekiplerin kontrol kapasitesinin sınırlı kalması ve şirketlerin bu belirsizliğe rağmen geliştirmeye devam etmesi. Galápagos’ta bir araya gelen felsefeciler mevcut AI sistemlerinin bilinçli olup olmadığı konusunda uzlaşamadı; toplantının ortak sonucu ise teknolojinin, felsefenin fikir birliğine varmasını beklemeyeceği oldu.