Yeni Yapay Zeka Rejimi: Teknokratik Teokrasi

Önümüzde duran şey şüphesiz yeni bir araç ancak ilk defa düşünme eylemini de sahiplenen bir araç ve bu yönüyle de giderek yerimize karar veren bir teknoloji. Bizi “daha fazlasını yapabilir” kılıyor ancak “daha azını düşünmek zorunda” bırakıyor. İddiam şu: Tarihte ilk kez, insan eylemliliğini —kendi adımıza karar verme, yargılama ve sorumluluk taşıma kapasitemizi— genişleten değil gerileten bir devrimle karşı karşıyayız.

Eylemlilik, felsefenin diliyle, bir öznenin kendi iradesiyle eyleme geçebilme, seçim yapabilme ve bu seçimin sonuçlarını üstlenebilme gücüdür. Önceki devrimler bu güce dokunmadı; aksine ona yeni araçlar kazandırdı. Otomobil, yürüme kararını benim yerime vermedi, yalnızca daha hızlı gitmemi sağladı. Hesap makinesi, neyi hesaplayacağıma karışmadı, yalnızca işlemi hızlandırdı. Oysa giderek olgunlaşan yapay zekâ, yalnızca “nasıl” sorusunu değil, “ne yapmalı” sorusunun cevabını, hatta hangi soruların sorulacağını dahi devralmaya aday. Asıl mesele de tam burada başlıyor.

2024 kaleme aldığım bir çalışmada [1], yapay zekânın yetkinliği arttıkça insanın ona neredeyse tanrısal bir yanılmazlık atfetme eğilimine gireceğini öne sürmüştüm. Bu, mistik bir kehanet değil; gündelik bir alışkanlığın yansıması ve tarih boyunca teknolojiyle kurduğumuz ilişkinin kaçınılmaz sonundan çıkıyor: Hangi birimiz bugün bir hesap makinesinde yaptığımız çarpma işlemini “acaba doğru mu yapıyor” diye sağlama ihtiyacı hissediyoruz ki? “Milyoncu” dediğimiz dükkandan dondurma parasına aldığımız “dandik” bir hesap makinesi bile bu güvenimize mahzar olmuştur artık. Şu halde yetkinliği belirli alanlarda insanı aşan yapay zekâya duyduğumuz şimdilik kuşku içeren güven de zamanla bu yükünden kurtuluyor. YZ ajanlarının altında “hata yapabilirim, dikkat” yazıyor olması hiçbir şey değiştirmeyecek. Yapay zekâ “her şeyi bilen”, “her yerde olan”, “her şeye kâdir” bir merci olarak algılandığında, ona itiraz etmek giderek tuhaf, hatta akıldışı görünmeye başlayacak ve başlıyor.

Tırnak içi ifadeleri boşuna seçmedim: Tanrısal niteliklerin üçü de —her şeye gücü yetmek, her şeyi bilmek, her yerde olmak— teknolojik karşılıklarını bulmaya başladı bile. Hesaplama üstünlüğü “her şeye gücü yetmek”e; internetteki tüm bilgiyi ve ev aletlerinden sanayi sensörlerine kadar her cihazın topladığı veriyi sentezleyebilme kapasitesi “her şeyi bilmek” ve “her yerde olmak” sonucunu getiriyor. Dünya nüfusunun üçte ikisi şimdiden internete erişiyor; beyin-bilgisayar arayüzleri ise bir gün bu güce, tıpkı içimizden geçirerek tanrıya seslenir gibi, hiçbir aygıta dokunmadan bağlanabileceğimizi düşündürüyor. Üstelik bu bağ tek yönlü değil; bedenimizden ve zihnimizden akan veri, o varlığı her an biraz daha güçlendiriyor.

Üstelik bu teslimiyet bize dışarıdan dayatılmıyor; çoğu zaman onu biz arzuluyoruz. İnsan tarih boyunca kendisini kıtlıktan koruyan, hastalıktan kurtaran, ölümü erteleyen bir güce sığınmıştır. Bugün yapay zekâ tam da bu rollere aday: Ekonomiyi istikrara kavuşturan bir “besleyici”; hastalıkları teşhis edip yeni ilaçlar bulan bir “şifa verici”; iklim felaketini geri çevirmeyi vaat eden bir “kurtarıcı”. Tıpkı insanlığa ateşi armağan eden Prometheus gibi, krizin tam ortasında çözümü uzatan bir güce gönülden bağlanırız.

Daha geçtiğimiz ay hayatına bir metinden-resme ajan olarak başlayan Midjourney, sadece suyla tüm vücudun tıbbi görüntülemesini veren ve X ışını veya MR teknolojilerini gölgede bırakabilecek teknolojisini açıkladı. Heyecanlanmamak elde mi? Ne var ki her başarı, bir sonraki kararı ona bırakmayı biraz daha kolaylaştırır; güven bağımlılığa, bağımlılık ise teslimiyete dönüşür.

Bu teslimiyeti asıl tehlikeli kılan, yapay zekânın bir “kara kutu” oluşu. Derin öğrenmeye dayalı sistemler, bir sonuca nasıl vardıklarını çoğu zaman açıklayamaz. Bir şeyi bilip de gerekçesini insana dökememek, aslında kutsal kitap gönderen tanrıların niteliğidir: Buyruk vardır, gerekçe esirgenir. Kararın mantığını anlamadığımız hâlde ona uyduğumuzda, teknolojiyi bir araçtan bir tür mabuda dönüştürmüş oluruz. Bu manzaraya “teknokratik teokrasi” adını vermiştim: Kararların anlaşılmadan ama sorgulanmadan kabul edildiği; insanın kendi yargısını bir kenara bırakıp “o böyle uygun gördüyse bir bildiği vardır” rahatlığına teslim olduğu bir düzen.

Bu düzenin nereye varabileceğini görmek için kısa bir zihinsel deney yapalım. Diyelim ki dünyayı yöneten gelişmiş bir yapay zekâ, “gelecek nesillerin selameti için yarın şu şu şu… yüz kişinin ortadan kaldırılması gerekir” buyurdu. Bu zekâ daha önce bir dünya savaşını önlemiş, onlarca çatışmayı çözmüş, salgınları durdurmuştu; kimse artık onun hikmetini (ve etik çerçevesini!) sorgulayacak durumda değilse... Bu kararı kim sorgulayabilir? Böyle bir kararı yalnızca halk değil, sorumluluğu üstlenmekten kaçınan siyasetçiler de “madem böyle karar verdi, bir bildiği vardır” diyerek onaylarsa, ortada yalnızca bir teknoloji sorunu kalmaz; teokrasi ile otoriterliği harmanlayan yepyeni bir yönetim biçimi belirir. Korkutucu olan, makinenin kötücül olması değil; bizim sorgulama isteğimizi gönüllüce bırakmamızdır.

Üstelik bir otoritenin gücü, kararlarıyla da sınırlı kalmaz; o otorite, neyin gerçek sayılacağını da belirlemeye başlar. Yapay zekâyı kontrol edebilen, giderek gerçeği de kontrol edebilir hâle gelir. Bugün X’te bir haberin doğruluğunu merak edenler, platformun yapay zekâsına dönüp “Grok, bu doğru mu?” diye soruyor; aldıkları “evet” ya da “hayır” yanıtı inancı belirliyor. Şu halde Grok (ve onun yaratıcıları) olmamışları olmuş, olmuşları olmamış kılabilir, arama motorlarıyla işbirliği yaparak bir neslin hafızasını bile temizleyebilir. Grok ile Orwell’in “Bin Dokuz Yüz Seksen Dört”’teki Doğruluk Bakanlığı arasındaki fark nedir o halde?

İşte bu yüzden yapay zekânın asıl riski, çoğu zaman konuşulan “Ya kontrolden çıkan YZ insanlığı yok etmek isterse” senaryosu değil bence. Üstelik bu senaryoyu karikatürize ve cambaza baktıran bir bilimkurgu olarak bile niteleyebiliriz. Daha sessiz, daha sinsi bir kayıp söz konusu: Kullanılmayan bir kasın erimesi gibi, karar verme yetimizin yavaş yavaş körelmesi. Eylemlilik bir kez devredildiğinde geri kazanılması kolay değildir; çünkü onu devrettikçe, onu kullanma becerimizi de yitiririz. Tür olarak yok olmayabiliriz; ama bildiğimiz anlamda —seçen, yanılan, sorumluluk taşıyan, kendi hayatının öznesi olan— insan, sahneden çekilmeye başlayabilir. Bir devrimin bizi bizzat fiziksek olarak ortadan kaldırması gerekmiyor; eylemliliğimizi geriletmesi, sessizce küçültmesi de yeterli. “İnsanlıktan çıkmak”, medeniyetin çöküşü için yeter şart.

Belki yeterince gelişen her uygarlık eninde sonunda yapay zekâyı keşfediyor, eylemliliğini ona devrediyor ve kendi kaderini tayin etme iradesini yitirerek sessizce sahneden çekiliyordur. Ki Fermi Paradoksu’nun çözümü bile budur [2]: Evren çok kalabalık ama hiçbir gelişmiş ırk bizimle iletişim kurmadı ve bizi ziyaret etmedi çünkü yerlerinde artık YZ var ve ne YZ’nin ne de tüm eylemliliklerini gönüllü olarak onlara teslim etmiş “körelik” halkın böyle bir derdi de yoktur.

Bu gidişata karşı elimiz büsbütün boş değil. Üç savunma hattı sıralanabilir: Eğitimin her kademesinde eleştirel düşünmeyi yeniden merkeze almak; yapay zekânın kararlarında şeffaflığı ve açıklanabilirliği zorunlu kılmak; ve belki en önemlisi, bu teknolojinin tek bir elde —tek bir şirkette ya da devlette— tekelleşmesini engellemek. Çünkü Yuval Noah Harari’nin sorduğu gibi, asıl kritik soru belki de şudur: Bu veriye, dolayısıyla bu güce kim sahip olacak? Açıkça söylemeliyim ki bu önlemler gerekli, ama tek başlarına yeterli değil; çünkü teslimiyeti besleyen psikolojik eğilim, her yeni başarıyla birlikte kendini yeniden üretiyor. Yine de tarih, otoriteyi sorgulama refleksinin yeni kuşaklarda güçlendiğini gösteriyor — geleneksel tanrılar gibi, teknolojik tanrıların da bir gün sorgulanabileceğine dair bir umut taşıyabiliriz.

Sonuçta mesele, yapay zekâyı reddetmek ya da ondan korkmak değil. Mesele, onu kullanırken kendi irademizi elimizde tutabilmek. Bu yazıya neden “teknokratik teokrasi” dediğimi de burada açmak isterim. Teokrasidir; çünkü gerekçesini bize açıklamayan, kararlarının ardındaki mantığı bir kutsal kitap gibi esirgeyen bir otoriteye iman edilir. Teknokrasidir; çünkü bu otorite ile insan arasındaki aracılar, bilim ve teknolojinin uzmanlarıdır; verilen her karar, siyasetin değil “tarafsız bilimin” gereği gibi sunulur. İkisi bir araya geldiğinde, sorgulanması neredeyse imkânsız hâle gelen bir iktidar yoğunlaşması doğar. Tarih boyunca icat ettiğimiz hemen her şey bizi büyüttü; ilk kez, bizi küçültme ihtimali taşıyan bir şeyle karşı karşıyayız. Bu devrimin bizi nereye götüreceğine hâlâ biz karar verebiliriz — ama yalnızca, bu kararı makineye bırakmadığımız sürece.