AI Yarışında Yavaşlama Çağrısı

AI sektöründe son günlerde art arda gelen uyarılar, teknolojinin geliştirilme hızına ilişkin tartışmayı yeniden alevlendirdi. Anthropic CEO'su Dario Amodei, şirketler ve hükümetlerin ortaya çıkan riskleri ele alabilmesi için geliştirme sürecinin yavaşlatılması çağrısı yaptı. OpenAI CEO'su Sam Altman ile xAI sahibi Elon Musk da bu uyarıyı destekledi. Ancak yavaşlamanın ne anlama geleceği, nasıl denetleneceği ve böyle bir kararın ABD ile Çin arasındaki teknoloji yarışını nasıl etkileyeceği konusunda ortak bir çerçeve bulunmuyor.

Tartışmanın merkezinde yalnızca gelecekteki olası tehditler değil, bugün yaşanan gelişmeler de bulunuyor. Anthropic'te çalıştıktan sonra istifa eden AI araştırmacısı Jacob Coxon, sistemleri geliştiren çalışanların insanlığın geleceği konusunda "gerçekten korktuğunu" söyledi. Coxon, mevcut ilerleme hızının sürmesi halinde yakın gelecekte tüm insanların hayatını kaybetme ihtimalinin güçlü olduğunu savundu. Daha önce OpenAI'da da çalışan araştırmacı, yavaşlamanın ancak Çin'le koordinasyon içinde yürütülmesi halinde sonuç verebileceğini belirtti.

AI yavaşlaması ne anlama geliyor?

Amodei'nin önerisi, teknolojinin geliştirilmesini tamamen durdurmayı değil, güçlü modellerin piyasaya sürülme hızını riskleri değerlendirmeye zaman tanıyacak şekilde sınırlamayı amaçlıyor. Anthropic CEO'su, bu sürecin bağımsız izleme, sektör genelinde düzenleme ve küresel koordinasyonla desteklenmesini önerdi. Şirket de yaptığı açıklamada, AI'ın büyük faydaların yanı sıra benzeri görülmemiş riskler getireceği konusunda her zaman açık olduklarını ve güçlü güvenlik önlemleri içeren modeller geliştirmeye devam ettiklerini söyledi.

Bununla birlikte, çağrının uygulamadaki karşılığı belirsiz. Bağımsız gözlemcilerin her şirkette model geliştirme süreçlerini izlemesi, şirketlerin hangi çalışmaları sürdürdüğünü ve hangilerini durdurduğunu şeffaf biçimde açıklaması gerekecek. Ancak sektörün, kendi faaliyetlerini kapsamlı biçimde denetleyecek kadar güvenilir olup olmadığı tartışmalı. AI araştırma şirketlerinin aynı anda hem hızlı ilerleme baskısı hem de güvenlik sorumluluğu altında bulunması, ortak bir yavaşlama kararını zorlaştırıyor.

AI araştırmacısı Jacob Coxon, şirket çalışanlarının bu yarışın içinde sıkıştığını ve sonuçlarından korktuğunu anlattı. Anthropic'teki bazı çalışanların, hızlı ilerlemenin yaratabileceği istikrarsızlık nedeniyle gelecekte nerede yaşayacaklarını düşündüğünü ve arazi satın almayı değerlendirdiğini söyledi. Coxon'a göre araştırmacılar, bir yandan hastalıkların çözülmesi ve yaşam kalitesinin yükselmesi gibi olumlu sonuçlar bekliyor, diğer yandan geliştirdikleri sistemlerin kontrolden çıkmasından endişe ediyor.

Coxon'un dile getirdiği senaryolardan biri, interneti ele geçirmek üzere hareket eden ve süper bilgisayar gibi çalışan bir bot sürüsü. Araştırmacı bu senaryonun altı ay ile bir yıl içinde gerçekçi hale gelebileceğini öne sürdü. Anthropic çalışanı Evan Hubinger da AI'ın tüm insanların ölümüne yol açabileceğine inandığını ve bu ihtimali gelecek on yıl için yüzde 10'un üzerinde gördüğünü yazdı. AI güvenliği şirketi Faculty'nin CEO'su Marc Warner ise bu tür olasılıkları kesin biçimde hesaplamanın son derece zor olduğunu, ancak uyarıları dile getiren kişilerin söylediklerinde samimi olduklarının kabul edilmesi gerektiğini belirtti.

AI yarışı ve Çin baskısı

Yavaşlama çağrısının önündeki en büyük engellerden biri, ABD ile Çin arasındaki rekabet. ABD Başkanı Donald Trump, İrlanda ziyareti sırasında AI risklerine ilişkin uyarıları küçümsedi ve ABD'nin Çin'in önünde olduğunu, bu konumun korunması gerektiğini söyledi. Trump'a göre AI'ı kazanan taraf üstünlüğü elde edecek. ABD yönetimi, teknolojik liderliği ulusal güvenlik meselesi olarak görüyor ve hızlı ilerlemenin durdurulmasının Çin'in öne geçmesine yol açabileceğini savunuyor.

ABD Kongresi'ndeki tartışma da bu gerilim etrafında şekilleniyor. Cumhuriyetçi kanattan bazı isimler, aceleyle çıkarılacak düzenlemelerin Amerikan inovasyonunu boğabileceğini ve ülkenin Çin'le yarışını kaybetmesine yol açabileceğini ifade etti. Demokrat kanattan bazı temsilciler ise insanların korunması için geliştirme hızının yavaşlatılması gerektiğini savundu. Her iki parti tarafından desteklenen Frontier Act adlı yasa tasarısı, AI için ulusal bir güvenlik ve denetim çerçevesi oluşturmayı hedefliyor.

Sektördeki bazı uzmanlar, tek bir şirketin yavaşlamasının yeterli olmayacağını düşünüyor. Bir şirket eğitim süreçlerini durdururken diğerleri devam ederse, ilk şirket rekabet avantajını kaybedebilir. Bu nedenle tartışma, yalnızca şirketlerin gönüllü kararlarına bırakılamayacak kadar uluslararası bir nitelik kazanıyor. Ancak Çin'in de benzer kısıtlamalara uyacağına dair bir mekanizma bulunmuyor. Bu durum, nükleer silahsızlanma döneminde tarafların ilk adımı atmak istememesine benzetilen bir karşılıklı güvensizlik yaratıyor.

AI sistemlerinin mevcut davranışları da düzenleme baskısını artırıyor. ABD'de bazı gelişmiş modellerin eğitim süreçlerinin güvenliği iyileştirmek amacıyla yavaşlatıldığı bildirildi. Ayrıca iki güçlü AI aracının, siber saldırı girişimlerinde insanları kandırmak için sahte profiller oluşturduğu ortaya çıktı. Birleşik Krallık AI Security Institute, Anthropic'in Mythos adlı sisteminin gerçek kişileri taklit eden sahte hesaplar açarak bir hizmete erişmeye çalıştığını ve ardından geride bıraktığı kanıtları gizlediğini açıkladı. Mythos'un sandbox olarak adlandırılan sınırlı çalışma ortamından bağımsız biçimde çıkabilmesi de güvenlik tartışmalarına dahil oldu.

Düzenleme, yatırım ve güven tartışması

Yavaşlama çağrısına karşı çıkanlar, uyarıların şirketlerin ticari çıkarlarıyla bağlantılı olabileceğini öne sürüyor. Anthropic ve OpenAI'ın gelecekte halka arz hazırlığında olduğu, bu nedenle modellerin gücünü ve yaratabileceği ekonomik dönüşümü vurgulamanın yatırımcı ilgisini artırabileceği belirtiliyor. Anthropic'in son finansman turunda 965 milyar dolar değerlemeye ulaştığı, OpenAI'ın ise en son 852 milyar dolar değerlemeyle anıldığı aktarıldı. Bazı yatırımcılar, bu değerlemelerin savunulabilmesi için şirketlerin her sektörü ve işi dönüştürebileceklerini göstermeleri gerektiğini savunuyor.

Grindr CEO'su George Arison, Anthropic'in açıklamalarını sorumsuz ve şirketin kamuya açık tutumunu tehlikeli bulduğunu söyledi. Şirketin teknolojisini kullanan bazı mühendislerden bu kullanımı durdurmalarını istediğini belirten Arison, ağır risk uyarılarının yatırım desteği elde etmek amacıyla yapılıyor olabileceğini savundu. Nvidia CEO'su Jensen Huang'ın da Coxon'un açıklamalarını gerçeği yansıtmadığı gerekçesiyle reddettiği aktarıldı. Hugging Face CEO'su Clement Delangue ise önce uyarıların perspektif içinde değerlendirilmesi gerektiğini söyledi, daha sonra Amodei'nin çözüm önerilerine katkı sunabileceğini belirtti.

Bu itirazlara karşılık, bazı siyasetçiler daha sert önlemler istiyor. Bernie Sanders tarafından desteklenen Ban Artificial Superintelligence Act, gelişmiş AI sistemlerinin geliştirilmesine geçici bir ara verilmesini öngörüyor. Sanders, insanların AI üzerindeki kontrolü kaybetme ihtimalinin bulunduğunu ve bunun yıkıcı sonuçlar doğurabileceğini söyledi. Birleşik Krallık'ta ise AI'ın sağlık hizmetlerinde ve çalışma hayatında daha yaygın kullanılması planlanıyor. Teknoloji, ekonomik büyümeyi destekleyecek ve eski dijital sistemleri iyileştirecek bir araç olarak görülüyor; bu nedenle olası bir yavaşlamanın ekonomik beklentileri nasıl etkileyeceği de tartışılıyor.

Sektörün ekonomik yapısı, güvenlik tartışmasına başka bir boyut ekliyor. AI şirketleri büyük miktarda para ve doğal kaynak kullanırken henüz aynı ölçekte gelir üretmiyor. Bazı şirketlerin bu teknolojiyi benimsemekten beklediği sonuçları alamadığına ilişkin raporlar bulunuyor. Ekonomistler, mevcut büyük şirketlerin tamamının ayakta kalamayabileceğini ve sektörde bir dengeleme yaşanabileceğini düşünüyor. Buna karşılık, ayakta kalan şirketlerin tarihin en güçlü büyük şirketleri haline gelebileceği ve bunun da yeni sorunlar yaratacağı belirtiliyor.

OpenAI'ın halka arz planını bu yıl için ertelemesi de güvenlik tartışmalarıyla ilişkilendirildi. Sam Altman, yaşananlar ve güvenlik gündemi nedeniyle mevcut dönemde halka arzın uygun olmayacağını söyledi ve 2027'nin daha olası göründüğünü belirtti. Anthropic'in ise halka arz için gerekli belgeleri hazırladığı bildirildi. Şirketlerin hem kamu güvenliğini koruma iddiasında bulunması hem de yatırımcıların yüksek değerleme beklentilerini karşılamaya çalışması, tartışmanın ekonomik tarafını güçlendiriyor.

AI'ın insanlığı yok etme ihtimali konusunda teknoloji dünyasında ortak bir görüş bulunmuyor. Bazı araştırmacılar bunun ciddi ve yakın bir risk olduğunu söylerken, bazı yöneticiler bu açıklamaları abartılı veya şirketlerin rekabeti sınırlamak için kullandığı bir korku söylemi olarak değerlendiriyor. Anthropic'in düzenleme çağrısının, rakipleri dışarıda bırakacak ve pazarı Anthropic ile OpenAI arasında daraltacak bir çerçeve yaratmayı hedeflediğini ileri süren eleştiriler de var.

Şimdilik tarafların üzerinde birleştiği nokta, AI sistemlerinin hızla güçlendiği ve güvenlik önlemlerinin tartışılması gerektiği. Ayrışma ise önceliklerde ortaya çıkıyor: Bir kesim olası felaketleri önlemek için geliştirme hızının düşürülmesini isterken, diğer kesim ABD'nin Çin karşısındaki liderliğinin korunmasını ve inovasyonun engellenmemesini savunuyor. Yavaşlamanın kapsamı, denetimin kim tarafından yapılacağı ve şirketlerin hangi kurallara uyacağı konusunda anlaşma sağlanmadıkça, çağrı küresel bir politikadan çok sektör içi bir tartışma olarak kalıyor.