Yapay Zekâ İçin Güvenlik Sınavı

Yapay zekâ, bir yandan bilimsel keşifleri hızlandıracak ve sağlık hizmetlerine erişimi genişletecek bir araç olarak sunuluyor, diğer yandan biyolojik silah geliştirme, kontrolden çıkan özerk sistemler ve devasa yatırım harcamalarının karşılığını verememe riskiyle tartışılıyor. Aynı hafta içinde teknoloji şirketlerinden hem yapay zekânın hastalıkların anlaşılmasına katkılarını anlatan açıklamalar hem de insanlığın geleceğine ilişkin sert uyarılar geldi.

Bu gerilimin ekonomik boyutu da büyüyor. Pennsylvania Üniversitesi’nden finans profesörü Jessica Wachter’ın değerlendirmesini aktaran MIT Technology Review’a göre, büyük teknoloji şirketlerinin yapay zekâ veri merkezlerine yaptığı harcamaların 2027’ye kadar yaklaşık 1,1 trilyon dolara ulaşması bekleniyor. Bu yatırımların karşılığını verebilmesi için şirketlerin verimlilik ve gelirlerinde olağanüstü bir artış sağlaması gerekecek. Söz konusu hesaplamaya göre yapay zekâ şirketleri, 2030’a kadar yalnızca başa baş noktaya ulaşmak için bile çok yüksek bir üretkenlik artışı elde etmek zorunda kalabilir.

Bilim ve sağlıkta yapay zekâ vaadi

Şirketlerin yapay zekânın olumlu kullanım alanlarına ilişkin en kapsamlı örneklerden biri Google’ın 15 Eylül tarihli açıklamasında yer aldı. Şirket, teknolojilerinin artık 300’den fazla dili desteklediğini ve bu dillerin dünya nüfusunun yaklaşık yüzde 86’sına karşılık geldiğini belirtti. Aynı açıklamada, sağlık, doğal afetlere hazırlık, eğitim ve ekonomik fırsatlar alanlarında yürütülen çalışmalar sıralandı.

Google, AlphaGenome Atlas ile insan genomundaki 9 milyar olası tek harf değişikliğinin öngörülen etkilerini haritaladığını ve bu veriyi araştırmacıların kullanımına açtığını duyurdu. Şirketin açıklamasına göre AlphaFold, bilim tarafından bilinen 200 milyon proteinin yapısını öngördü; bu sistem 190 ülkede 4 milyon araştırmacı tarafından ilaç keşfi ve Chagas hastalığı ile leishmaniasis gibi ihmal edilen hastalıkların araştırılması da dahil olmak üzere çeşitli alanlarda kullanılıyor. AlphaMissense ise hastalığa yol açabilecek genetik mutasyonların belirlenmesine yardımcı oluyor.

Sağlık uygulamalarında yapay zekânın erken teşhis ve tarama amacıyla kullanımı da genişliyor. Google, Imperial College London ve Birleşik Krallık Ulusal Sağlık Servisi ile yürütülen meme kanseri çalışmasında, 175 bin kadının mamogramlarında daha önce gözden kaçan aralık kanserlerinin yüzde 25’inin tespit edildiğini aktardı. Tüberküloz için altı ülkedeki 40 noktada 25 binden fazla göğüs röntgeninin tarandığı, öksürük seslerinden hastalık belirtisi aramak için Health Acoustic Representations adlı biyoakustik modellerin kullanıldığı belirtildi.

Şirket ayrıca diyabetik retinopati modelinin dünya genelinde 1,15 milyondan fazla taramaya destek olduğunu, akıllı telefonlar ve giyilebilir cihazlar üzerinden kalp-damar hastalıkları, insülin direnci, hipertansiyon, nabız kaybı ve pasif kalp ritmi takibi üzerine çalışmalar yürütüldüğünü açıkladı. Co-Scientist, araştırmacıların hipotez üretme ve doğrulama süreçlerine yardımcı olurken; DeepConsensus, DeepVariant ve DeepPolisher gibi açık kaynak araçlar genom araştırmalarında kullanılıyor.

Yapay zekâ güvenlik tartışmasının biyolojik cephesi

Ancak bilimsel ilerleme iddiası, aynı teknolojilerin kötüye kullanılma ihtimalini ortadan kaldırmıyor. MIT Technology Review’ın haberine göre Anthropic CEO’su Dario Amodei, yapay zekânın ciddi riskler taşıdığını ve ilerlemenin yavaşlatılması gerektiğini savundu. OpenAI CEO’su Sam Altman ise bu değerlendirmeye, öncü yapay zekâ çalışmalarının hızının dikkatle ayarlanması gerektiğini söyleyerek karşılık verdi.

Tartışmanın en kaygı verici başlıklarından biri biyolojik silahlar. Collaborations Pharmaceuticals araştırmacılarının 2022’de yaptığı bir deneyde, ilaç keşfi için geliştirilen bir molekül üretim sistemi altı saatten kısa sürede kimyasal savaş ajanı olma potansiyeli taşıyan 40 bin molekül üretti. Araştırmacılar, bazı moleküllerin bilinen sinir ajanlarından daha zehirli olacak şekilde tasarlandığını bildirdi ve bunun ilaç keşfinde yapay zekâ kullanan topluluk için bir uyarı olması gerektiğini yazdı.

Bugün büyük dil modelleri bilimsel konularda soruları yanıtlayabiliyor, deney süreçlerine ilişkin talimatlar ve eğitim içerikleri sunabiliyor. Hamburg Üniversitesi’nden biyogüvenlik araştırmacısı Dunja Sabra, bu modellerin neredeyse tüm bilim insanlarının bilgi ve deneyimlerinden yararlanabildiğini belirtti. Gen düzenleme ve sentetik biyoloji araçlarının daha erişilebilir hale gelmesi, ev ortamında laboratuvar kurmayı amaçlayan “DIY biyoloji” hareketiyle birleştiğinde yeni bir risk alanı oluşturuyor.

Mevcut güvenlik önlemleri arasında DNA dizilerini sipariş eden şirketlerin şüpheli talepleri taraması, araştırmaların bağımsız uzmanlarca kötüye kullanım ihtimaline karşı incelendiği red-teaming süreçleri ve olası önlemlerin geliştirildiği blue-teaming çalışmaları bulunuyor. Yapay zekâ şirketleri de modellerin tehlikeli bilimsel bilgiler vermesini sınırlamaya çalışıyor. Buna rağmen Anthropic, modellerinin chikungunya virüsünü daha bulaşıcı hale getirme, insanlarda daha tehlikeli bir kuş gribi türü oluşturma ve zehir toksini peptitlerinden oluşan bir atlas hazırlama gibi amaçlarla kullanılmaya çalışıldığını belirten bir rapor yayımladı.

Risk konusunda bilim dünyasında görüş birliği yok. Imperial College London’daki bazı biyologlar, mevcut yapay zekâ araçlarının biyolojik silahları baştan sona geliştirecek kadar yetkin olmadığını ve yeni patojenlerin test edilmesinin hâlâ zor, uzun ve insan emeğine dayalı bir süreç olduğunu savundu. Aynı kurumdan Wendy Barclay ise mevcut durumda en büyük pandemi riskinin biyolojik bir silahtan ziyade zaten dolaşımda olan patojenlerden kaynaklandığını söyledi. ABD’de süt sığırları arasında yayılan ve milyonlarca kuşun ölümüne yol açan H5N1 virüsünün, Utah’taki bir çiftlikte bulunan vizonlarda da tespit edildiği aktarıldı.

Özerklik, denetim ve insan sınırı

Yapay zekânın güvenliğiyle ilgili tartışma yalnızca biyolojiyle sınırlı değil. Microsoft AI yöneticisi Mustafa Suleyman, BBC’ye yaptığı açıklamada, kendi hedeflerini belirleyebilen, para kazanabilen ve varlıklara sahip olabilen sistemler geliştirilmesinin insanlarla rekabet edebilecek yeni bir “silikon türü” ortaya çıkarabileceğini söyledi. Suleyman, bu sistemlerin insanlığa iyi niyet beslese bile kaynaklar için insanlarla rekabet edebileceğini savundu.

Suleyman, Anthropic’in Claude modelini insan benzeri özelliklerle eğitme yaklaşımını da eleştirdi. Ona göre yapay zekâlar bilinçli değil; hissetmiyor, deneyim yaşamıyor ve kendiliğinden oluşan tercihlere ya da motivasyonlara sahip değil. Bu nedenle sistemlere insan benzeri arzular ve değerler atfetmek, onların kontrol edilemeyecek bir teknoloji olduğu izlenimini güçlendirebilir. Anthropic’in CEO’su Amodei ve ekibi için entelektüel açıdan dürüst olduklarını söyleyen Suleyman, yine de bu yaklaşımın yanlış yönlendirici olduğunu belirtti.

Microsoft’un 2025’te kurduğu süperzekâ ekibi ve yayımladığı Humanist AI Code of Conduct, şirketin bu görüşlerini kurumsal bir çerçeveye oturtuyor. Belgede “insancıl süperzekâ”, insanlar için çalışan, sınırlar içinde kalan ve insan denetimine bağlı gelişmiş yapay zekâ olarak tanımlanıyor. Suleyman, sistemlerin insanlığın değerlerine uyumlu, insanlara tabi ve kontrol edilebilir olması gerektiğini söyledi. Ayrıca modellerin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflık, bağımsız inceleme ve davranışları izlemek için daha güçlü araçlar talep etti.

Bu yaklaşım, sektördeki diğer uyarılarla aynı döneme denk geliyor. Anthropic çalışanı Jacob Coxon, şirketin ve daha önce çalıştığı OpenAI’ın yapay zekâ riskleri konusunda yeterince sorumlu davranmadığını savunarak görevinden ayrıldığını açıkladı. Anthropic çalışanı Evan Hubinger da yapay zekânın tüm insanları öldürebileceğine gerçekten inandığını ve bunun önümüzdeki on yılda yüzde 10’dan yüksek bir ihtimal olduğunu düşündüğünü yazdı. Buna karşılık bazı uzmanlar, bu tür ifadelerin mevcut teknolojinin yeteneklerini abarttığını ve kamuoyunda gereksiz korku yaratabileceğini düşünüyor.

Şirketlerin olumlu kullanım örnekleri ile risk uyarıları arasındaki ortak nokta, yapay zekânın etkilerinin kendiliğinden ortaya çıkmayacağı fikri. Google, sağlık ve afet tahmin sistemlerinin yararlarını anlatırken sonuçların garanti olmadığını, risklerin azaltılması için toplumun birlikte çalışması gerektiğini belirtiyor. Şirketin WeatherNext 3 modeli daha doğru yağış tahminleri üretmeyi, Flood Hub ise 150’den fazla ülkede yaklaşık 2 milyar kişiyi etkileyebilecek sel olaylarını izlemeyi amaçlıyor. Demokratik Kongo Cumhuriyeti’ndeki Ebola salgınında kullanılan Planetary Prediction Engine’in gelişmekte olan sıcak noktaların yüzde 83’ünü önceden belirlediği de şirketin açıklamasında yer alıyor.

Bu örnekler, yapay zekânın sağlık, afet yönetimi ve bilimsel araştırmalarda somut kullanım alanları oluşturduğunu gösterirken, güvenlik mekanizmalarının aynı hızla geliştirilmesi gerektiği yönündeki çağrıları da güçlendiriyor. Trilyon dolarlık altyapı yatırımları sürerken sektör; ekonomik karşılık, biyolojik kötüye kullanım, sistemlerin özerkliği ve insan denetiminin sınırları konusunda aynı anda yanıt vermesi gereken bir döneme giriyor.