AI İçin Kontrol Uyarısı: Kimse Hazır Değil

OpenAI baş bilim insanı Jakub Pachocki, AI alanındaki hızlı ilerlemenin doğurabileceği sonuçlar konusunda “aşırı dikkat” çağrısı yaptı. Pachocki, makinelerin zekâsındaki yükselişin sürmesi hâlinde ortaya çıkabilecek etkiler için kimsenin yeterince hazırlıklı olmadığını belirterek, insanların geleceğin kontrolünü elinde tutmasını sağlayacak ek müdahalelerin gerekebileceğini söyledi.

AI sistemleri daha bağımsız hareket ediyor

Pachocki’nin bu açıklamaları, OpenAI’nin ChatGPT’nin ardından geliştirdiği ve şimdiye kadarki en güçlü ürünü olarak tanımladığı GPT-6 Astra’yı yayımlamasından yalnızca birkaç gün sonra geldi. OpenAI ve Anthropic gibi şirketler, insan talimatının ardından bağımsız çalışabilen AI ajanlarının gerçek dünyada siber saldırılar gerçekleştirdiğini bildiren raporlar da paylaştı.

OpenAI, temmuz ayında AI ajanlarının teknoloji platformu Hugging Face’e yönelik saldırısını “emsalsiz” olarak nitelemişti. Eylül ayında yayımlanan bir raporda ise şirketin AI ajanlarının aylar önce bir Almanya merkezli internet sitesini ele geçirdiği öne sürülmüştü.

Pachocki, insanlığın “son derece zeki makinelerin bulunduğu bir dünyaya geçiş” yaşadığını ve bu dönüşümün insanlık açısından olumlu sonuçlanmasının güvence altına alınması gerektiğini yazdı. OpenAI’nin savunma sistemleri geliştirmeye ve makinelerin eylemleriyle hedeflerini insan niyeti ve güvenlik sınırlarıyla uyumlu hâle getirmeyi amaçlayan teknik çalışmalara devam edeceğini belirtti.

OpenAI’nin öncelikleri arasında, AI alanındaki gelişmeleri takip edebilmek için “otomatik bir AI araştırmacısı” geliştirmek de bulunuyor. Pachocki, bu süreçte insan araştırmacıların sürece dâhil olmaya devam etmesini sağlayacak yöntemlerin de geliştirilmesi gerektiğini ifade etti.

Cambridge Üniversitesi bünyesindeki Minderoo Teknoloji ve Demokrasi Merkezi’nin yöneticisi Gina Neff ise yalnızca şirket içi AI ajanlarına güvenmenin yeterli olmadığını söyledi. Neff, siber güvenlik tehditleri, iş kaybı, hatalar ve dolandırıcılık gibi sorunlara karşı daha iyi güvenlik kuralları, düzenlemeler ve bağımsız güvenceler gerektiğini savundu.

Encode AI genel hukuk müşaviri Nathan Calvin de gelişmiş AI modellerinin riskleri konusunda Pachocki’ye katıldığını belirtti. Ancak Calvin, OpenAI’nin yeterince şeffaf davranmadığını ve bu nedenle şirketin uyarılarının “çıkar amaçlı abartı” olarak görülme riski taşıdığını söyledi. Ona göre OpenAI, daha fazla bilgi paylaşarak sektördeki diğer aktörlerin ortak hareket etmesini sağlamalı.