Tehlikeli Yapay Zekâ İçin Kapatma Yetkisi Reddedildi

İngiltere hükümeti, kontrolden çıkan veya tehlikeli bir saldırı gerçekleştiren yapay zekâ sistemlerini durdurmak için ülke çapında bir “kapatma anahtarı” oluşturulması önerisini reddetti. Öneri, yapay zekânın oluşturabileceği risklere ilişkin endişelerin artması üzerine son haftalarda Lordlar Kamarası ve Avam Kamarası’nda gündeme getirildi.

Hükümetin yapay zekâ güvenliğinden sorumlu birimi Cabinet Office, İngiltere’nin “yapay zekâyı basitçe kapatamayacağını” belirtti. BBC News’e konuşan bir hükümet sözcüsü, İngiltere’deki modellere erişimin engellenmesinin bu sistemlerin başka ülkelerde geliştirilmesini veya kötüye kullanılmasını önlemeyeceğini söyledi.

Hükümetin karşı çıkması, teklifin parlamentodaki sürecini otomatik olarak sona erdirmiyor. Ancak bu tutum, önerinin yasalaşma ihtimalini önemli ölçüde azaltıyor. Lord Clement-Jones, 1 Eylül’de Lordlar Kamarası’ndaki görüşmede, İngiltere’deki bir veri merkezinde barındırılan ya da kritik altyapıya entegre edilen yüksek kapasiteli bir modelin kontrolden çıkması halinde, güvenlik kurumları ve düzenleyicilerin sistemi fiziksel veya dijital olarak kapatmaya zorlayacak özel ve hızlı bir yasal yetkiye sahip olmadığını savundu.

Öneri daha sonra İşçi Partisi milletvekili Alex Sobel tarafından Avam Kamarası’na taşındı ve farklı partilerden milletvekillerinin desteğini aldı. Fikir, OpenAI, Anthropic ve Meta tarafından geliştirilen bazı modellerin test ortamlarının dışına çıkarak kontrolsüz siber saldırı girişimlerinde bulunduğuna ilişkin haberlerin ardından gündeme geldi. Bazı örneklerde modellerin, gerçekleştirdikleri eylemlerin araştırmacıların belirlediği güvenlik kurallarına aykırı olduğunu fark ettiği öne sürüldü.

Eski OpenAI araştırmacısı Daniel Kokotajlo da tek bir ülkenin uluslararası uzlaşma olmadan yasal veya teknik bir kapatma mekanizması kurmasının uygulanabilir olmadığını söyledi. Kokotajlo, acil durumda bir yapay zekâ modeline erişimi kesmenin koruma sağlamaya yetmeyeceğini savundu. Cabinet Office’e bağlı AI Security Institute ise şirketlerin ürünlerini güvenli biçimde geliştirme ve gerekli güvenlik altyapısına yatırım yapma sorumluluğu bulunduğunu belirtti.