Anthropic, Pentagon’un sözleşme şartlarına eklenmek istenen kullanım maddelerine karşı çıkarak temel güvenlik ilkelerinden taviz vermeyeceğini açıkladı. Şirket, özellikle kitlesel iç gözetim ve tam otonom silahlar gibi alanlarda endişeli olduğunu belirtiyor.
Yapay zeka şirketi Anthropic’in CEO’su Dario Amodei, ABD Savunma Bakanlığı (Department of Defense) ile devam eden müzakerelerde, firmanın bazı kullanım sınırlamalarını kaldırmama kararlılığını yineledi. Amodei, şirketinin demokratik değerleri zedeleyebilecek kullanımlara izin vermeyeceğini ve gerekirse Pentagon ile çalışmamayı tercih edeceklerini söyledi.
Güvenlik endişeleri ve sınırlar
Görüşmelerin merkezinde, Anthropic’in Claude adlı modeli için bakanlığın talep ettiği “her tür yasal kullanım” yetkisini içeren sözleşme maddesi bulunuyor. Şirket, özellikle “mass domestic surveillance” (kitlesel iç gözetim) ve “fully autonomous weapons” (tam otonom silahlar) gibi senaryoların sözleşmelerine dahil edilmesine karşı çıkıyor ve gelen yeni sözleşme dilinin bu endişeleri gidermediğini belirtiyor.
Amodei, mevcut AI sistemlerinin tam otonom silahları güvenilir şekilde çalıştıracak düzeyde olmadığını; bu nedenle bu tür sistemlerin denetimsiz kullanılmasının askerler ve siviller için risk oluşturacağını vurguladı. Anthropic, doğrulama ve güvenilirlik üzerine ortak Ar-Ge (R&D) teklif ettiğini, ancak bunun DoD tarafından kabul edilmediğini söyledi.
Pentagon cephesinden, sözcü Sean Parnell sosyal medya paylaşımında bakanlığın taleplerinin “sahte bir anlatı” ile karalandığını yazdı; bakanlığın ise Anthropic uymazsa Defense Production Act’in uygulanabileceğini ve hatta şirketin “supply chain risk” (tedarik zinciri riski) olarak ilan edilebileceğini belirtti. Anthropic, bir ihtimal olarak bakanlık kendilerini dışlarsa başka sağlayıcılara geçişte yardımcı olacaklarını söyledi; DoD ise haberde yorum yapmadı.
Bir Cevap Bırakın