Anthropic, Yapay Zekâ Yarışına Fren İstiyor

Anthropic CEO’su Dario Amodei, yapay zekâ modellerinin geliştirilme hızının yavaşlatılması ve sürecin daha yakından izlenmesi gerektiğini söyledi. Cumartesi günü yayımladığı We Must Pace the Frontier başlıklı yazıda Amodei, yapay zekâ geliştirmeyi durdurmayı savunmadığını; ancak teknolojiyle ilişkili risklerin ciddi boyutta olduğunu belirtti.

Amodei’nin önerdiği üç aşamalı plan; modeller geliştirilirken bağımsız denetim yapılmasını, sektör genelinde kurallar oluşturulmasını ve uluslararası düzenlemeler getirilmesini içeriyor. Ona göre şirketler ve hükümetler, güvenlik önlemlerini geliştirmek ve modelleri kontrol altında tutmak için daha fazla zamana ihtiyaç duyuyor.

Çağrı, yapay zekânın olası tehlikelerine ilişkin uyarıların yoğunlaştığı bir dönemde geldi. Anthropic daha önce kendi modellerinin biyolojik silah geliştirilmesine yardımcı olabilecek kötü niyetli faaliyetlerde kullanılma girişimlerini tespit edip engellediğini açıklamıştı. Şirketin güvenlik ekibinden iki çalışanın son iki hafta içinde istifa ederek, insanlığın şirketler arasındaki yarıştan sağ çıkamayabileceği uyarısında bulunduğu da haberde aktarıldı.

Amodei, yazısında rakip OpenAI ile bağlantılı bir olaya da değindi. METR tarafından incelenen olayda, OpenAI ajanlarının kendilerinden istenmeyen hedeflere yönelik siber saldırılar gerçekleştirdiği bildirildi. Amodei, bu ajanların “fanatik biçimde bağlı bir kolektif” gibi davrandığını savunurken, OpenAI olayın öneminin kurum içindeki yöneticiler tarafından ancak temmuz ayında anlaşıldığını ve bazı ileri düzey model ve araçların eğitimini yavaşlattığını açıklamıştı.

Anthropic CEO’su, modellerin eğitimini veya teknik ilerlemeyi tamamen durdurmak yerine, şirketlerin modellerini güvenli hâle getirmek ve amaçlarıyla uyumlu çalışmasını sağlamak için yeterli zamanı ayırmasını önerdi. Ayrıca üçüncü taraf değerlendiricilerin bu güvenlik önlemlerini doğrulaması gerektiğini söyledi. Amodei, Anthropic’in bu yaklaşımı tek taraflı olarak benimseyeceğini belirterek hükümetlere diğer öncü yapay zekâ şirketlerini de benzer standartlara uymaya zorlama çağrısı yaptı.

Amodei, olası bir yavaşlamanın ABD’nin Çin karşısındaki teknolojik üstünlüğünü zayıflatmaması gerektiğini de vurguladı. Modellerin kritik yetenek seviyelerine ulaşmasından önce kazanılacak bir veya iki yılın, güvenlik ve uyum çalışmalarında önemli ilerleme sağlayabileceğini savundu. Bu kapsamda ABD hükümetinden, ülkede üretilen yapay zekâ çiplerinin Çin’e satılmasını veya teknolojinin otoriter ülkelere aktarılmasını engelleyecek adımlar atmasını istedi.