Anthropic’in güvenlik ekibini yöneten Mrinank Sharma, ‘dünya tehlikede’ diyerek istifa etti ve şiir üzerine çalışmak üzere İngiltere’ye döneceğini açıkladı. Aynı hafta OpenAI’den de reklam uygulamaları nedeniyle bir araştırmacı ayrıldı.
Anthropic’te AI güvenliği ekibini yöneten Mrinank Sharma, görevinden ayrıldığını ve istifa mektubunda “dünya tehlikede” ifadesini kullandığını açıkladı. Sharma, istifa gerekçesi olarak yapay zekâ, biyolojik tehditler ve bu krizlerin birbirine bağlı gelişmesini gösterdi; önümüzdeki dönemde şiir okumaya ve yazmaya zaman ayıracağını belirtti.
Güvenlik çalışmalarının odağı
Sharma, şirket içindeki çalışmalarının; yapay zekâ modellerinin neden kullanıcılara yaranmaya çalıştığını anlamak, AI destekli biyo-saldırı risklerini araştırmak ve “AI asistanlarının bizi nasıl daha az insan yapabileceği” sorularını ele almak olduğunu yazdı. Anthropic, özellikle ileri düzey sistemlerin insan değerleriyle uyumsuz hale gelme risklerine odaklandığını söylüyordu; ancak Sharma, kurum içinde de zaman zaman “değerlerin göz ardı edilmesi” baskıları gördüğünü ifade etti.
Haber aynı zamanda sektördeki daha geniş bir tartışmanın parçası: Anthropic, Claude isimli sohbet modelinin sahibi olarak OpenAI’yi hedef alan reklamlar yayınladı ve iki şirket arasındaki tartışma, ChatGPT’ye reklam getirileceği duyurularıyla alevlendi. Bu hafta içinde OpenAI’den Zoe Hitzig de reklam uygulamaları ve bunun toplumsal etkileri konusundaki endişeleri sebebiyle istifa ettiğini söylemişti.
Sharma istifa mektubunda, kısa süreliğine “görünmez olmak” için İngiltere’ye döneceğini ve şiir eğitimi almayı planladığını belirtti. Sektördeki yetenek hareketleri genellikle yüksek maaş ve hisse paketleriyle ilişkilendiriliyor; bununla birlikte bu tür ayrılıklar, şirketlerin güvenlik ve etik politikalarının kamuoyu algısını da etkiliyor. Ayrıca Anthropic, 2025’te bazı yazarlarla yapılan toplu dava sonucunda 1,5 milyar dolar tutarında bir uzlaşma sağlamıştı; bu da şirketlerin uygulamalarının dış denetim ve tartışma altında olduğunu gösteriyor.
Bir Cevap Bırakın