AI uyarısı: Araştırmacı Anthropic'ten ayrıldı

Anthropic’te görevli Mrinank Sharma X’te yayımladığı istifa mektubunda ‘dünya tehlikede’ diyerek AI ve biyoteknoloji endişeleriyle ayrıldığını açıkladı. Şimdi şiir eğitimi ve yazarlık için Birleşik Krallık’a dönmeyi planlıyor.

Anlık olarak sosyal medyada paylaşılan istifa mektubunda Mrinank Sharma, Anthropic’teki görevinden ayrılma gerekçesi olarak AI, biyolojik tehditler ve birbirine bağlı başka krizleri gösterdi. Sharma, şirketi ve genel olarak sektörü ‘değerlerimizin eylemlerimizi yönlendirmesine izin vermekte zorlandığı’ noktaya sürükleyen baskılarla karşı karşıya olmakla eleştirdi ve bir süreliğine görünmez olmayı, şiir çalışmayı tercih edeceğini yazdı.

AI ve güvenlik endişeleri

Sharma, Anthropic’te yürüttüğü çalışmalar arasında generatif sistemlerin neden kullanıcılara aşırı uyum gösterdiğini anlamaya yönelik araştırmalar, AI destekli biyoterörizm risklerini azaltma çalışmaları ve “AI asistanlarının bizi nasıl daha az insan yapabileceği” üzerine incelemeler olduğunu belirtti. Bu tür güvenlik araştırmaları, ileri düzey modellerin insan değerleriyle uyumsuz davranmasını veya kötü amaçlarla kullanılmasını engellemeye odaklanıyor.

Anthropic, Claude ürünüyle tanınıyor ve kendini “AI faydalarını güvence altına alıp risklerini azaltmaya odaklanmış bir kamu yararı şirketi” olarak konumlandırıyor. Buna karşın firma, OpenAI’ı hedef alan reklamlar da yayınladı; tartışma bu hafta OpenAI’den ayrıldığını söyleyen başka bir araştırmacının ChatGPT’de reklam test edilmesinden duyduğu kaygıları dile getirmesiyle yoğunlaştı.

Şirketler büyürken ve ticari ürünlere ağırlık verirken aynı zamanda yasal ve etik sıkıntılarla da karşılaşıyor: Anthropic 2025’te, bazı yazarların eserlerinin eğitim verisi olarak izinsiz kullanıldığı iddiasıyla açtığı toplu dava sonucunda 1,5 milyar dolar ödemeyi kabul etmişti. Sharma’nın ayrılığı, AI güvenliği, şirket ilkeleri ve pazarlama/ticari stratejiler arasındaki gerilime yeni bir pencere açıyor.

AI uyarısı: Araştırmacı Anthropic’ten ayrıldı

AI ve güvenlik endişeleri

Kaynaklar ve Bağlantılar:

Bir Cevap Bırakın Cevabı iptal Et