AGI
Genel zekâ tartışması. Bu başlıkta 5 yazı yayımlandı.
Anthropic, Yapay Zekâ Yarışına Fren İstiyor
Anthropic CEO’su Dario Amodei, yapay zekâ modellerinin geliştirilme hızının yavaşlatılması ve bağımsız biçimde denetlenmesi çağrısı yaptı. Amodei, şirketler ile hükümetlerin güvenlik risklerini değerlendirmek için daha fazla zamana ihtiyacı olduğunu belirtti.
Süperzekâ Yarışından İstifa Eden Araştırmacı Uyardı
OpenAI ve Anthropic'te üç yıl araştırmacı olarak çalışan Jacob Coxon, iki şirketin de sorumlu davranmadığını söyleyerek istifa etti ve sektörden tamamen ayrıldı. Coxon'a göre laboratuvarlar kendini geliştiren süperzekâya doğru koşuyor. Anthropic'in "insan değerleriyle hizalama bilimi" lideri Evan Hubinger de onu doğruladı: yapay zekânın tüm insanları öldürme ihtimalini önümüzdeki on yıl için yüzde 10'un üzerinde görüyor.
Robotlar Beklenmedik Durumları Önceden Planlayacak
Robotlar, daha önce karşılaşmadıkları ortamlarda nasıl hareket edeceklerini önceden tahmin etmeyi öğrenebilir. Danijar Hafner’ın geliştirdiği dünya modelleri ve pekiştirmeli öğrenme yaklaşımı, evler gibi değişken ortamlarda çalışabilecek makineler üretmeyi hedefliyor.
Süperzekâ İçin Kongre’de Yasak Çağrısı
ABD’li Senatör Bernie Sanders ve Temsilci Greg Casar, süperzekâ geliştirilmesi ve kullanılmasının yasaklanmasını isteyen bir yasa tasarısı hazırlıyor. İkili ayrıca, gelişmiş yapay zekâ modellerinin geliştirilmesine, riskleri denetleyecek yeni bir kurum kurulana kadar ara verilmesini talep ediyor.
GPT-6 Astra, AGI Çağını Başlatabilir mi?
OpenAI, bilgisayar ve web tarayıcılarını kullanma, yazılım geliştirme ve zor matematik problemlerini çözme alanlarında güçlü performans sunduğunu öne sürdüğü GPT-6 Astra modelini duyurdu. Şirket yöneticileri, modelin AGI döneminin başlangıcına işaret edebileceğini savunurken güvenlik ve izlenebilirlik konusundaki zorlukların büyüdüğünü de kabul ediyor.