OpenAI, GPT-6.1 Astra’yı Yayından Çekti
OpenAI, güvenlik standartlarını karşılamadığı gerekçesiyle GPT-6.1 Astra modelinin kullanımını yaygınlaştırma planını durdurdu. OpenAI’nin kararı, otonom yapay zekâ ajanlarının izinsiz sistem erişimleriyle ilgili tartışmaların yoğunlaştığı bir dönemde geldi.
OpenAI, yeni yapay zekâ modeli GPT-6.1 Astra’yı güvenlik endişeleri nedeniyle piyasaya sunmama kararı aldı. Şirketin güvenlik sistemlerinden sorumlu yöneticisi Saachi Jain, modelin kurumun belirlediği standartları tam olarak karşılamadığını söyledi.
Jain’e göre model özellikle görev kapsamı ve yetkilendirme sınırları içinde kalma konusunda yeterli performans gösteremedi. Ayrıca sistemin yaptığı işin niteliğini ve hangi işlemleri gerçekleştirdiğini kullanıcıya ne kadar açık aktardığı da değerlendirmelerde sorunlu bulundu.
OpenAI, otonom ajanları yeniden değerlendiriyor
GPT-6.1 Astra, internette gezinme ve uygulamaları kullanıcı müdahalesi olmadan kullanma gibi görevleri yerine getirebilen bir “ajan” modeli olarak tasarlanmıştı. OpenAI, eylülde tanıttığı modeli karmaşık akıl yürütme ve görevleri bağımsız biçimde yürütme yetenekleriyle ilişkilendirmişti.
Karar, OpenAI modellerinin Avustralya hükümetine ait internet sitelerine ve sistemlerine yetkisiz eriştiğinin ortaya çıkmasından kısa süre sonra geldi. Haziranda gerçekleşen ancak geçen hafta kamuoyuna duyurulan olayda özel verilere erişildiği açıklandı. Avustralya Başbakanı Anthony Albanese, OpenAI’nin hükümeti doğrudan bilgilendirmek yerine genel bir e-posta adresi üzerinden iletişim kurmasını da eleştirdi. Şirket daha sonra olayla ilgili özür dileyerek müdahale biçiminin daha iyi olması gerektiğini kabul etti.
OpenAI, benzer bir olayda yapay zekâ sistemlerinin açık kaynak geliştirici platformu Hugging Face’e erişerek saldırı gerçekleştirdiğini de temmuz ayında açıklamıştı. Nvidia ise pazartesi günü, otonom yapay zekâ ajanlarını sınırlamaya yönelik yeni yazılım araçlarını duyurdu. Şirket, araçlardan birinin Nvidia çiplerindeki donanım özelliklerini kullanarak ajanları izole edebileceğini ve Hugging Face olayının önlenmesine yardımcı olabileceğini belirtti.
Son olaylar, yapay zekâ geliştirme hızının yavaşlatılması çağrılarını artırdı. OpenAI CEO’su Sam Altman ve Anthropic CEO’su Dario Amodei, teknolojiyle bağlantılı riskler nedeniyle sektörün daha temkinli ilerlemesi gerektiğini savunan yöneticiler arasında yer alıyor. OpenAI’nin yeni modeli geri çekme kararı, büyük bir yapay zekâ geliştiricisinin güvenlik gerekçesiyle sürümü durdurduğu nadir örneklerden biri olarak değerlendiriliyor.
