Araştırmacılar, Civitai adlı pazarın kullanıcıların ticari amaçla kullanılabilecek özel talimat dosyaları almasına izin verdiğini ve bunun pornografik deepfake üretimine yol açtığını tespit etti. Bu bulgular, platform denetimi ve hukuki sorumluluk tartışmalarını yeniden alevlendirebilir.
Civitai isimli çevrimiçi pazarın kullanıcılarına, yapay görüntü üretim modellerini yönlendiren “özel talimat dosyaları” (instruction files) satma imkanı verdiği; Stanford Üniversitesi ve Indiana Üniversitesi’nden araştırmacıların analizine göre bu dosyaların bazı durumlarda site kurallarınca yasaklanan pornografik deepfake’leri üretmek üzere tasarlandığı tespit edildi. Analiz, 2023 ortalarından 2024 sonuna kadar siteye verilen “bounty” (talep) kayıtlarını inceledi.
deepfake: ne bulundu?
Araştırma, çoğu talebin animasyon türü içerikler için olduğunu, ancak gerçek kişilerin deepfake’lerini hedefleyen isteklerin de önemli oranda yer aldığını gösteriyor. Bu deepfake taleplerinin yaklaşık %90’ı kadınları hedefliyordu; yani zarar görme riski en çok kadınlar üzerinde yoğunlaşmış durumda. “Bounty” terimi, kullanıcıların istedikleri içeriğe yönelik açık çağrılar yayınladıkları kayıtları kapsıyor.
Analizde öne çıkan noktalardan biri, bazı satılan talimat dosyalarının, platformun kendi kurallarıyla çelişerek yasaklı pornografik içerik üretimini kolaylaştıracak şekilde hazırlanmış olması. Civitai’nin arkasındaki yatırımcılar arasında Andreessen Horowitz gibi isimler bulunuyor; bu da platformun yaygın kullanımını ve dolayısıyla potansiyel zararların ölçeğini büyütüyor.
Bu tür bulgular, içerik denetimi, platform sorumluluğu ve olası hukuki düzenleme gerekliliği tartışmalarını güçlendiriyor. Araştırmacılar ve hak savunucuları, pazaryerlerinin hem teknik tedbirleri (model filtreleme, dosya inceleme) hem de şeffaf politika uygulamalarını sıkılaştırması gerektiğini vurguluyor. Kullanıcı taleplerinin kayıt altına alınıp izlenmesi, potansiyel kötüye kullanımların tespiti için kritik görülüyor.
Bir Cevap Bırakın