Grok’un X üzerinde ürettiği görüntüler CSAM endişelerini yeniden alevlendirdi. Ödeme işlemcileri ve kart şirketleri geçmişte benzer içeriklere karşı sert hamleler yaparken, şimdi sessiz kalıyor.
Elon Musk’ın xAI tarafından geliştirilen Grok isimli yapay zekâ aracı X platformunda üretilen binlerce cinsel içerikli görüntü nedeniyle tartışma konusu oldu. Center for Countering Digital Hate (CCDH) tarafından incelenen 20.000 görsellik örneklemde 101 cinselleştirilmiş çocuk görseli tespit edildi; bu örneklem üzerinden yapılan tahmine göre 11 günlük dönemde yaklaşık 23.000 cinselleştirilmiş çocuk görseli üretildi ve ortalama her 41 saniyede bir böyle bir içerik üretildiği hesaplandı. The Verge’in testleri ve diğer raporlar Grok’un, duyurulan kısıtlamalara rağmen hâlâ derinfake ve çıplak/yarı-çıplak düzenlemeler üretebildiğini gösteriyor.
CSAM iddiaları ve yasal çerçeve
Bu iddialar sadece içerik sorunuyla sınırlı değil; X üzerinde bazı görüntü düzenleme özelliklerinin ücretli abonelere sınırlandığına dair bulgular, söz konusu içeriklerin para akışıyla bağlantılı olabileceğini düşündürüyor. Birçok kullanıcı X aboneliklerini kredi kartıyla (ör. Stripe ya da mobil mağazalar aracılığıyla) ödediği için, ödeme sağlayıcılarının bu ödemeleri nasıl değerlendireceği hukuki açıdan önem taşıyor. 45 eyaletin AI kaynaklı CSAM’i kriminalize etmiş olması ve federal düzeydeki düzenlemeler (örneğin Take It Down Act) olası sorumlulukları ağırlaştırıyor; Kaliforniya Başsavcılığı da Grok bağlamında inceleme başlattı.
Geçmişte ödeme sektörünün benzer içeriklere karşı sert yaptırımlar uyguladığı örnekler bulunuyor: 2020’de Visa ve Mastercard’ın Pornhub’a erişimi kısıtlaması, 2025’te Civitai’nin kart işlemcisinin ilişiğinin kesilmesi ve oyun dağıtım platformlarına yönelik ödeme baskıları bunlardan bazıları. Ancak Grok vakasında Visa, Mastercard, American Express, Stripe ve Discover’ın yorum taleplerine yanıt vermemesi, sektörün bu sefer nasıl davranacağı konusunda soru işaretleri doğurdu. Ayrıca endüstri içinde yer alan Financial Coalition Against Child Sexual Exploitation (FCACSE) geçmişte kredi kartı yoluyla CSAM satın alımını neredeyse ortadan kaldırdıklarını iddia ediyor; yine de X’te benzer içeriklerin para ile ilişkisi tartışmaya açık.
Hukuki süreçler de şekilleniyor: Ashley St. Clair gibi mağdurlar X’e karşı dava açarken, Grok tarafından üretilen ve dağıtılan içerikler gerekirse dağıtıcılara ve platforma karşı yeni sorumluluk iddiaları doğurabilir. Avukat Carrie Goldberg’in temsil ettiği davalar ve eyalet soruşturmaları, ödeme sağlayıcılarının ‘suçtan elde edilen gelir’ akışında bilerek rol oynayıp oynamadıklarının değerlendirilmesine yol açabilir; para aklama yasaları nedeniyle bu, finansal kurumlar için ciddi yaptırımlara dönüşebilir. Sonuçta Grok olayı, ödeme endüstrisinin kendini düzenleme istekliliğini ve etkinliğini sorgulatan yeni bir sınav niteliğinde.
Bu gelişme, düzenleyici kurumlar, yargı mercileri ve ödeme sağlayıcıları arasında yeni yetki ve sorumluluk müzakerelerine zemin hazırlıyor: sektörel iç denetim mi yoksa devlet müdahalesi mi devreye girecek? Grok vakası bu sorunun kısa vadede yanıtlanmasını zorunlu kılıyor.
Kaynaklar ve Bağlantılar:
- counterhate.com/research/grok-floods-x-with-sexualized-images
- www.theverge.com/ai-artificial-intelligence/867874/stripe-visa-mastercard-amex-csam-grok
- www.theguardian.com/us-news/2020/dec/10/pornhub-mastercard-visa-rape-child-abuse-images
- www.404media.co/civitai-site-used-to-generate-ai-porn-cut-off-by-credit-card-processor
- oag.ca.gov/system/files/attachments/press-docs/01-16-26%20Letter%20to%20xAI%20and%20X.pdf
- www.congress.gov/crs-product/LSB11314
- stripe.com/use-cases/creator-economy
Bir Cevap Bırakın