OpenAI, Tumbler Ridge saldırısının şüphelisine ait bir ChatGPT hesabını Haziran 2025’te tespit edip kapattığını açıkladı. Şirket, kullanımın “acil ve yakın” bir fiziksel zarar planı eşiğini karşılamadığı gerekçesiyle yetkililere bildirim yapmadı.
OpenAI neden ihbar yapmadı?
OpenAI, Haziran 2025’te Jesse Van Rootselaar’a ait olduğu belirtilen bir ChatGPT hesabını iç denetim ve kötüye kullanım tespiti süreçleriyle tespit ederek kapattığını bildirdi. Şirket, hesabın kullanımının yetkililere başvurmayı gerektirecek düzeyde “güvenilir veya yakın” bir fiziksel zarar planı gösterdiğine dair eşik değerini karşılamadığını belirtti.
Wall Street Journal’ın aktardığına göre, şirket içinde Van Rootselaar’ın paylaşımları hakkında “yaklaşık bir düzine” çalışan arasında harekete geçilip geçilmemesi konusunda tartışma yaşandı. Bazı çalışanlar içerikleri gerçek dünyada şiddetin işaretleri olarak değerlendirmiş ve polise bildirilmesini önermişti; ancak şirket yönetimi o sırada bildirimde bulunmama kararı aldı.
12 Şubat’ta Tumbler Ridge’te meydana gelen saldırıda sekiz kişinin yaşamını yitirdiği ve onlarca kişinin yaralandığı bildirildi. Olayın ardından OpenAI, soruşturmaya yardımcı olmak için yetkililerle “proaktif” iletişime geçtiğini açıkladı ve yönlendirme kriterlerini uzmanlarla birlikte gözden geçirdiğini belirtti.
Bu olay, yapay zekâ hizmet sağlayıcılarının hangi durumlarda güvenlik güçlerini bilgilendireceğine dair tartışmaları yeniden öne çıkardı. Şirketler, çok geniş bir bildirim politikası izlerse yanlış pozitiflerin yaratacağı olası zararlara dikkat çekiyor; öte yandan erken müdahale şansını kaçırma riski de eleştiriliyor.
Bir Cevap Bırakın