Üç yeni kitap, yapay zekâ öngörülerinin nasıl üretildiğini ve kimin çıkarına işlendiğini sorguluyor. Bu tahminler bir yandan kararları otomatikleştirirken diğer yandan ayrımcılığı pekiştirebiliyor.
Günlük hayatımızın giderek daha büyük bir kısmı makinelerin yaptığı tahminlerle şekilleniyor: kredi değerlendirmeleri, işe alımlar, reklam hedeflemeleri hatta bazı durumlarda hayatî kararlar. Bryan Gardiner’ın incelediği üç yeni kitap—Maximilian Kasy’nin The Means of Prediction, Benjamin Recht’in The Irrational Decision ve Carissa Véliz’in Prophecy—bu öngörü düzeninin nasıl kurulduğunu, hangi çıkarları gözettiğini ve toplumsal sonuçlarını farklı açılardan ortaya koyuyor.
Öngörü: veriden iktidara
Maximilian Kasy, çoğu günlük tahminin büyük, etiketlenmiş veri kümeleri üzerinden yapıldığını ve bu sistemlerin aslında kâr hedefleriyle şekillendiğini savunuyor. Kasy’ye göre sorunları “daha adil” algoritmalarla çözmek tek başına yeterli değil; veriye, hesaplama altyapısına ve teknik uzmanlığa demokratik denetim getirecek kurumlar (örneğin veri vakıfları) veya sosyal zararı fiyatlayan vergi benzeri düzenlemeler gereklidir.
Benjamin Recht, karar teorisinin ve “matematiksel rasyonalite”nin tarihçesini izleyerek modern otomasyonun hangi zihniyetle kurulduğunu gösteriyor. Ona göre bilgisayarları ideal rasyonel ajanlar olarak tasarlama fikri, insan sezgisi ve değer yargılarını ikincilleştiriyor; bu da bazı politika ve tasarım tercihlerinin insanî yönlerini gölgede bırakıyor.
Carissa Véliz ise tahminleri, kendini gerçekleştiren mıknatıslar olarak görüyor: güçlü bir öngörü yayıldığında insanlar ona göre davranarak onu doğrulayabilir veya bazı meselelerin gözden kaçmasına yol açabilir. Véliz’in eleştirisi, kimin geleceği tahmin etmeye yetkili olduğu sorusunu siyasi bir soru haline getiriyor—öngörü aynı zamanda bir güç aracıdır.
Üç kitabın ortak noktası şu: öngörü mekanizmaları yalnızca teknik bir problem değil, aynı zamanda politik bir mesele. Yazarlardan çıkan öneriler arasında teknik şeffaflık, kamusal denetim mekanizmaları ve verinin kullanımına ilişkin kolektif karar süreçleri yer alıyor. Okuyucu için açık soru ise basit: hangi öngörülere izin vereceğiz ve hangi kararları insanlar almayı sürdürecek?
Kaynaklar ve Bağlantılar:
- Maximilian Kasy, The Means of Prediction — https://press.uchicago.edu/ucp/books/book/chicago/M/bo255887145.html
- Benjamin Recht, The Irrational Decision — https://press.princeton.edu/books/hardcover/9780691272443/the-irrational-decision
- Carissa Véliz, Prophecy: Prediction, Power, and the Fight for the Future — https://www.penguinrandomhouse.com/books/759692/prophecy-by-carissa-veliz
- İlgili arka plan: This is where the data to build AI comes from — https://www.technologyreview.com/2024/12/18/1108796/this-is-where-the-data-to-build-ai-comes-from
Bir Cevap Bırakın