Dezenformasyon AI Sürüleriyle Demokrasiyi Sarsabilir

Yeni nesil bir siyasi tehdit, protestolar veya geleneksel seçmen manipülasyonu kadar görünür olmayabilir. Araştırmacılara göre gerçekçi yapay zekâ kontrollü persona ağları, çevrim içi kamuoyunu şekillendirme ve demokratik sistemleri etkileme kapasitesine ulaşabilir.

Science dergisinde yayımlanan bir politika forumu yazısında, yapay zekâ tarafından oluşturulan çok sayıda personanın internette insan davranışını ikna edici biçimde taklit edebileceği anlatılıyor. Bu hesaplar dijital topluluklara katılabilir, tartışmalara yanıt verebilir ve binlerce hesap üzerinden tutarlı anlatıları eş zamanlı olarak yayabilir.

Dezenformasyon kampanyaları gerçek zamanlı uyarlanabilir

Büyük dil modelleri ve çok etmenli sistemlerdeki ilerlemeler, tek bir operatörün çok geniş yapay zekâ “sesleri” ağını yönetmesini mümkün kılıyor. Bu personalar yerel dili ve üslubu benimseyerek doğal etkileşimler kurabilir. Ayrıca hangi mesajların daha ikna edici olduğunu ölçmek için milyonlarca küçük ölçekli deneme yapabilir ve iletişim stratejilerini gerçek zamanlı olarak değiştirebilir.

Bu süreç, gerçekte yapay biçimde oluşturulmuş bir uzlaşının geniş bir kamuoyu desteği varmış gibi görünmesine yol açabilir. Araştırmacılar, tamamen gelişmiş yapay zekâ sürülerinin henüz büyük ölçüde teorik olduğunu belirtse de deepfake videolar ve sahte haber kuruluşları riskin erken işaretleri arasında yer alıyor.

UBC bilgisayar bilimcisi Kevin Leyton-Brown, bu tür içeriklerin ABD, Tayvan, Endonezya ve Hindistan’daki son seçim tartışmalarını etkilediğine dikkat çekiyor. İzleme kuruluşları ayrıca, büyük miktarda çevrim içi içerik yayan Kremlin yanlısı ağlar tespit etti. Bu faaliyetlerin, gelecekteki yapay zekâ sistemlerini eğitecek verileri şekillendirmeyi ve bu sistemlerin hangi bilgileri önceliklendireceğini etkilemeyi amaçlıyor olabileceği değerlendiriliyor.

Uzmanlara göre bu teknoloji, demokratik toplumlarda güç dengesini değiştirebilir. Leyton-Brown, çevrim içi bilinmeyen kaynaklara duyulan güvenin azalabileceğini, bunun da ünlü kişilerin etkisini artırırken tabandan gelen mesajların görünür olmasını zorlaştırabileceğini söylüyor. Yaklaşan seçimler, bu etki kampanyalarının yaygınlaşmadan fark edilip edilemeyeceğini görmek açısından kritik bir sınav olabilir.