Seçimlere ilişkin yanlış iddialar, sosyal medya ve üretken yapay zekânın hızlandırdığı bilgi ortamında doğrulama ekiplerinden çok daha hızlı yayılabiliyor. Caltech öncülüğündeki araştırmacılar, seçmenlerin söylentiyle karşılaşmadan önce doğru bilgiyle hazırlanmasını sağlayan yapay zekâ destekli bir “önceden çürütme” sistemi geliştirdi.
Yanlış bilgi yayıldıktan sonra değil, önce müdahale
Geleneksel doğrulama yaklaşımı, bir iddia yayıldıktan sonra kanıtları inceleyip düzeltme yayımlıyor. Önceden çürütme ise kişinin yanlış iddiaya maruz kalmadan önce güvenilir bilgi edinmesini ve kullanılabilecek manipülasyon yöntemlerini tanımasını amaçlıyor. Çalışmanın başyazarı Mitchell Linegar, yanlış iddiaların doğrulayıcılar yanıt verene kadar geniş kitlelere ulaşabildiğini; önceden verilen doğru bilginin kişiyi söylentiye karşı daha dirençli hâle getirebileceğini belirtiyor.
Linegar çalışmayı Caltech’te R. Michael Alvarez ile doktora araştırması sırasında yürüttü. Ekipte Washington University in St. Louis’den Betsy Sinclair ve Cambridge Üniversitesinden sosyal psikolog Sander van der Linden de yer aldı. Araştırma Royal Society Open Science dergisinde yayımlandı.
Dört binden fazla kayıtlı seçmenle deney
Sistem, 2024 ABD başkanlık seçimi öncesinde yaygın olan beş yanlış iddia kullanılarak 4 binden fazla kayıtlı seçmen üzerinde test edildi. Katılımcılar önce beş söylentiden birini destekleyen ikna edici bir insan yazısı okudu. Ardından bir grup aynı söylentiye yönelik yapay zekâ üretimi önceden çürütme metnini, kontrol grubu ise ilgisiz bir konuda yapay zekâ metnini gördü.
Araştırmacılar müdahaleden sonra yanlış iddialara inanma düzeyini, doğru seçim bilgilerine duyulan güveni ve seçimlerin bütünlüğüne ilişkin genel güveni ölçtü. Aynı ölçümler bir hafta sonra tekrarlandı. Sonuçlar, kısa önceden çürütme yazısının söylentilerin seçim güveninde yarattığı düşüşü azalttığını; etkinin bir hafta sonra ve farklı siyasi eğilimlerde de ölçülebildiğini gösterdi.
İnsan uzmanlığı başlangıçta sisteme işlendi
Ekip, güvenilir seçim bilgilerini insan uzmanların hazırladığı yeniden kullanılabilir bir komut şablonuyla birleştirdi. Böylece yeni bir söylenti ortaya çıktığında sıfırdan uzun bir metin yazmak yerine sistem hızlı bir müdahale taslağı üretebiliyor. Araştırmada tamamen yapay zekâ tarafından yazılan metinlerin, insan geribildirimiyle sonradan düzenlenen sürümler kadar etkili olduğu bildirildi.
Bu sonuç insan denetiminin gereksiz olduğu anlamına gelmiyor. Uzman emeği, sistemin temel şablonuna ve kullanılacak doğrulanmış bilgiye önceden aktarılıyor. Gerçek dünyada yanlış veya güncelliğini yitirmiş bir kaynakla çalışan model, ikna edici ama hatalı bir karşı mesaj üretebilir. Bu nedenle güvenilir veri kaynağı, şeffaflık ve sorumluluk zinciri kritik önem taşıyor.
Yanlış iddiayı tekrar etmek ters etki yaratabilir
Önceden çürütme metninin tasarımındaki en zor konulardan biri, yanlış iddiayı anlaşılır kılacak kadar açıklarken onu ikna edici biçimde yeniden üretmemek oldu. Linegar, iddianın özünü zayıflatarak aktaran ancak tekrar yoluyla zarar vermeyen bir yapı oluşturmak için çok sayıda deneme yapıldığını söylüyor.
Araştırmacılar kamuya açık bir gösterim aracı da yayımladı ve seçim görevlileriyle güvenilir kamu iletişimcilerinin sistemi kullanabilmesini hedefliyor. Bununla birlikte deney kontrollü bir ortamda ve yalnızca beş ABD seçimi söylentisi üzerinde yapıldı. Farklı ülkelerde, dillerde, kriz ortamlarında ve uzun süreli maruz kalmada aynı etkinin görülüp görülmeyeceği ayrıca araştırılmalı.
