Kişiselleştirilmiş içerik önerileri, kullanıcıların ilgi alanlarına ulaşmasını kolaylaştırırken gördükleri dünyayı da daraltabiliyor. Harvard uzmanları, öneri algoritmalarının dikkat, mahremiyet ve gençlerin karar verme özgürlüğü üzerindeki etkilerine dikkat çekiyor.
Sosyal medyada karşımıza çıkan içerikler, tercihlerimizin basit bir yansıması olmayabilir. Kullanıcı davranışlarından beslenen öneri sistemleri, hangi paylaşımları göreceğimizi seçerken sonraki davranışlarımızı da etkileyebiliyor. Harvard’dan hukuk, eğitim, bilgisayar bilimi ve bilim tarihi uzmanları, bu karşılıklı ilişkinin risklerini tartışıyor.
Kişiselleştirme ne zaman yönlendirmeye dönüşüyor?
Harvard Hukuk Fakültesi’nden Cass Sunstein, kişiselleştirilmiş önerilerin yararlı olabileceğini belirtiyor. Sorunun, sistemlerin bilgi eksikliğini veya davranışsal zaafları kullanarak kişinin düşünerek seçim yapma kapasitesini zayıflatmasıyla başladığını savunuyor.
Eğitim araştırmacısı Emily Weinstein ise gençlerin akışlarının ilgi alanlarını çarpıtarak yansıtabildiğine dikkat çekiyor. Tek bir temanın sürekli tekrarlanması, belirli yaşam tercihlerinin herkes için geçerli olduğu izlenimini yaratabiliyor. Weinstein’a göre kullanıcı kontrolünü güçlendirme sorumluluğu yalnızca gençlere bırakılamaz.
İçerik seçimi, paylaşımların dilini değiştirebiliyor
Bilim tarihi profesörü Rebecca Lemov’un gündeme getirdiği örneklerden biri, 2014’te PNAS’ta yayımlanan Facebook deneyi.
689.003 kullanıcıyı kapsayan deneyde, haber akışındaki olumlu veya olumsuz duygusal içeriklerin bir bölümü azaltıldı. Ardından kullanıcıların kendi paylaşımlarındaki olumlu ve olumsuz kelimelerin oranı incelendi.
Olumlu içeriklerin azaltıldığı grupta olumlu ifadeler azalırken olumsuz ifadeler arttı. Olumsuz içeriklerin azaltıldığı grupta ise ters yönde değişim görüldü. Araştırmacılar, etkilerin küçük olduğunu ancak platformların ölçeği nedeniyle önem taşıyabileceğini belirtti.
Ölçülen sonuç, paylaşımlardaki dil değişimiydi; deney kullanıcıların klinik depresyon düzeyini değerlendirmedi. PNAS ayrıca çalışma hakkında bilgilendirilmiş onam ve katılımcıların araştırmadan çıkabilmesi konularındaki kaygıları içeren bir editoryal açıklama yayımladı.
Bu örnek, içerik seçiminin yalnızca ekranda görünenleri değil, kullanıcıların sonraki ifadelerini de etkileyebileceğini gösteriyor. Ancak tek bir deney, bütün platformların her kullanıcı üzerinde aynı etkiyi yarattığını ortaya koymuyor.
Mahremiyet sorusu, mikrofonun ötesine uzanıyor
Bilgisayar bilimci Sitan Chen, önerilerin hangi kullanıcı verilerinden üretildiğinin çoğu zaman belirsiz kaldığını vurguluyor. Kullanıcı etkileşimlerinin başka kişilere öneri üreten modellerin eğitiminde kullanılması da mahremiyet soruları doğuruyor.
Hukukçu Leah Plunkett ise gençler hakkında onların bilgisi dışında alınan kararlarla, gençlerin algoritmanın rolünü tam anlamadan verdiği kararların birlikte ele alınması gerektiğini savunuyor.
Daha fazla kontrol, daha bilinçli dikkat
Uzmanların değerlendirmelerinden çıkan ortak mesele, kullanıcının kendi akışı üzerindeki söz hakkı. Lemov, kişinin tükettiği içeriğin kendisinde nasıl bir etki yarattığını sorgulamasını öneriyor.
Bu yaklaşım, rahatsız edici her içerikten kaçınmayı gerektirmiyor. Asıl soru, dikkatin bilinçli bir tercihle mi verildiği, yoksa kullanıcıyı ekranda tutan bir döngü içinde mi harcandığı.
Kaynaklar: Harvard Gazette, PNAS
