UC Berkeley İnsan Hakları Merkezi’nin 24 ülkeden 56 kişiyle görüşerek hazırladığı rapor, büyük dil modellerinin adalete ve bilgiye erişimi kolaylaştırabildiğini; ancak doğrulanmadan kullanılan yanıtların adil yargılanma, eğitim ve bilgiye erişim açısından riskler doğurabildiğini ortaya koyuyor. Araştırmacılar özellikle yapay zekâya aşırı güvenmenin eleştirel düşünmeyi zayıflatabileceği uyarısında bulunuyor.
Bir avukatın dava araştırmasında, gazetecinin haber hazırlığında ya da öğretmenin ders planlamasında büyük dil modellerinden yararlanması artık mümkün. Peki bu araçların ürettiği yanlış veya eksik bilgi, yalnızca işi yapan kişiyi değil, müvekkili, okuru ve öğrenciyi de etkilediğinde sorumluluk nasıl değerlendirilmeli?
UC Berkeley Hukuk Fakültesi bünyesindeki İnsan Hakları Merkezi, “Büyük Dil Modellerinin İnsan Hakları Üzerindeki Etkilerine İlişkin Uluslararası Bir Analiz” başlıklı raporunda bu soruyu hukuk, gazetecilik ve eğitim alanları üzerinden ele aldı. Betsy Popken, Vyoma Raman ve Camille Chabot tarafından hazırlanan çalışma, yapay zekânın yararlarını ve risklerini, kullanıldığı mesleğin sorumluluklarıyla birlikte değerlendiriyor.
Araştırma 24 ülkeden görüşlere dayanıyor
Ekip, 2023–2025 yılları arasında 24 ülkeden 56 kişiyle görüştü. Katılımcılar arasında hukuk, gazetecilik ve eğitim alanlarında çalışanlar, uzmanlar ve büyük dil modelleri geliştiren şirketlerin temsilcileri yer aldı. Görüşmeler; ilgili yayınların, yapay zekâya ilişkin düzenlemelerin ve bu üç alandaki mevcut model değerlendirmelerinin incelenmesiyle birlikte ele alındı.
Araştırmacılar riskleri değerlendirirken olası zararın ciddiyetine, kaç kişiyi etkileyebileceğine, gerçekleşme ihtimaline ve meydana geldikten sonra giderilip giderilemeyeceğine baktı. Rapor bu nedenle bütün büyük dil modellerinin aynı sonucu doğurduğunu iddia etmiyor. Etkinin, aracın nerede, kim tarafından ve hangi denetimle kullanıldığına bağlı olduğunu vurguluyor.
Hukukta erişim kolaylaşabilir, yanlış yanıtın bedeli ağır olabilir
Rapora göre büyük dil modelleri, özellikle avukatı bulunmayan kişilerin hukuki süreçlerde bilgiye ulaşmasına yardımcı olabilir. Küçük ölçekli uyuşmazlıklarda bir başvurunun nasıl yapılacağını anlamak veya karmaşık bir metni daha anlaşılır hâle getirmek bunun örnekleri arasında.
Ancak hukuki bir konuda eksik ya da hatalı yanıtın doğrulanmadan kullanılması, kişinin adil yargılanma ve etkili başvuru hakları açısından ciddi sonuçlar doğurabilir. Bir avukatın ilgili içtihadı gözden kaçırması veya bir hâkimin karar verirken üretilmiş metne gereğinden fazla dayanması, raporda dikkat çekilen yüksek riskli kullanım biçimleri arasında. Araştırmacılar ayrıca taraflara ait gizli bilgilerin bir dil modeline girilmesinin mahremiyet bakımından risk taşıdığını belirtiyor.
Bu bulgular, yapay zekânın hukuki araştırmada hiç kullanılamayacağı anlamına gelmiyor. Rapordaki temel ayrım, bir aracın insana yardımcı olması ile hukuki değerlendirmenin denetlenmeden ona bırakılması arasında.
Gazetecilikte hız kazancı, okurun bilgiye erişimini etkileyebilir
Kaynakları sınırlı bir haber merkezinde büyük dil modelleri metin düzenleme, özetleme veya araştırmanın ilk aşamalarında zaman kazandırabilir. Araştırmacılar, bu kazanımın gazetecilere daha derin araştırma ve doğrulama için alan açabileceğini de belirtiyor.
Buna karşılık modelin olmayan bir bilgiyi üretmesi, önemli bir kanıtı atlaması veya farklı görüşleri yeterince yansıtmaması, yayımlanan haber aracılığıyla okura ulaşabilir. Rapora göre sorun yalnızca açıkça yanlış bir cümle değildir: Eksik bir araştırmanın tam ve dengeli bir haber gibi görünmesi de insanların bilgiye erişimini etkileyebilir.
Araştırmacılar, haberin yazılması, kaynaklarının bulunması ve doğrulanması gibi görevlerin sürekli olarak dil modellerine devredilmesinin gazetecilerin kendi araştırma ve değerlendirme becerileri açısından da risk yaratabileceğini değerlendiriyor. Bu riskin özellikle mesleğe yeni başlayanlar için daha önemli olabileceği belirtiliyor.
Eğitimde kişiselleştirme fırsatı ve öğrenme kaygısı
Eğitimde büyük dil modelleri bir konuyu farklı düzeylerde açıklayabilir, metinleri sadeleştirebilir ve öğretmenlerin öğrencilerin bireysel güçlüklerine uygun materyal hazırlamasına yardımcı olabilir. Rapor, bu imkânı bilgiye erişim açısından bir fırsat olarak görüyor.
Öte yandan üretilen içeriğin öğretim programına veya öğretmenin kullandığı yönteme uygun olmaması, öğrencinin konuyu derinlemesine öğrenmesini güçleştirebilir. Öğrencilerin ödev, yazı veya kod üretimini sürekli modele bırakması da kendi düşünme becerilerini geliştirme fırsatlarını azaltabilir. Araştırmacıların uyarısı, yapay zekâ kullanımının tek başına öğrenmeyi engellediği yönünde değil; nasıl kullanıldığına ve öğretmenin denetimine ilişkin.
Farklı toplumlar için aynı sonuçlar geçerli değil
Raporun alanlar arası bulgularından biri de eşitlik ve ayrımcılık riski. Araştırmacılara göre modellerin eğitiminde yaygın ve baskın kaynakların ağırlık taşıması, bazı dillerin, kültürlerin ve bakış açılarının daha görünür; diğerlerinin ise daha az temsil edilir olmasına yol açabilir.
İnsan Hakları Merkezi Direktörü Betsy Popken, kendilerini en çok şaşırtan noktalardan birinin, farklı bölgelerdeki uzmanların bu araçları işlerinde oldukça farklı biçimlerde kullanması olduğunu söylüyor. Rapora göre ekonomik imkânlar, erişim ve eğitim düzeyi değiştikçe yapay zekânın sunduğu fırsatlar ve doğurduğu riskler de değişiyor.
Araştırmacılar, bu değerlendirmeyi bütün dünya için temsilî bir anket olarak sunmuyor. Görüşmelerin tamamı İngilizce yapıldı ve katılımcılar dijital araçlarla ilişkili kişiler arasından seçildi. Ayrıca görüşmelerin başladığı 2023’ten bu yana teknoloji hızla değişti. Bu sınırlamalar, bulguların her ülkeye veya her meslek çalışanına aynı biçimde genellenmemesi gerektiğini gösteriyor.
Raporda hangi adımlar öneriliyor?
Araştırmacılar, geliştiricilerin eğitim verilerinde farklı toplulukları daha iyi temsil etmesini ve araçları mesleklerin ihtiyaçlarına göre tasarlamasını öneriyor. Kurumlar için ise kullanım sürecinin tamamında insan hakları risklerini değerlendirecek yöntemler ve bir zarar ortaya çıktığında sorumluluğu belirleyip giderecek açık süreçler istiyor.
Düzenlemeler bakımından rapor, bütün kullanımlara aynı yaklaşımı uygulamak yerine yüksek riskli kullanım alanlarına odaklanılmasını öneriyor. Hâkimlerin kararlarını hazırlarken büyük dil modellerini kullanması buna verilen örneklerden biri. Araştırmacılar, kullanıcıların yapay zekâdan gelen yanıtları eleştirel biçimde değerlendirebilmesi için eğitim verilmesini de gerekli görüyor.
Raporun vardığı sonuç, bu araçların etkisinin yalnızca modelin teknik başarısıyla ölçülemeyeceği. Hukukta müvekkilin, gazetecilikte okurun, eğitimde ise öğrencinin hakları; yapay zekâdan gelen bilginin nasıl denetlendiğine ve son kararı kimin verdiğine de bağlı.



























