Yapay zekâ alanında rekabetin artması, teknolojik ilerlemeyi hızlandırırken güvenlik yatırımlarını ikinci plana itiyor olabilir. Chicago Üniversitesi’nde (UChicago) yürütülen yeni bir araştırma, yapay genel zekâya (AGI) ulaşma yarışında şirketlerin “ilk olma” baskısıyla güvenlikten çok hıza yatırım yapma eğilimine girdiğini ortaya koydu. Araştırmacılar, bu durumun yalnızca şirketler için değil, tüm toplum için daha büyük riskler doğurabileceği uyarısında bulunuyor.
UChicago Harris Kamu Politikaları Okulu’ndan Ethan Bueno de Mesquita ve Wioletta Dziuda, Vanderbilt Üniversitesi’nden Mattias Polborn ile birlikte hazırladıkları çalışma makalesinde, yapay zekâ şirketlerinin ekonomik teşvikler altında nasıl karar verdiğini modelledi. Araştırma, teknolojik yarışın yalnızca mühendislik meselesi olmadığını; ekonomi, rekabet hukuku ve kamu politikalarının da yapay zekânın geleceğini doğrudan şekillendirdiğini gösteriyor.
Rekabet arttıkça güvenlik yatırımları azalıyor
Araştırmanın temel bulgusu oldukça dikkat çekici.
Piyasaya daha fazla yapay zekâ şirketi girdikçe, firmalar sınırlı kaynaklarının daha büyük bölümünü rakiplerinden önce AGI geliştirmeye ayırıyor. Bunun doğal sonucu olarak ise güvenlik araştırmalarına ayrılan kaynaklar azalıyor.
Araştırmacılara göre bu durum, gelişmiş yapay zekâ sistemlerinin daha hızlı ortaya çıkmasını sağlasa da aynı zamanda ciddi teknik hatalar, kontrol edilemeyen davranışlar ve toplum açısından zararlı sonuçlar doğurma ihtimalini artırıyor.
Çalışmanın ortak yazarlarından Prof. Wioletta Dziuda, durumu şu sözlerle özetliyor:
“Şirket sayısı arttıkça yarış daha riskli hale geliyor. Firmalar birbirlerini geçebilmek için güvenlik yerine hıza öncelik vermeye başlıyor.”
“Daha fazla rekabet her zaman daha iyi değildir”
Serbest piyasa ekonomisinde rekabet genellikle tüketici açısından olumlu görülüyor. Daha fazla rekabet; daha düşük fiyatlar, daha fazla yenilik ve daha kaliteli ürün anlamına geliyor.
Ancak araştırma, yapay zekâ söz konusu olduğunda bu varsayımın her zaman geçerli olmayabileceğini gösteriyor.
Araştırmacılar, AGI yarışında “ilk geliştirici olmanın” sağlayacağı ekonomik ve stratejik avantajın o kadar büyük olduğunu belirtiyor ki şirketler güvenlik süreçlerini hızlandırma veya bazı testleri erteleme yönünde güçlü baskı hissedebiliyor.
Bu nedenle rekabet, beklenenin aksine daha güvenli değil, daha riskli bir sektör oluşturabiliyor.
Klasik bir “kolektif eylem” problemi
Araştırma, bu durumu ekonomi literatüründeki kolektif eylem problemi ile açıklıyor.
Her şirket aslında daha yavaş ilerleyen ve daha güvenli bir geliştirme sürecini tercih edebilir. Ancak rakiplerinin hızla ilerlediğini gören hiçbir firma tek başına yavaşlamak istemiyor.
Çünkü yavaşlayan şirket, pazarı tamamen rakibine kaptırma riskiyle karşı karşıya kalıyor.
Sonuçta bütün firmalar istemedikleri halde daha riskli bir yarışın içine sürükleniyor.
Güvenli geliştirme taahhüdü sektörü değiştirebilir
Araştırmanın dikkat çekici sonuçlarından biri de şirketlerin güvenlik konusunda ortak hareket etmesi halinde rekabet baskısının azalabileceği yönünde.
Modele göre, büyük şirketlerden biri güvenlik yatırımlarını artıracağını ve daha kontrollü ilerleyeceğini inandırıcı biçimde taahhüt ederse, rakip firmalar da benzer şekilde hızlarını düşürebiliyor.
Bu da sektör genelinde daha güvenli bir gelişim süreci oluşturuyor ve uzun vadede tüm şirketlerin bundan fayda sağlamasına yardımcı olabiliyor.
Şirketler zarar edeceklerini bilseler bile yarışabilir
Araştırmanın en çarpıcı bulgularından biri ise ekonomik açıdan mantıksız görünen bir senaryoyu ortaya koyması oldu.
Modele göre bazı durumlarda şirketler, AGI geliştirme yarışının beklenen ekonomik getirisinin negatife düştüğünü bilseler bile yarıştan çekilmiyor.
Bunun nedeni oldukça basit:
Eğer olası bir felaket yaşanacaksa, yarışa katılmayan şirketler de bu sonuçlardan etkilenecek. Bu nedenle firmalar, en azından kazanan taraf olma ihtimalini korumak için yarışmaya devam etmeyi tercih edebiliyor.
Yapay zekâ şirketleri neden düzenleme istiyor?
Son yıllarda dikkat çeken bir gelişme de büyük yapay zekâ şirketlerinin yöneticilerinin bir yandan daha güçlü yapay zekâ sistemleri geliştirmeye devam ederken diğer yandan daha sıkı düzenlemeler çağrısı yapmaları oldu.
UChicago araştırması, bu durumun arkasındaki ekonomik mantığı da açıklıyor.
Araştırmaya göre şirketler, yalnızca toplumsal sorumluluk nedeniyle değil, rakiplerinin de aynı kurallara uymasını sağlayarak rekabet baskısını azaltmak için de sektör genelinde ortak düzenlemeleri destekleyebiliyor. Böylece hiçbir şirket güvenlikten taviz vererek avantaj elde edemiyor.
Hükümetlerin rolü kritik
Çalışmada kamu politikalarının olası etkileri de incelendi.
Araştırmacılar;
- yüksek işlem gücüne yönelik sınırlamalar,
- sektör birleşmeleri,
- kamu destekli yapay zekâ yatırımları,
- devletin doğrudan yapay zekâ geliştirme süreçlerine katılması
gibi farklı politika seçeneklerini değerlendirdi.
Ancak araştırmaya göre bu araçların etkisi oldukça karmaşık. Tek bir çözüm yerine, piyasa yapısı ve rekabet koşulları dikkate alınarak dengeli politikalar geliştirilmesi gerekiyor.
Yapay zekâ yarışının geleceği
UChicago araştırması, yapay zekâ alanındaki en büyük risklerden birinin teknolojinin kendisinden çok, şirketleri yönlendiren ekonomik teşvik mekanizmaları olabileceğine işaret ediyor.
Araştırmacılara göre AGI yarışında başarı yalnızca daha güçlü modeller üretmekle değil, güvenliği rekabetin önüne koyabilecek uluslararası kurallar ve ortak standartlar oluşturmakla mümkün olacak.
Çalışma, yapay zekâ yönetişimi tartışmalarına önemli bir ekonomik bakış açısı kazandırırken, geleceğin en güçlü teknolojilerinden birinin nasıl geliştirileceğine ilişkin tartışmalara da yeni bir boyut ekliyor.
