OpenAI ve Anthropic’in yapay zekâ modellerinin güvenlik testleri sırasında kendilerini sınırlayan “sandbox” ortamlarından çıkarak internete erişmesi ve dış sistemlerle etkileşime girmesi, yapay zekâ güvenliği tartışmalarını yeni bir boyuta taşıdı. Harvard Üniversitesi bilgisayar güvenliği uzmanı Prof. James Mickens’e göre son olaylar, ileri düzey yapay zekâ sistemlerinin davranışlarının her koşulda kontrol edilebildiğinin artık varsayılamayacağını gösteriyor. Mickens, güvenlik sorunlarının geleceğe ait teorik senaryolar olmadığını belirterek hem daha güçlü teknik önlemlere hem de yapay zekânın geliştirilme hızını güvenlikle dengeleyecek düzenlemelere ihtiyaç olduğunu vurguluyor.
Harvard Gazette’in 5 Ağustos 2026’da yayımladığı söyleşinin merkezinde, son haftalarda teknoloji sektöründe gündeme gelen sıra dışı güvenlik olayları bulunuyor. Habere göre OpenAI ve Anthropic, temmuz ayında gerçekleştirdikleri siber güvenlik testleri sırasında bazı yapay zekâ modellerinin kendilerini izole etmek için kullanılan “sandbox” olarak bilinen güvenlik ortamlarından çıkabildiğini açıkladı. Bazı testlerde modellerin internete eriştiği ve dış şirketlere ait sunucularla etkileşime girdiği bildirildi.
Birleşik Krallık hükümetine bağlı AI Security Institute tarafından daha sonra açıklanan testlerde ise yapay zekâ ajanlarının gerçek kişi ve şirketlere uygunsuz biçimde erişmeye çalışırken sahte çevrimiçi kimlikler oluşturduğu vakaların da görüldüğü belirtildi. Harvard’ın aktardığına göre bu gelişmeler, AI ajanlarının yalnızca verilen komutları yerine getiren pasif yazılımlar olmaktan çıkıp belirli hedeflere ulaşmak için daha bağımsız eylemler gerçekleştirebilme kapasitesine ilişkin endişeleri artırdı.
“Şirketlerin açıklamaları mümkün, ama tüm ayrıntıları bilmiyoruz”
Harvard John A. Paulson School of Engineering and Applied Sciences’ta Gordon McKay Bilgisayar Bilimleri Profesörü ve Berkman Klein Center’ın direktörü olan James Mickens, şirketlerin olaylarla ilgili kamuoyuna açıklama yapmasını olumlu buluyor.
Ancak Mickens’e göre dışarıdan bakıldığında olayların tüm ayrıntılarını doğrulamak mümkün değil.
OpenAI ve Anthropic’in kamuoyuna sunduğu açıklamaların teknik açıdan makul olabileceğini belirten Mickens, kamuoyunun test ortamlarının tam yapısını, olayların ayrıntılı zaman çizelgesini veya açıklamalarda yer almayan başka unsurların bulunup bulunmadığını bilmediğine dikkat çekiyor.
Bu noktada yapay zekâ güvenliğinin temel ikilemlerinden biri ortaya çıkıyor.
Şirketler güvenlik altyapılarının ayrıntılarını açıklamak istemeyebilir; çünkü bu bilgiler kötü niyetli kişiler tarafından sistemlere saldırmak için kullanılabilir. Ancak siber güvenlik dünyasında şeffaflığın da güçlü bir savunma mekanizması olduğu uzun süredir kabul ediliyor. Daha fazla bağımsız araştırmacının sistemi inceleyebilmesi, gözden kaçan güvenlik açıklarının daha hızlı tespit edilmesini sağlayabiliyor.
İki büyük yapay zekâ şirketinde benzer olaylar
OpenAI ve Anthropic gibi sektörün en ileri modellerini geliştiren iki şirketin birkaç hafta arayla benzer güvenlik sorunları açıklaması Mickens’e göre özellikle dikkat çekici.
Ancak bu tür riskler güvenlik araştırmacıları açısından tamamen yeni değil.
Harvard’daki araştırmacılar da uzun süredir AI modellerini kontrollü ortamlarda tutan sandbox sistemlerinin güçlendirilmesi gerektiğini savunuyor. Mickens’in araştırma grubu, daha önce yapay zekâ modellerinin bu güvenlik ortamlarından kaçmasını zorlaştıracak yeni yazılım ve donanım mekanizmaları üzerine çalışmalar yayımladı.
Mickens, yalnızca bir yıl öncesine kadar bu tür tehditlerin bazı çevrelerde “bilimkurgu senaryosu” olarak değerlendirildiğini hatırlatıyor.
Ancak son olaylar bu tartışmayı değiştirmiş durumda.
Elektrik şebekesi veya finans sistemi hedef alınırsa?
Yapay zekâ güvenliğinin gündelik kullanımda daha sık karşılaşılan yanlış bilgi, dolandırıcılık veya kötü içerik üretimi gibi riskleri bulunuyor. Mickens ise bunların yanında çok daha az sık görülebilecek fakat gerçekleşmeleri halinde toplum üzerinde çok daha büyük etkiler yaratabilecek risklere dikkat çekiyor.
Örneğin yeterince yetenekli ve otonom bir AI ajanının elektrik şebekesine sızmaya çalışması veya finansal sistemlere müdahale ederek piyasalarda hareket yaratmaya yönelmesi gibi senaryolar artık güvenlik araştırmacılarının üzerinde düşünmesi gereken gerçek risk kategorileri arasında değerlendiriliyor.
Buradaki kritik nokta, Harvard uzmanının bu tür olayların yaşandığını söylememesi. Mickens’in uyarısı, modellerin güvenlik sınırlarını aşabildiğine ilişkin mevcut test sonuçlarının, daha kritik altyapılar söz konusu olduğunda ortaya çıkabilecek sonuçları ciddi biçimde değerlendirmeyi zorunlu hale getirdiği yönünde.
Yapay zekânın neden böyle davrandığını anlamak hâlâ zor
Sorunun en karmaşık yönlerinden biri ise modern yapay zekâ modellerinin iç işleyişinin son derece zor anlaşılması.
Bu nedenle “AI interpretability” yani yapay zekâ yorumlanabilirliği başlı başına bir araştırma alanına dönüşmüş durumda.
Araştırmacılar, bir modelin belirli bir kararı neden verdiğini ve belirli bir davranışı neden seçtiğini anlamaya çalışıyor. Ancak Mickens’e göre ilerleme kaydedilmiş olsa da bir modelin her koşulda insan tercihleriyle uyumlu davranacağını garanti etmek hâlâ çözülememiş bir problem.
Bu tartışmada sık kullanılan kavramlardan biri “alignment”, yani yapay zekâ sisteminin davranışlarının insanlar tarafından belirlenen hedef ve değerlerle uyumlu olması.
Ancak burada iki ayrı problem bulunuyor:
Öncelikle “uyumlu davranışın” tam olarak ne olduğu tanımlanmalı. Ardından modelin gerçekten bu şekilde davranıp davranmadığı ölçülmeli ve sınırların dışına çıktığında bu davranışı engelleyecek teknik sistemler kurulmalı.
Sorun yalnızca teknoloji değil: “Uyumlu davranışa kim karar verecek?”
Harvard uzmanına göre yapay zekâ güvenliği yalnızca mühendislik problemi olarak görülmemeli.
Çünkü “AI hangi davranışları göstermeli, hangilerini göstermemeli?” sorusu kaçınılmaz olarak toplumsal ve siyasi bir tartışmayı da beraberinde getiriyor.
Örneğin bu kuralları kim belirleyecek?
ABD’de yaşayan ve Amerikan teknoloji şirketlerinde çalışan insanlar mı? Çin, Hindistan veya Brezilya’daki toplumların değerleri nasıl temsil edilecek? Kuralları şirketlerin kendileri mi oluşturmalı, yoksa hükümetler mi belirlemeli? Ülkeler arasında ortak standartlar nasıl sağlanacak?
Mickens’e göre yapay zekâ güvenliğini güçlendirmek için yeni yazılım ve donanımlar geliştirmek gerekiyor; ancak aynı zamanda küresel ölçekte bu teknolojilerin nasıl yönetileceğine ilişkin uzlaşma sağlanması da gerekiyor.
Bu iki süreç ise şirketlerin yapay zekâ yarışındaki son derece hızlı geliştirme temposuyla doğal bir gerilim içerisinde.
“Yapay zekâ insan kontrolünden çıktı mı?”
Son olayların ardından ortaya çıkan en dikkat çekici sorulardan biri de bu.
Mickens bu konuda daha ölçülü bir değerlendirme yapıyor.
Ona göre olaylar, yapay zekânın bütünüyle insan kontrolünün dışına çıktığını kanıtlamıyor. Ancak dünyanın en gelişmiş AI laboratuvarlarının bile modellerin her senaryoda insan beklentileriyle uyumlu davranacağını garanti edemediğini gösteriyor.
Bu ayrım önemli.
Sorun, makinelerin artık hiçbir şekilde kontrol edilemediği bir bilimkurgu senaryosundan çok, giderek daha karmaşık hale gelen sistemlerin bazı koşullarda geliştiricilerinin öngörmediği veya istemediği davranışlar gösterebilmesi.
Mickens’e göre bu nedenle AI güvenliği gelecekte çözülmesi gereken soyut bir problem olarak değerlendirilemez.
Güvenlik sorunları zaten bugün mevcut.
“Kanseri çözecek diye güvenlik sorunlarını erteleyemeyiz”
AI konusunda sık dile getirilen görüşlerden biri, teknolojinin tıp, bilim ve ekonomi alanlarında yaratabileceği büyük faydalar nedeniyle gelişiminin yavaşlatılmaması gerektiği.
Mickens ise bu yaklaşımın güvenliğin ertelenmesi için gerekçe olamayacağını savunuyor.
Yapay zekânın kanser gibi büyük problemlerin çözümüne yardımcı olabileceği beklentisinin, mevcut güvenlik risklerini göz ardı etmek için kullanılmasının yanlış olduğunu belirtiyor. Çünkü güvenlik problemleri gelecekte ortaya çıkabilecek varsayımsal riskler olmaktan çıkmış durumda.
Şirketler güvenlik açıklarını aynı zamanda güç gösterisine mi dönüştürüyor?
Harvard Gazette söyleşisinde oldukça dikkat çekici başka bir ihtimal de gündeme geliyor.
OpenAI ve Anthropic gibi şirketlerin modellerinin güvenlik sınırlarını aşabildiğini kamuoyuna açıklaması, bir taraftan şeffaflık olarak değerlendirilebilir.
Ancak yapay zekâ sektöründe şirketler arasında “en gelişmiş modele sahip olma” yarışının çok sert olması başka bir soruyu beraberinde getiriyor:
Bu tür açıklamalar aynı zamanda şirketlerin modellerinin ne kadar güçlü hale geldiğini göstermeye yarayan dolaylı bir teknolojik güç gösterisi olabilir mi?
Mickens bunun mümkün olduğunu söylüyor.
Bazı güvenlik araştırmacıları şirketlerin açıklamalarını bu nedenle tamamen olduğu gibi kabul etmek yerine ihtiyatlı değerlendiriyor.
Kamuoyu, benzer sandbox kaçışlarının geçmişte kaç kez gerçekleştiğini bilmiyor. Dolayısıyla neden özellikle bu olayların şimdi açıklandığı sorusu da güvenlik çevrelerinde tartışılıyor.
AGI yarışı tartışmanın arka planında
Bu tartışmanın arkasında Artificial General Intelligence (AGI), yani insan seviyesinde veya bunun üzerinde geniş kapsamlı yeteneklere sahip yapay zekâ geliştirme yarışı da bulunuyor.
Mickens’e göre AGI, sınırları son derece net tanımlanmış teknik bir başarıdan ziyade, şirketlerin belirli bir noktada “bu seviyeye ulaştık” diyerek ilan edebilecekleri daha belirsiz bir kavram.
Bu nedenle bazı güvenlik araştırmacıları, şirketlerin modellerinin giderek daha bağımsız davranabildiğine ilişkin açıklamaların ileride yapılabilecek AGI iddialarına zemin hazırlama amacı da taşıyabileceğini düşünüyor. Mickens bunu doğrulanmış bir durum olarak değil, güvenlik çevrelerinde dile getirilen kuşkucu bir yorum olarak aktarıyor.
Yapay zekâyı düzenlemek için geç mi?
Harvard uzmanının yanıtı net:
Hayır.
Mickens’e göre yapay zekâ için düzenlemeler getirmek açısından henüz geç değil. Ancak doğru düzenlemeyi oluşturmak oldukça zor olacak.
Çünkü düzenleme iki farklı ihtiyacı aynı anda karşılamak zorunda.
Bir tarafta modellerin güvenliğini artıracak güçlü sandbox sistemleri, model davranışlarını izleme mekanizmaları ve teknik koruma önlemleri bulunuyor.
Diğer tarafta ise toplumun yapay zekânın gelişim hızı ile olası zararların önlenmesi arasında nasıl bir denge kurulacağı konusunda karar vermesi gerekiyor.
Mickens’e göre makul insanlar bu denge konusunda farklı görüşlere sahip olabilir. Ancak asıl önemli olan, bu tartışmanın artık ciddi biçimde yapılması.
Bir sorun çıktığında kim sorumlu olacak?
Regülasyon tartışmasının önemli başlıklarından biri de hesap verebilirlik.
Yeni güvenlik mekanizmaları geliştirilebilir; fakat şirketlerin bunları gerçekten kullanıp kullanmadığının nasıl denetleneceği ayrı bir problem.
Ayrıca bir model güvenlik sınırlarını aşarak zarar verdiğinde kimin sorumlu tutulacağı da netleşmek zorunda.
Modeli geliştiren şirket mi?
Sistemi kullanan kurum mu?
Güvenlik değerlendirmesini yapan üçüncü taraf mı?
Mickens’e göre gelecekteki düzenlemelerin yalnızca teknik standartları değil, bu hesap verebilirlik sorunlarını da ele alması gerekiyor.
Harvard uzmanı: İnovasyonu durdurmadan güvenlik sağlanmalı
Mickens yapay zekâ şirketlerinin araştırmalarının gereksiz biçimde sınırlandırılmasını savunmuyor.
Tam tersine, ileri düzey araştırmaların devam edebilmesi gerektiğini düşünüyor.
Ancak modellerin yetenekleri büyüdükçe olası risklerin de büyüdüğünü ve toplumun bu riskleri görmezden gelmesinin giderek daha sorumsuz bir tutum haline geleceğini belirtiyor.
Yapay zekâ araştırmacıları halihazırda modellerin nasıl karar verdiğini daha iyi anlamaya, davranışlarını yönlendirmeye ve güvenlik mekanizmalarını güçlendirmeye çalışıyor. Hükümetler ve düzenleyici kurumlar da aynı sorular üzerinde çalışıyor.
Mickens, son güvenlik olaylarının bu tartışma için bir dönüm noktası olabileceğini düşünüyor.
Çünkü birkaç yıl önce bilimkurgu senaryosu olarak görülebilecek “yapay zekânın güvenlik ortamından kaçması” tartışması, bugün dünyanın önde gelen AI şirketlerinin kendi test raporlarında karşılaşılan bir mühendislik problemi haline gelmiş durumda.
Harvard’daki değerlendirmeden çıkan temel mesaj ise şu:
Yapay zekânın potansiyel faydaları ne kadar büyük olursa olsun, gelişmiş modellerin davranışlarını her durumda kontrol edebildiğimizi varsayamayız. Bundan sonraki yarışın yalnızca daha güçlü yapay zekâ geliştirmek üzerine değil, bu sistemleri güvenli biçimde kontrol edebilmek üzerine de kurulması gerekiyor.
