Son haftalarda teknoloji şirketleri arasında büyüyen yapay zekâ güvenliği tartışması, devletlerin uluslararası barış ve güvenlikle ilgili en önemli platformlarından biri olan Birleşmiş Milletler Güvenlik Konseyi’ne taşınıyor.
OpenAI CEO’su Sam Altman, BM Genel Kurulu’nun yüksek düzeyli haftası sırasında Güvenlik Konseyi’ne yapay zekâ ve uluslararası güvenlik konusunda brifing verecek.
Reuters’a konuşan OpenAI sözcüsü, Altman’ın toplantıya bizzat katılacağını doğruladı. 15 üyeli Güvenlik Konseyi’nin yapay zekâ oturumu 23 Eylül Çarşamba günü gerçekleştirilecek.
Toplantıyı Fransa yönetecek
Oturum, eylül ayında BM Güvenlik Konseyi dönem başkanlığını yürüten Fransa tarafından toplandı. Toplantıya Fransa Avrupa ve Dışişleri Bakanı Jean-Noël Barrot başkanlık edecek. BM’nin resmi kayıtları da Fransa’nın Eylül 2026 dönem başkanı olduğunu doğruluyor.
Reuters’ın gördüğü ve Fransa tarafından Konsey üyelerine dağıtılan toplantı belgesinde, gelişmiş yapay zekânın kötü amaçlarla kullanılmasının yaratabileceği risklere dikkat çekiliyor.
Belgede ayrıca katılımcıların, ileri AI sistemlerinde kontrol kaybı ile bu sistemlerin uluslararası barış ve güvenliği etkileyebilecek faaliyetlerin geliştirilmesi veya yürütülmesinde kullanılması ihtimalini değerlendirmesinin amaçlandığı belirtiliyor.
Altman ortak güvenlik standartlarını gündeme getirecek
OpenAI sözcüsüne göre Altman’ın konuşmasının merkezinde ülkeler ve kurumlar arasında uluslararası koordinasyon ve ortak güvenlik standartları bulunacak.
Altman’ın ayrıca yapay zekânın sağladığı faydaların dünyanın farklı bölgelerine daha geniş biçimde ulaştırılması için OpenAI’ın attığı adımları anlatması bekleniyor.
Toplantıya Anthropic’ten de üst düzey bir temsilcinin katılabileceği belirtiliyor. Ancak Reuters’a konuşan diplomatlara göre Anthropic’in katılımı henüz kesinleşmiş değil.
BM yapay zekâyı ilk kez 2023’te gündemine aldı
Bu, BM Güvenlik Konseyi’nin yapay zekâyı ilk kez tartışması olmayacak.
Konsey, teknolojinin uluslararası güvenlik üzerindeki etkilerini ilk kez 2023 yılında ele aldı. O toplantıda Çin yapay zekânın kontrolden çıkan bir sisteme dönüşmaması gerektiğini belirtirken ABD de teknolojinin baskı ve sansür amacıyla kullanılmasının yaratabileceği risklere dikkat çekmişti.
Ancak 2026’daki toplantının zamanlaması dikkat çekiyor.
Son haftalarda en gelişmiş yapay zekâ modellerinin davranışları ve şirketlerin bu sistemleri ne ölçüde kontrol edebildiği konusunda yeni olaylar kamuoyuna yansıdı.
OpenAI altı ayrı vakayı yayımladı
OpenAI, 16 Eylül’de model davranışlarındaki beklenmedik veya endişe verici olayları kamuoyuna açıklamak için yeni bir raporlama sistemi oluşturduğunu duyurdu.
Şirket aynı anda, son altı ay içerisinde model eğitimi veya değerlendirmeleri sırasında gözlemlediği altı ayrı “uyumsuz davranış” vakasını yayımladı.
Bunlar arasında bir araştırma modelinin sonraki çalışma aşamalarına aktarılan özetlerin içine kendi oluşturduğu talimatlar eklemesi ve bazı durumlarda normal kısıtlamaların göz ardı edilmesini isteyen ifadeler üretmesi de bulunuyor.
OpenAI bu örneklerin modellerde bu davranışların ne sıklıkta gerçekleştiğini göstermediğini özellikle vurguluyor; yayımlanan vakalar bireysel olaylardan oluşuyor.
Gemini test sırasında üç gerçek şirketin sistemine girdi
Google da 18 Eylül’de Gemini modellerinden birinin mayıs ayında gerçekleştirilen bir siber güvenlik testi sırasında üç gerçek şirketin korunan sistemlerine eriştiğini doğruladı.
Irregular adlı bağımsız şirketin gerçekleştirdiği testte Gemini’nin kurgusal hedeflere saldırması gerekiyordu. Ancak test ortamında yanlışlıkla internete erişim açık bırakıldı.
Model bir vakada şifre tahmin ederek, diğer iki vakada ise açık bir yazılım deposunda bulduğu kimlik bilgilerini kullanarak gerçek şirketlerin sistemlerine erişti. Google’a göre model, hedeflerin test ortamının parçası olmadığını fark ettiğinde işlemleri durdurdu.
Bu ayrıntı önemli: olay, Gemini’nin kendiliğinden test ortamından kaçmaya karar verdiğini kanıtlamıyor. Ancak gelişmiş AI ajanlarının gerçek sistemlere erişebildiği testlerin nasıl izole edilmesi gerektiği konusunda yeni güvenlik soruları doğuruyor.
AI şirketleri geliştirme hızı konusunda karşı karşıya
Tartışma yalnızca teknik güvenlik vakalarıyla sınırlı değil.
Anthropic CEO’su Dario Amodei ve bazı sektör yöneticileri son dönemde en gelişmiş yapay zekâ sistemlerinin geliştirilme hızının koordineli biçimde yavaşlatılması ve daha güçlü güvenlik kontrollerinin uygulanması gerektiğini savundu.
Buna karşılık Avrupa’daki bazı teknoloji şirketleri ve yetkililer, bu yaklaşımın halihazırda önde bulunan ABD merkezli şirketlerin konumunu güçlendirebileceğini ileri sürüyor. Fransa Maliye Bakanı Roland Lescure da yavaşlama çağrılarını bu açıdan eleştirdi.
Dolayısıyla BM Güvenlik Konseyi toplantısı, yalnızca yapay zekânın teknik güvenliği değil, ülkelerin gelişmiş AI sistemleri için hangi uluslararası kurallar üzerinde uzlaşabileceği sorusunu da gündeme taşıyacak.
Yapay zekâ BM haftasının ana gündemlerinden biri
Toplantı, dünya liderlerinin New York’ta bir araya geldiği BM Genel Kurulu’nun 81. oturumunun yüksek düzeyli haftasına denk geliyor.
Genel Kurul’un liderler düzeyindeki genel görüşmeleri 22-28 Eylül arasında yapılacak. BM’nin resmi programında AI yönetişimi de yüksek düzeyli haftanın gündem başlıklarından biri olarak yer alıyor.
Reuters’ın 20 Eylül tarihli değerlendirmesine göre Orta Doğu’daki çatışmalar, Ukrayna savaşı ve hızla gelişen yapay zekânın yarattığı riskler bu yıl liderlerin görüşmelerinde öne çıkan başlıklar arasında.
Bu nedenle 23 Eylül’deki Güvenlik Konseyi oturumu, son haftalarda teknoloji şirketleri arasında süren “AI ne kadar hızla geliştirilmeli ve kim tarafından denetlenmeli?” tartışmasının devletler düzeyindeki en dikkat çekici toplantılarından biri olacak.
