BM'den AI için "geç olmadan" çağrısı: Küresel kırmızı çizgiler istendi
BM İnsan Hakları Yüksek Komiseri Volker Türk, gelişmiş yapay zekânın insanlık için 'varoluşsal risk' oluşturabilecek seviyeye ulaşabileceğini söyledi. Türk, AI geliştiren ülkeler ve teknoloji tedarik zincirindeki aktörlere ortak 'kırmızı çizgiler' belirleme ve güçlü güvenlik mekanizmaları oluşturma çağrısı yaptı.
Yapay zekânın güvenliği konusundaki tartışmalara Birleşmiş Milletler'den dikkat çekici bir uyarı geldi.
BM İnsan Hakları Yüksek Komiseri Volker Türk, 7 Eylül'de Cenevre'de düzenlenen BM İnsan Hakları Konseyi'nin 63'üncü oturumunda yaptığı konuşmada, gelişmiş yapay zekânın oluşturabileceği risklere karşı daha güçlü uluslararası önlemler alınması gerektiğini söyledi.
Türk, yapay zekâ sektörünün içinden gelen uyarılara katıldığını belirterek, gelişmiş AI sistemlerinin “insanlık için varoluşsal risk” oluşturabileceği uyarısında bulundu.
AI teknolojisi daha da gelişmeden güvenlik ve emniyet konusunda çok güçlü güvencelerin hayata geçirilmesi için kapsamlı bir çaba çağrısı yaptı.
Yapay zekâ üzerindeki güç yoğunlaşmasına dikkat çekti
Türk'ün konuşmasının dikkat çeken bölümlerinden biri de gelişmiş yapay zekâ üzerindeki kontrolün sınırlı sayıdaki aktörün elinde toplanmasına ilişkin uyarısı oldu.
BM yetkilisi, isim vermeden “bir avuç erkeğin yapay zekâ üzerinde neredeyse sınırsız güce sahip olduğunu” söyledi.
Türk, en azından AI geliştiren ülkelere ev sahipliği yapan devletlerle yapay zekâ tedarik zincirinde yer alan ülkelerin, teknolojinin aşmaması gereken ortak “kırmızı çizgiler” üzerinde uzlaşması gerektiğini belirtti.
BM Yüksek Komiseri ayrıca gelişmiş sistemlerin hangi noktada kabul edilemez derecede güçlü sayılması gerektiğine ilişkin dikkat çekici örnekler verdi.
Türk'e göre test ortamından kaçabilen veya kapatılmasını engellemek amacıyla geliştiricilere şantaj yapabilen bir AI sistemi “fazla güçlü” kabul edilmeli.
Reuters'ın aktardığına göre BM İnsan Hakları Ofisi, bu kaygılara örnek olarak temmuz ayında gündeme gelen ve OpenAI ajanlarının Hugging Face altyapısıyla bağlantılı güvenlik sınırlarını aşmasına ilişkin olaya da dikkat çekti. BM yetkilileri, bu tür gelişmelerin ileri seviye AI yeteneklerinin güvenlik önlemlerinden daha hızlı ilerlediğine işaret ettiğini savunuyor.
Bu bir “AI kesin olarak insanlığı yok edecek” tahmini değil
Türk'ün açıklamasındaki önemli ayrım ise risk ile kesinlik arasında.
BM Yüksek Komiseri, yapay zekânın insanlığı yok edeceğinin kesin olduğunu söylemedi. Uyarısı, gelişmiş AI sistemlerinin böyle bir risk oluşturabilecek seviyeye ulaşabileceği ve gerekli güvenlik sınırlarının teknoloji daha da ilerlemeden kurulması gerektiği yönünde.
Birleşmiş Milletler yapay zekâ yönetişimi konusunda daha önce de küresel koordinasyon çağrıları yapmıştı.
BM tarafından oluşturulan Küresel Yapay Zekâ Yönetişimi Diyaloğu'nun ilk oturumu 6-7 Temmuz 2026'da Cenevre'de gerçekleştirildi. Diyalog, devletler, teknoloji şirketleri, akademi ve sivil toplumun yapay zekânın güvenliği ve yönetişimi konusunda ortak yaklaşımlar geliştirmesini amaçlıyor.
Türk'ün son açıklaması, küresel AI yarışında tartışmanın yalnızca daha güçlü modeller geliştirmekten ibaret olmadığını; bu sistemlerin kim tarafından, hangi sınırlar içinde ve hangi denetim mekanizmalarıyla kontrol edileceği sorusunun giderek daha fazla öne çıktığını gösteriyor.