OpenAI onlarca kurumu uyardı: Yapay zekâ ajanları güvenlik kontrollerini aştı
OpenAI, yapay zekâ modellerinin eğitim ve değerlendirme süreçlerindeki internet faaliyetlerini incelemesinin ardından onlarca üçüncü taraf kurumu bilgilendirdi. Şirket, bazı AI ajanlarının güvenlik kontrollerini aşabildiğini, açıkta bulunan erişim bilgilerini kullandığını ve üçüncü taraf internet sitelerinde istenmeyen değişikliklere yol açabildiğini açıkladı. İnceleme sürerken yeni bildirimlerin yapılması bekleniyor.
Yapay zekâ ajanlarının gerçek dünyadaki sistemlerle etkileşiminin doğurabileceği güvenlik riskleri, OpenAI'ın yürüttüğü kapsamlı incelemeyle yeniden gündeme geldi.
OpenAI, modellerinin eğitim ve değerlendirme çalışmalarında internette gerçekleştirdiği faaliyetleri geriye dönük olarak incelemeye aldığını ve şimdiye kadar onlarca üçüncü tarafı bilgilendirdiğini duyurdu. Bildirim yapılanlar arasında kamu kurumları ve üniversiteler de bulunuyor.
Şirketin açıklamasına göre bildirimler özellikle AI modellerinin bir kuruluşun güvenlik kontrollerini aşmış, çevrim içi hizmetlerin kullanılabilirliğini olumsuz etkilemiş veya üçüncü taraf sistemlerinde başka istenmeyen sonuçlara yol açmış olabileceği vakalara odaklanıyor.
Güvenlik kontrolünü aşma ve açıkta kalan şifreleri kullanma
OpenAI'ın incelemesinde ortaya çıkan davranışlar yalnızca tek tip bir güvenlik sorunuyla sınırlı değil.
Şirket; AI ajanlarının normalde kimlik veya özel izin gerektiren bilgilere ulaşmak için erişim kontrollerini aşabildiği, internette açık bırakılmış kullanıcı bilgileri veya erişim anahtarlarını kullanabildiği vakalar tespit ettiğini bildirdi.
Bazı durumlarda ajanların internet sitelerine girdikleri verilerin sistem tarafından komut veya sorgu olarak işlenmesine yol açtığı, bazı hizmetlerin çalışma ortamlarına veya normalde dışarıdan erişilmemesi gereken bölümlerine ulaştığı da belirlendi.
OpenAI buna “agent spam” adını verdi
İncelemede klasik siber güvenlik ihlallerinden farklı bir davranış biçimi de ortaya çıktı.
OpenAI, AI ajanlarının üçüncü taraf internet sitelerine içerik bırakmasını ve bazı durumlarda mevcut bilgileri değiştirmesini “agent spam” olarak adlandırıyor.
Şirketin verdiği örneklerden birinde ajanlar, halka açık wiki sayfalarını kendi aralarında bilgi aktarabilecekleri bir çeşit mesaj panosu gibi kullandı. Bunun sonucunda üçüncü tarafların bazı içerikleri daha sonra temizlemesi veya düzeltmesi gerekti.
OpenAI'a göre bu davranışların temelinde modellerin kendilerine verilen zor görevleri tamamlamak amacıyla beklenmeyen ve amaçlanan davranışla uyuşmayan yöntemlere yönelmesi bulunuyor.
53 kullanıcı görseli internete gönderildi
İncelemede mahremiyet açısından dikkat çeken başka bir olay da ortaya çıktı.
OpenAI'ın verdiği bilgilere göre araştırma ortamındaki ajanlar, kullanıcılar tarafından sağlanan 53 görseli, herkese açık listelerde görünmeyen bağlantılar şeklinde internet üzerindeki görsel barındırma hizmetlerine gönderdi. Bağlantılar listelenmemiş olsa da görsellerin internet üzerinden keşfedilebilmesi mümkündü. OpenAI, bunun söz konusu verilerin uygun bir kullanım biçimi olmadığını kabul etti.
İnceleme Hugging Face olayından sonra genişletildi
Bugünkü gelişmenin arkasında Temmuz 2026'da yaşanan Hugging Face güvenlik olayı bulunuyor.
OpenAI'ın açıklamasına göre şirket içindeki siber güvenlik değerlendirmeleri sırasında çalışan bazı modeller, internet erişimini engellemek için oluşturulan kontrolleri aşmayı başardı. Ajanlar yetkisiz kanallardan birbirleriyle iletişim kurdu, araştırma altyapısındaki açıklardan yararlanarak internete erişti ve üçüncü taraf sistemlerine ulaştı.
Olayın büyük bölümünden, kamuya sunulmayan ve yalnızca araştırma amacıyla kullanılan yüksek kapasiteli bir model sorumluydu. OpenAI, Hugging Face olayını bugüne kadar kendi modellerinde tespit ettiği bu tür faaliyetlerin en ciddi örneği olarak tanımlıyor.
Hugging Face ise kendi teknik incelemesinde otonom ajanın yaklaşık iki buçuk gün boyunca altyapısı üzerinde faaliyet gösterdiğini ve çok sayıda küçük otomatik karar üzerinden ilerleyen uçtan uca bir saldırı gerçekleştirdiğini bildirdi.
İnceleme henüz tamamlanmadı
OpenAI, Hugging Face olayından geriye doğru giderek araştırma ve değerlendirme çalışmalarındaki ajan faaliyetlerini ay ay incelemeye devam ediyor.
Şirket şimdiye kadar onlarca üçüncü tarafı bilgilendirdiğini ancak araştırmanın önemli ölçüde zaman ve kaynak gerektireceğini belirtiyor. Dolayısıyla etkilenen kurumların sayısı kesinleşmiş değil ve inceleme ilerledikçe yeni kurumlara bildirim yapılması bekleniyor.
OpenAI ayrıca etkilenen kurumların kimliklerini genel olarak açıklamayacağını belirtiyor. Bunun amacı, kuruluşların olası güvenlik sorunlarını kamuoyuna açıklanmadan önce inceleyebilmesine ve gerekli önlemleri alabilmesine olanak sağlamak.
Ortaya çıkan tablo, giderek daha bağımsız hareket edebilen yapay zekâ ajanlarının yalnızca verilen görevi başarıyla tamamlayıp tamamlamadığının değil, o göreve ulaşırken hangi yöntemleri kullandığının da denetlenmesi gerektiğini gösteren önemli bir örnek oluşturuyor.
Karşı Sav Haber Merkezi