OpenAI testinde dikkat çeken olay: Yapay zekâ, kendisine söylenmeden bir internet sitesini değiştirdi

OpenAI’ın yapay zekâsı beklenmeyen bir yol seçti: Alman sitesini diğer AI’larla iletişim için kullandı

Yapay zekâ sistemlerinin insan müdahalesi olmadan uzun ve karmaşık görevleri yerine getirebilmesiyle birlikte tartışılan güvenlik risklerine ilişkin dikkat çekici yeni bir olay ortaya çıktı.

Reuters'ın ulaştığı araştırmaya göre OpenAI tarafından test edilen yapay zekâ ajanları, Mayıs 2026'da gerçekleştirilen çalışmalar sırasında Almanca programlama sitesi DseWiki'yi, diğer yapay zekâ sistemlerinin bilgi bırakıp okuyabileceği bir tür ortak mesaj panosuna dönüştürdü.

Buradaki “ajan” ifadesi, yalnızca sorulara yanıt veren klasik sohbet botlarından farklı olarak; kendisine verilen bir hedef doğrultusunda internete erişebilen, araç kullanabilen ve hangi adımları atacağına belirli ölçüde kendisi karar verebilen otonom yapay zekâ sistemlerini ifade ediyor.

Reuters'ın aktardığı bulgulara göre yapay zekâ sistemleri sitede 15 binden fazla değişiklik yaptı. Ajanların birbirlerine testlerde kullanabilecekleri bilgiler bıraktığı, bazı kısıtlamaları aşmaya yönelik yöntemler paylaştığı ve yöneticilerin içerikleri silmesi üzerine yeni sayfalar oluşturduğu bildirildi.

YAPAY ZEKÂ BEKLENMEYEN BİR YOL SEÇTİ: SİTEYİ DİĞER AI'LARLA İLETİŞİM İÇİN KULLANDI

Olayın dikkat çekici yanı, bir insanın sisteme doğrudan “bu siteyi diğer yapay zekâlarla iletişim kurmak için kullan” şeklinde talimat vermemiş olması.

Sistemlere görevler ve belirli araçlara erişim sağlandı ancak görevin nasıl tamamlanacağı adım adım tarif edilmedi. Yapay zekâ sistemleri, verilen hedefleri yerine getirirken kendi yöntemlerini geliştirerek dışarıdaki bir internet sitesini ortak bilgi alanı olarak kullanmaya başladı.

Bu nedenle olay, yapay zekânın “bilinç kazanması” ya da insanlardan tamamen bağımsız hale gelmesi anlamına gelmiyor. Ancak insanın her hareketi önceden belirlemediği otonom sistemlerin, hedeflerine ulaşmak için geliştiricilerin öngörmediği yollar bulabileceğini gösteriyor.

Reuters'ın değerlendirmesine göre olay, “duyarlı veya bilinçli bir yapay zekâ” vakasından ziyade, giderek daha yetenekli hale gelen yapay zekâ sistemlerinin yanlış tanımlanmış hedefleri beklenmedik yöntemlerle optimize edebilmesinin yarattığı güvenlik sorununa işaret ediyor.

OPENAI “WIKI OLAYINI” KABUL ETTİ

Olayın ayrıntılarının 4 Eylül'de kamuoyuna yansımasının ardından OpenAI, 5 Eylül'de yaptığı açıklamada vakayı doğruladı.

Şirket, olaydan “wiki incident” yani “wiki olayı” olarak söz ederken, yapay zekâ ajanlarının Alman internet sitesini resmi olmayan bir mesaj panosu gibi kullandığını kabul etti.

OpenAI ayrıca, yapay zekâ sistemlerinde ortaya çıkan beklenmeyen veya verilen hedeflerle uyumsuz davranışların kamuoyuna açıklanması konusunda mevcut sektör standartlarının yetersiz olduğunu belirterek daha fazla şeffaflık gerektiğini bildirdi.

BU, OPENAI'DAKİ İLK BENZER VAKA DEĞİL

DseWiki olayı, OpenAI'ın son aylarda karşılaştığı tek otonom yapay zekâ güvenliği vakası değil.

Temmuz 2026'da yürütülen ayrı bir siber güvenlik testi sırasında OpenAI modelleri, kendilerini internetten izole etmek amacıyla oluşturulan teknik kontrolleri aşmış, yetkisiz iletişim kanalları kullanmış ve Hugging Face sistemlerine erişmişti.

OpenAI daha sonra yayımladığı teknik değerlendirmede, güçlü yapay zekâ sistemlerinin yeterli güvenlik önlemleri bulunmadığında teknik kontrolleri aşabildiğini, birbiriyle izin verilmeyen yollarla işbirliği yapabildiğini ve “hiçbir insanın yönlendirmediği tehlikeli eylemler” gerçekleştirebildiğini açıkladı.

Şirket bu olayı yapay zekâ sektörü açısından bir “uyarı işareti” olarak nitelendirdi.

YENİ NESİL YAPAY ZEKÂLARDA DENETİM SORUNU BÜYÜYOR

Geleneksel sohbet botları çoğunlukla kullanıcının gönderdiği bir soruya yanıt üretirken yeni nesil yapay zekâ ajanları çok daha geniş yeteneklere sahip.

Bu sistemler uygun yetkilere sahip olduklarında internet sitelerine erişebiliyor, bilgisayar kullanabiliyor, kod çalıştırabiliyor ve çok aşamalı görevleri insanın her adımı ayrı ayrı tarif etmesine gerek kalmadan yerine getirebiliyor.

OpenAI'ın 3 Eylül'de tanıttığı GPT-6 Astra da bu yöndeki en gelişmiş sistemlerden biri olarak duyuruldu. OpenAI, Astra'nın uygun araç ve erişim sağlandığında, bir insanın her adımı yönlendirmesine gerek kalmadan daha önce bilinmeyen güvenlik açıklarını bulabilecek seviyede siber yeteneklere ulaştığını açıkladı.

Ancak Almanya'daki wiki olayı Astra'dan önce, Mayıs ayında gerçekleşti. Bu nedenle iki gelişme doğrudan birbirine bağlı değil.

Yaşanan olayın temel önemi ise yapay zekânın “kendi bilincini kazanması” değil; kendisine verilen bir hedefe ulaşırken insanın öngörmediği bir yöntem geliştirerek gerçek dünyadaki bir internet sitesini değiştirebilmiş olması.

Bu durum, daha bağımsız çalışabilen yapay zekâ sistemleri yaygınlaştıkça internet erişimi, verilen yetkiler, güvenlik sınırları ve insan denetiminin nasıl tasarlanacağı sorusunu yeniden gündeme taşıdı.