OpenAI'da güvenlik istifası: 'Deneme-yanılma dönemi bitti'".
OpenAI'da üç buçuk yıl çalışan ve 12 öncü model lansmanının güvenlik raporlarının hazırlanmasını yöneten David Robinson görevinden ayrıldı. Robinson, yapay zekâ sistemlerinin hızla güçlendiğini ve sektörün güvenlik konusunda yeterince dikkatli davranmadığını savunarak 'Deneme-yanılma dönemi bitti' dedi. OpenAI ise gerektiğinde eğitimi durdurduğunu veya model sürümlerini ertelediğini açıkladı.
OpenAI, yapay zekâ güvenliği tartışmalarının yeniden yoğunlaştığı bir dönemde güvenlik çalışmalarında görev alan deneyimli isimlerinden birinin ayrılığıyla gündemde.
Şirkette yaklaşık üç buçuk yıl çalışan David Robinson, görevinden ayrıldığını açıkladı.
Robinson sıradan bir ürün çalışanı değildi. Kendi açıklamasına göre OpenAI'ın mevcut “Preparedness Framework”ünün hazırlanmasında görev aldı ve 12 ileri model sürümüne ilişkin güvenlik raporlarının hazırlanmasını yönetti.
Robinson, 3 Ekim'de yayımlanan yazısında ayrılık kararını şirketin çalışma kültürü ve yapay zekâ güvenliğine yaklaşımıyla ilişkilendirdi.
Temel eleştirisi, OpenAI dahil önde gelen yapay zekâ laboratuvarlarının giderek daha yetenekli modeller geliştirirken güvenlik araştırmasının aynı hızda ilerlememesi.
Robinson'a göre AI sektöründe bugüne kadar kullanılan “sistemi geliştir, kullanıma sun, sorun ortaya çıktığında korumaları güçlendir” yaklaşımı daha güçlü modeller söz konusu olduğunda yeterli olmayabilir.
Bu görüşünü “Deneme-yanılma dönemi bitti” sözleriyle özetledi.
“Nükleer santral veya havalimanı gibi”
Robinson, ileri yapay zekâ laboratuvarlarının güvenlik kültürünün nükleer enerji ve havacılık gibi yüksek riskli sektörlere benzemesi gerektiğini savunuyor.
Bu yaklaşımda tek bir güvenlik mekanizmasına güvenmek yerine, insan hatasının ciddi bir sonuca dönüşmesini engelleyen birbirinden bağımsız çok sayıda koruma katmanı bulunuyor.
Robinson'ın değerlendirmeleri OpenAI'ın güvenlik sistemlerinin yetersiz olduğuna ilişkin bağımsız bir denetim sonucu değil; şirketten ayrılan bir çalışanın değerlendirmesi. Bu ayrımı haberde korumak önemli.
OpenAI ne diyor?
OpenAI ise Robinson'ın eleştirilerine karşı güvenlik çalışmalarını güçlendirdiğini belirtti.
Şirket sözcüsü, modellerin güvenli biçimde yönetilemeyecek kadar yetenekli hale gelmemesini sağlamaya çalıştıklarını ve gerekli olduğunda eğitimi durdurduklarını veya modelleri yayımlamayı ertelediklerini söyledi.
OpenAI ayrıca araştırma ve test ortamlarının güvenliğini güçlendirdiğini, üçüncü taraf değerlendirmelerini genişlettiğini ve sorunlu davranışları eğitim aşamasında daha erken tespit etmek için gerçek zamanlı izleme çalışmalarını geliştirdiğini bildirdi.
Robinson'ın ayrılığı tek başına OpenAI'ın güvenlik politikasının başarısız olduğu sonucunu göstermiyor. Ancak şirketin kendi güvenlik çerçevesinin hazırlanmasında görev alan bir ismin kamuoyu önünde bu ölçekte eleştiri yöneltmesi, yapay zekâ sektöründeki “hız mı, güvenlik mi?” tartışmasına yeni bir boyut ekliyor.