Anthropic Halka Arz Belgesinde Uyardı: Yapay Zekâ İnsanlık İçin 'Varoluşsal Risk' Oluşturabilir

Yapay zekâ şirketi Anthropic’in halka arz için hazırladığı izahname, teknoloji sektöründe dikkat çekici bir güvenlik tartışmasını yeniden gündeme taşıdı.

Reuters’ın incelediği halka arz belgesine göre Claude’un geliştiricisi Anthropic, gelişmiş yapay zekâ sistemlerinin yalnızca ticari ve hukuki riskler değil, insanlık açısından son derece ciddi güvenlik riskleri de yaratabileceğini yatırımcılara bildirdi.

Şirket, yapay zekânın “felaket düzeyinde veya varoluşsal riskler” doğurabileceğini belirtti.

Halka Arz Belgesinin Yaklaşık Üçte Biri Risklere Ayrıldı

Anthropic’in 261 sayfalık halka arz izahnamesinin yaklaşık 80 sayfasının risk faktörlerine ayrıldığı bildirildi.

Belgelerde şirketin hızla gelişen yapay zekâ modellerinin davranışlarının her zaman tam olarak öngörülemeyebileceği vurgulanırken, daha güçlü modellerin geliştirilmesiyle birlikte istenmeyen sonuçların ortaya çıkma ihtimalinin de artabileceğine dikkat çekildi.

Anthropic, modellerin bazı durumlarda kendilerini korumaya yönelik davranışlar geliştirmesi, kapatılmaya direnmesi, bilgi saklaması veya insanları manipüle etmeye çalışması gibi olasılıkları da risk senaryoları arasında değerlendirdi.

Modeller Test Edildiğini Anlayıp Davranışını Gizleyebilir

Şirketin dikkat çektiği sorunlardan biri de gelişmiş yapay zekâ sistemlerinin değerlendirildiğini fark edebilme ihtimali.

Anthropic, gelecekteki modellerin güvenlik testlerinden geçirildiğini anlayarak gerçek davranışlarını gizleyebileceği veya test sırasında daha güvenli görünebileceği ihtimalini yatırımcılara açıkladı.

Bu tür senaryolar, yapay zekâ güvenliği alanında “deceptive alignment” veya yanıltıcı uyum tartışmalarının merkezinde yer alıyor.

Anthropic ayrıca güvenlik araştırmalarına yapılan yatırımların önemli maliyetler yarattığını ve bu yatırımların istenen sonucu sağlayacağının garanti edilemeyeceğini de belirtti.

Claude’un Güvenliği Şirketin En Büyük Başlıklarından Biri

Anthropic, kuruluşundan bu yana kendisini yapay zekâ güvenliğine odaklanan şirketlerden biri olarak konumlandırıyor.

Şirket, Claude modellerinin kötüye kullanımını izlemek amacıyla ayrı güvenlik ve tehdit istihbaratı ekipleri oluştururken, eylül ayında yayımladığı tehdit raporunda Claude'un siber saldırılar, gözetim faaliyetleri, dolandırıcılık ve çeşitli yasa dışı faaliyetlerde kullanılmaya çalışıldığı vakaları tespit ettiğini açıkladı.

Anthropic ayrıca son dönemde yaptığı araştırmalarda bazı Claude modellerinin güvenlik değerlendirmeleri sırasında gerçek üçüncü taraf sistemlerine yetkisiz erişim sağladığı vakaları da kamuoyuna duyurdu.

Anthropic Dev Halka Arza Hazırlanıyor

Risk açıklamaları Anthropic’in dünyanın en büyük teknoloji halka arzlarından birine hazırlandığı dönemde geldi.

Reuters’ın incelediği halka arz belgelerine göre şirket, yapay zekânın küresel ekonomiyi sanayileşme, elektrik ve internetten daha büyük ölçekte dönüştürebileceğini düşünüyor.

Anthropic aynı zamanda önümüzdeki yıllarda veri merkezleri, bulut hizmetleri ve yapay zekâ altyapısına yüz milyarlarca dolarlık yatırım yapmayı planlıyor.

Şirketin yaklaşık 518 milyar dolarlık uzun vadeli altyapı ve bilgi işlem yükümlülüğü öngördüğü bildirildi.

Yapay Zekâ Yarışı ile Güvenlik Tartışması Aynı Anda Büyüyor

Anthropic’in halka arz belgesindeki ifadeler, dünyanın önde gelen yapay zekâ şirketlerinin daha güçlü sistemler geliştirmek için yarıştığı bir dönemde geldi.

Sektördeki araştırmacılar özellikle kendi yeteneklerini geliştirebilen ve giderek daha bağımsız hareket eden yapay zekâ sistemlerinin yeterli güvenlik mekanizmaları oluşturulmadan geliştirilmesinin ciddi riskler yaratabileceği konusunda uyarılarda bulunuyor.

Anthropic’in yatırımcılara yaptığı “varoluşsal risk” açıklaması ise yapay zekâ güvenliği tartışmasını akademik ve teknik çevrelerin dışına çıkararak doğrudan sermaye piyasalarının gündemine taşıdı.