Zuckerberg yapay zekâyı yavaşlatma çağrısına karşı çıktı: AI devleri ikiye bölündü

Yapay zekâ sektörünün en güçlü isimleri arasında teknolojinin ne kadar hızlı geliştirilmesi gerektiğine ilişkin önemli bir görüş ayrılığı ortaya çıktı.

Meta CEO’su Mark Zuckerberg, gelişmiş yapay zekâ modellerinin geliştirilme hızının koordineli biçimde düşürülmesi gerektiği yönündeki çağrılara katılmadığını açıkladı.

Reuters’ın 16 Eylül tarihli haberine göre Zuckerberg, şirketlerin güvenli ve insanlarla uyumlu yapay zekâ sistemleri geliştirmek için zaten güçlü teşviklere sahip olduğunu düşünüyor. Meta CEO’suna göre rekabet, şirketlerin itibarı ve karşılaşabilecekleri hukuki sorumluluklar güvenliği göz ardı etmelerini zorlaştırıyor.

AMODEI “YAVAŞLAYALIM” DEDİ, ALTMAN VE MUSK DESTEKLEDİ

Tartışma Anthropic CEO’su Dario Amodei’nin gelişmiş yapay zekâ sistemlerinin geliştirilme hızının düşürülmesi gerektiğini savunmasıyla büyüdü.

Amodei, giderek daha otonom hâle gelen yapay zekâ sistemlerinin kontrol edilmesinin zorlaşabileceği uyarısında bulunarak bağımsız güvenlik değerlendirmeleri ve şirketler arasında daha kapsamlı koordinasyon çağrısı yaptı.

OpenAI CEO’su Sam Altman ile Elon Musk da Amodei’nin temel yaklaşımına destek verdi. Altman, frontier modellerin geliştirilme hızının güvenlik çalışmalarıyla birlikte yönetilmesi gerektiğini belirtirken Musk da Amodei’nin uyarılarına destek verdi.

Böylece uzun süredir yapay zekâ yarışında birbirleriyle rekabet eden üç önemli isim, teknolojinin ilerleme hızının kontrol edilmesi konusunda nadir görülen bir ortak noktada buluştu.

ZUCKERBERG AYNI FİKİRDE DEĞİL

Zuckerberg ise sektör genelinde uygulanacak koordineli bir yavaşlamanın gerekli olmadığı görüşünde.

Meta CEO’su, yapay zekâ şirketlerinin güvenliği kendi sistemlerinin geliştirilme sürecinde sağlayabileceğini savunuyor.

Zuckerberg’a göre şirketler kontrol edemedikleri veya güvenli olmadığını düşündükleri sistemleri piyasaya sürmeleri hâlinde hem ekonomik hem de hukuki sonuçlarla karşılaşabilir.

Bu nedenle güvenli yapay zekâ geliştirmenin şirketlerin kendi çıkarlarıyla da örtüştüğünü düşünüyor.

META DA BİR AI ÜRÜNÜNÜ GÜVENLİK İÇİN ERTELEDİ

Zuckerberg’ın yaklaşımı, “yapay zekâ mümkün olduğunca hızlı ve kontrolsüz geliştirilmeli” anlamına gelmiyor.

Meta, güvenlik testlerinin güçlendirilmesi amacıyla Muse adlı yapay zekâ ajanının piyasaya çıkışını erteledi.

Zuckerberg ayrıca yapay zekâ sistemlerinin bağımsız uzmanlar tarafından değerlendirilmesini sektör açısından iyi bir uygulama olarak gördüğünü belirtti.

Dolayısıyla tartışmanın temelinde “güvenlik gerekli mi?” sorusundan çok, güvenliği sağlamak için bütün sektörün gelişim hızını düşürmesi gerekip gerekmediği bulunuyor.

AI SEKTÖRÜNDE İKİ FARKLI YAKLAŞIM

Ortaya çıkan tartışmada iki farklı yaklaşım belirginleşiyor.

Amodei, Altman ve Musk’ın desteklediği görüş; frontier yapay zekâ modellerinin kabiliyetleri hızla arttığı için şirketlerin güvenlik konusunda daha sıkı koordinasyon kurması ve gerektiğinde teknolojinin ilerleme hızının düşürülmesi gerektiğini savunuyor.

Zuckerberg’ın yaklaşımı ise laboratuvarların kendi güvenlik çalışmalarını sürdürmesini ancak sektör çapında ortak bir yavaşlamaya gidilmemesini öngörüyor.

Meta CEO’su böyle bir sistemde bağımsız güvenlik denetimlerinin kullanılabileceğini ancak teknolojik ilerlemenin bilinçli biçimde frenlenmesine ihtiyaç olmadığını düşünüyor.

YAPAY ZEKÂ GÜVENLİĞİ TARTIŞMASI BÜYÜYOR

Tartışmanın merkezinde özellikle yeni nesil AI ajanlarının giderek daha bağımsız hareket edebilmesi bulunuyor.

Anthropic’in yayımladığı son güvenlik çalışmalarında yapay zekânın siber saldırılar, biyolojik riskler, gözetim faaliyetleri ve farklı kötüye kullanım alanlarında oluşturabileceği tehditlere dikkat çekiliyor. Şirket, tespit ettiği kötüye kullanım faaliyetlerine karşı hesapların kapatılması ve yeni güvenlik önlemlerinin geliştirilmesi gibi adımlar attığını belirtiyor.

Amodei ve onu destekleyen isimler, model yeteneklerinin güvenlik mekanizmalarından daha hızlı ilerlemesinden endişe ediyor.

Zuckerberg ise güvenlik çalışmalarının teknolojik ilerlemeyi sektör genelinde yavaşlatmadan da gerçekleştirilebileceği görüşünde.

Böylece dünyanın en büyük yapay zekâ şirketlerinin yöneticileri arasında önümüzdeki dönemin en önemli tartışmalarından biri şekilleniyor: Yapay zekâ yarışında önce hız mı, yoksa ortak bir güvenlik freni mi?