Nvidia ve Palantir hassas işlerde yapay zekâ kullanımını sınırlıyor: Şirket verileri için yeni güvenlik tartışması

Nvidia ve Palantir, hassas şirket verilerinin üçüncü taraf yapay zekâ modellerine aktarılmasına ilişkin endişeler nedeniyle Anthropic'in gelişmiş modellerine yönelik kullanım politikalarını sıkılaştırıyor. Nvidia, Anthropic modellerini daha az hassas işlerle sınırlandırırken Palantir, modelleri kendi platformunda kullanabilmek için 'sıfır veri saklama' garantisi istiyor. Gelişme, şirketlerin ChatGPT ve Claude gibi yapay zekâ sistemlerine hangi verileri verebileceği tartışmasını yeniden gündeme t

Kurumsal dünyada yapay zekâ kullanımı hızla yayılırken, şirketlerin ticari sırlarının, kaynak kodlarının ve diğer hassas bilgilerinin dış yapay zekâ sağlayıcılarına aktarılması konusunda yeni bir tartışma başladı.

Reuters'ın The Information'a dayandırdığı 14 Eylül tarihli habere göre Nvidia, Palantir Technologies ve savunma danışmanlığı şirketi Booz Allen Hamilton gibi büyük şirketler, veri güvenliği ve fikri mülkiyet endişeleri nedeniyle bazı gelişmiş yapay zekâ modellerinin kullanımını sınırlamaya başladı.

NVIDIA HASSAS İŞLERDE KENDİ MODELİNİ KULLANIYOR

Habere göre Nvidia, Anthropic'in yapay zekâ modellerini daha az hassas şirket işleriyle sınırlandırıyor.

Şirketin açık kaynaklı yazılım projeleri gibi daha düşük hassasiyet taşıyan alanlarda Anthropic modellerini kullanmaya devam ettiği, ancak kritik dahili projelerde kendi Nemotron modellerini tercih ettiği bildirildi.

Nvidia Kurumsal Yapay Zekâ Başkan Yardımcısı Justin Boitano da veri saklamama politikasının varsayılan olması gerektiği görüşünü dile getirdi.

Nvidia ile Palantir ayrıca 10 Eylül'de kritik tedarik zincirleri için şirket verilerinin kontrolünün kurumlarda kalmasını hedefleyen “sovereign AI” iş birliğini duyurmuştu. Sistem, Nvidia'nın Nemotron modellerini Palantir'in yapay zekâ altyapısıyla birleştiriyor.

PALANTIR'DEN “SIFIR VERİ SAKLAMA” TALEBİ

Palantir ise daha ileri bir güvence istiyor.

The Information'ın haberine göre şirket, Anthropic modellerini kendi yazılım platformu üzerinden sunmadan önce Anthropic'ten geri alınamaz bir “Zero Data Retention” (ZDR – sıfır veri saklama) taahhüdü talep ediyor.

Bu modelde kullanıcı tarafından gönderilen hassas verilerin işlem tamamlandıktan sonra model sağlayıcısı tarafından saklanmaması amaçlanıyor.

Palantir'in özellikle hükümetler, savunma kuruluşları ve kritik altyapı şirketleriyle çalışması nedeniyle veri egemenliği şirket açısından önemli bir konu olarak öne çıkıyor.

BOOZ ALLEN SİBER GÜVENLİK KODLARINDA KULLANIMI YASAKLADI

Benzer bir karar Booz Allen Hamilton'dan da geldi.

Şirketin çalışanlarının Anthropic'in ticari modelini müşterilere sağlanan özel siber güvenlik yazılımları üzerinde kullanmasını yasakladığı bildirildi.

Booz Allen CTO'su Bill Vass, şirketin kendi kodlarının model tarafından öğrenilmesi ihtimalinden endişe duyduklarını söyledi.

Booz Allen'ın bu ay yayımladığı ayrı bir çalışmada ise gelişmiş bir yapay zekâ modelinin insan yönlendirmesi olmadan bir ağ üzerinde baştan sona siber saldırı gerçekleştirebildiği açıklanmıştı.

TARTIŞMANIN MERKEZİNDE VERİLERİN NE KADAR SAKLANDIĞI VAR

Şirketlerin çekincelerinin önemli nedenlerinden biri, Anthropic'in bazı ileri modeller için yaptığı veri saklama politikası değişikliği.

The Information'a göre Anthropic, karmaşık ve yeni saldırıları tespit edebilmek amacıyla bazı kullanım kayıtlarını 30 güne kadar saklama hakkı tanıyan bir politika uygulamaya başladı. Bu değişiklik bazı kurumsal müşterilerde rahatsızlık yarattı.

Anthropic daha önce de sıfır veri saklama seçeneğinin bazı müşterilere sunulduğunu ancak bunun kötüye kullanım tespitini zorlaştırabileceğini açıklamıştı.

ŞİRKET VERİLERİ CHATGPT VE CLAUDE'A VERİLEBİLİR Mİ?

Gelişmeler, çalışanların şirket kaynak kodlarını, müşteri bilgilerini veya ticari sırları doğrudan genel amaçlı yapay zekâ sohbetlerine yüklemesi konusundaki riskleri yeniden gündeme getirdi.

Ancak tüketici ürünleriyle kurumsal ürünleri birbirinden ayırmak gerekiyor.

OpenAI, ChatGPT Business, Enterprise ve API üzerinden gönderilen kurumsal verilerin varsayılan olarak model eğitiminde kullanılmadığını belirtiyor. Kurumların ayrıca bazı ürünlerde veri saklama süreleri üzerinde kontrol sahibi olabildiğini ifade ediyor.

OpenAI ayrıca uygun API müşterileri için sıfır veri saklama seçeneği sunduğunu; bu yapılandırmalarda istemlerin ve model cevaplarının işlem sonrasında tutulmadığını açıklıyor.

Bu nedenle güvenlik sorusu yalnızca “ChatGPT veya Claude kullanılıyor mu?” değil; hangi ürünün, hangi sözleşmeyle, hangi veri saklama politikasıyla ve hangi kurumsal güvenlik ortamında kullanıldığı üzerinden değerlendiriliyor.

KURUMSAL YAPAY ZEKÂDA YENİ DÖNEM: VERİ EGEMENLİĞİ

Nvidia ve Palantir'in aldığı önlemler, büyük şirketlerin yapay zekâ modellerini tamamen terk ettiğini göstermiyor.

Bunun yerine sektörün; genel bulut yapay zekâ modellerinden özel bulutlara, kurum içinde çalışan modellere ve sıfır veri saklama sistemlerine doğru daha kontrollü bir mimariye yöneldiğine işaret ediyor.

Microsoft'un da bu endişeleri fırsata çevirerek müşterilere izole bulut ortamları ve kendi yapay zekâ çözümlerini sunduğu bildiriliyor.

Kurumsal yapay zekâ yarışında modelin yalnızca ne kadar güçlü olduğu değil, şirketin verisini kimin gördüğü, ne kadar süre sakladığı ve nerede işlediği de giderek belirleyici hale geliyor.