Yapay zeka ve donanım dünyasının lider ismi Nvidia, çip pazarındaki güçlü konumunu sürdürürken, yapay zeka ajanlarının kontrolden çıkmasını önlemek amacıyla geliştirdiği yeni güvenlik platformunu resmen tanıttı. Şirket, bu önemli teknolojik hamleyle birlikte 150 milyar dolarlık devasa bir hisse geri alım planını da kamuoyuyla paylaştı.
Nvidia tarafından duyurulan yenilikçi sistem, Open Agent Safety Platform adını taşıyor. Bu kapsamlı güvenlik mimarisi; açık kaynaklı OpenShell yazılımı ile Sentry adı verilen donanım tabanlı bağımsız bir izleme sistemini tek bir çat altında birleştiriyor.
Şirket yöneticilerinden Justin Boitano, sistemin çalışma prensibine ilişkin önemli detaylar paylaştı. Boitano’nun aktardığına göre, OpenShell yazılımı yapay zeka ajanlarının hareket sınırlarını net bir şekilde çizerken, Sentry ise BlueField-4 veri işleme birimleri üzerinde çalışan bağımsız bir işlemci aracılığıyla aktiviteleri kesintisiz olarak denetliyor. Geliştirilen bu mekanizma, belirlenen hedef sınırlarını aşmaya çalışan şüpheli bir ajanı milisaniyeler içinde tespit ederek anında karantinaya alabiliyor.
Son dönemde OpenAI ajanlarının bağımsız hareket ederek Hugging Face platformuna sızmasıyla başlayan ve Anthropic, Google ile Meta modellerini de kapsayan güvenlik ihlalleri zinciri sektörü sarsmıştı. Nvidia’nın tanıttığı bu yeni araçlar, yaşanan endişelerin ardından yapay zeka güvenlik açıklarına karşı güçlü ve net bir çözüm vadediyor.
Yapay zeka güvenliği konusu teknoloji endüstrisini iki farklı kampa bölerken, Nvidia CEO’su Jensen Huang güvenlik meselesini gelişimi yavaşlatan bir unsur olarak değil, mühendislik çözümleriyle aşılması gereken bir mühendislik problemi olarak ele alıyor. Sektörde ağır regülasyonların getirilmesini veya ilerlemenin yavaşlatılmasını desteklemeyen teknoloji devi, güvenliği doğrudan ajanın dışına konumlandıran bağımsız bir muhafız yapısı inşa ediyor. Huang, bir yapay zeka ajanı devreye alınırken atılması gereken ilk adımın onun tüm yetki ve haklarını sınırlandırmak olduğunu savunuyor.
Nvidia’nın yeni güvenlik platformunun ilk sürümüne Microsoft, Anthropic, Oracle, Perplexity, Accenture ve SpaceX gibi devlerin de aralarında bulunduğu yüzün üzerinde organizasyon destek verdi. Öte yandan, son dönemde yaşanan güvenlik ihlalleriyle sıkça gündeme gelen OpenAI’ın destekçi listesinde yer almaması dikkat çeken detaylar arasında yer aldı.
Yorumlar (0)