Enver KOÇAK
NVIDIA, 28 Eylül 2026’da “Open Agent Safety Platform” adını verdiği yeni bir yapıyı duyurdu. Platformun yazılım tarafındaki parçası olan NVIDIA OpenShell, yapay zekâ ajanlarının görevleri nasıl yürüttüğünü kontrol eden açık kaynak bir çalışma sınırı olarak tanımlanıyor. Şirket, ajanları test aşamasından canlı kullanıma kadar yönetmeyi amaçladığını söylüyor.
Ajanlar artık dosya düzenleyen, komut çalıştıran ve başka servislere bağlanan yazılımlar. Bu yüzden “ajan neye dokunabilir, neyi yapamaz” sorusu geliştiriciler için giderek daha önemli hale geliyor.
Ne Değişti?
Duyuruya göre OpenShell, ajanın yaptığı eylemleri kayıt altına alıyor ve çalışma sırasında politika uyguluyor. Açık ve kapalı modellerle birlikte çalışabildiği belirtiliyor. NVIDIA, aracın kendi Vera işlemcileri için tasarlandığını ama açık kaynak olduğu için Arm ve Intel gibi üçüncü taraf platformlara da genişletilebileceğini yazıyor. Kod GitHub’da NVIDIA hesabı altında yayımlanmış durumda. Duyuruda belirli bir lisans adı geçmiyor.
Platformun ikinci parçası Sentry adlı bir referans tasarım. Sentry, BlueField-4 DPU’lar üzerinde çalışan ve izlediği ajanlardan ayrı tutulan bir “bekçi”. Ajanın davranışını izliyor, güvenlik kurallarını donanım düzeyinde uyguluyor. Şirkete göre bir ajan sınırlarının dışına çıkmaya çalışırsa Sentry onu milisaniyeler içinde karantinaya alıyor. Kimlik doğrulama ve veri, araç, API erişiminde sıfır güven kontrolleri de bu katmanın görevleri arasında sayılıyor.
Kimler Katılıyor?
NVIDIA, 100’den fazla kuruluşun platformun teknolojileriyle çalıştığını söylüyor. Adı geçen şirketler arasında Anthropic, Cisco, CrowdStrike, Hugging Face, Microsoft, Palo Alto Networks, Red Hat, Salesforce ve SAP var. Şirket ayrıca 120’den fazla kuruluşla birlikte başlattığı Open Secure AI Alliance’ın Linux Foundation tarafından yönetildiğini belirtiyor.
NVIDIA CEO’su Jensen Huang duyuruda, yapay zekânın topluma katkısının ancak güvenlik sorunu çözülürse gerçekleşebileceğini vurguladı: “AI’s extraordinary potential for society will only be realized if we solve AI safety.”
Kimi İlgilendiriyor?
OpenShell en çok, kurum içinde ajan çalıştıran ve bu ajanların ne yaptığını denetlemek zorunda olan ekipleri ilgilendiriyor. Ajanın hangi komutu çalıştırdığını kaydetmek ve önceden belirlenmiş kurallar dışına çıkmasını engellemek, özellikle finans ve sağlık gibi denetimli sektörlerde gerekli hale geliyor. Sentry ise daha çok veri merkezi ölçeğinde çalışan kurumlar için bir başvuru tasarımı niteliğinde, çünkü özel donanım gerektiriyor.
Bu yaklaşımın dikkat çeken yanı, denetimin iki ayrı katmanda kurulması. Yazılım katmanı ajanın ne yaptığını izleyip kurala bağlarken, donanım katmanı ajandan bağımsız çalışıyor. Böylece ajanın kendisi ele geçirilse ya da beklenmedik davransa bile bekçinin etkilenmemesi hedefleniyor. Bu, güvenlik dünyasında bilinen “izleyen, izlenenden ayrı olmalı” ilkesinin ajanlara uyarlanması olarak okunabilir.
Küçük ekipler için şimdilik pratik kısım yazılım katmanı. Açık kaynak olduğu için incelenebilir ve mevcut ajan altyapısına uyarlanıp uyarlanamayacağı test edilebilir. Ancak aracın Vera işlemciler dışındaki ortamlarda ne kadar olgun çalıştığı duyuruda ayrıntılı anlatılmıyor.
Türkiye’den Kullanıcılar İçin
Türkiye’de kendi sunucusunda ajan çalıştıran yazılım ekipleri, OpenShell’i bir denetim katmanı olarak deneyebilir. Kişisel verilerin korunması açısından da ajanın hangi verilere eriştiğini kaydetmek önemli. Yine de bu tür bir aracı canlı ortama almadan önce test ortamında denemek ve kuralların ajanın işini gereksiz yere engellemediğinden emin olmak gerekir.
Kaynaklar
Bu yazı, yukarıdaki kaynaklardan yapay zekâ yardımıyla Türkçe olarak derlenmiş bir özettir. Ayrıntılar ve resmi bilgi için kaynaklara başvurun.
