NVIDIA Vera Rubin Platformu MLPerf Benchmark Testlerinde Zirvede

Yapay zekâ altyapılarının ve donanımlarının performansını ölçen en önemli uluslararası değerlendirmelerden biri olan MLPerf testlerinde yeni bir dönem başladı. NVIDIA Vera Rubin platformu, yayımlanan güncel sonuçlarla birlikte MLPerf Eğitim ve Endpoints kategorilerinde ilk kez görücüye çıktı ve yapay zekâ dünyasında geniş yankı uyandıran derecelere imza attı. Yapay zekâ modellerinin eğitimi, eğitim sonrası optimizasyonları ve yapay zekâ ajanlarının çalıştırılması süreçlerinde lider performans sergileyen bu yeni mimari, donanım dünyasında kartların yeniden dağıtılmasına yol açıyor.

NVIDIA Vera Rubin Platformu MLPerf Benchmark Testlerinde Zirvede
Görsel: bodkins18 / Pixabay

Vera Rubin NVL72 ile Model Eğitiminde Çarpıcı Hız Artışı

MLPerf Eğitim v6.1 sonuçlarına göre NVIDIA, büyük dil modelleri, görsel üretim sistemleri, tavsiye algoritmaları ve pekiştirmeli öğrenme süreçlerini kapsayan tüm testlerde eksiksiz bir başarı yakaladı. Platform, bu turda her bir benchmark sonucunu sunabilen tek yapı olarak dikkat çekti. Yeni Vera Rubin NVL72 sistemi, daha önceki nesil ve oldukça optimize edilmiş GB300 NVL72 sistemine kıyasla grafik işlemci başına iki katına varan bir performans artışı sundu.

Sistemlerin gerçek dünya senaryolarında nasıl çalıştığını görmek için büyük ölçekli testler de gerçekleştirildi. DeepSeek-V3 benchmark testi üzerinde yapılan denemelerde, Vera Rubin NVL72 mimarisi 256 grafik işlemciden 1.024 grafik işlemciye çıkarken yüzde 97 oranında bir verimlilik sağladı. Bu ölçeklendirme başarısı sayesinde, sistemin eğitim süresi dört kat daha fazla donanım kullanıldığında 16 dakikadan yaklaşık 4 dakikaya indirildi. Ayrıca Microsoft Azure ve NVIDIA sistemleri üzerinden 10.240 grafik işlemcinin bir arada kullanıldığı devasa testler de başarıyla tamamlandı. Bu ölçekte binlerce işlemcinin uyum içinde çalışabilmesi, NVIDIA NVLink, Quantum-X800 InfiniBand ve Spectrum-X Ethernet ağ teknolojilerinin optimize edilmiş yazılım altyapısıyla birleşmesi sayesinde mümkün oluyor.

Reklam

Ajan Tabanlı Yapay Zekâ İş Yüklerinde On Kat Verimlilik

Günümüzde yapay zekâ ajanları kod yazma, iş akışlarını yönetme, müşteri sorularını yanıtlama ve bilimsel araştırmalara destek olma gibi karmaşık görevleri üstleniyor. Bir seyahat planlayan veya bir bilgi işlem sorununu kullanıcı şikayeti oluşmadan çözen yapay zekâ ajanları, tek bir görevi tamamlarken defalarca akıl yürütebiliyor, araç çağırabiliyor ve kontrol mekanizmalarını çalıştırabiliyor. Bu adımların her biri milyarlarca jetonun üretilmesine yol açıyor.

Veri merkezlerinin en büyük kısıtı olan enerji tüketimi göz önüne alındığında, bir sistemin harcadığı her watt başına üretebildiği jeton sayısı kritik bir önem taşıyor. MLPerf Endpoints v1.0 testlerinde ilk kez yer alan Vera Rubin platformu, ajan tabanlı yapay zekâ iş yüklerinde watt başına verimlilikte on katın üzerinde nesilsel bir kazanç sağladı. Örneğin, açık kaynaklı Kimi K3 modeli üzerinde yapılan testlerde, Vera Rubin NVL72 sistemleri aynı yanıt hızını korurken GB300 NVL72 sistemine kıyasla watt başına düşen iş hacminde on katlık devasa bir üstünlük ortaya koydu.

Yapay Zekâ Donanım Piyasasında Pratik Anlamı ve Küresel Ekosistem

Bu test sonuçları laboratuvar ortamının çok ötesinde, şirketlerin yapay zekâ maliyetlerini doğrudan etkileyen pratik sonuçlar doğuruyor. Yapay zekâ servis sağlayıcıları, aynı anda binlerce kullanıcıya hizmet vermek ile her bir kullanıcıya en kısa sürede yanıt dönmek arasında sürekli bir denge kurmak zorundadır. Vera Rubin mimarisi, bu denge eğrisini tamamen yukarı taşıyarak sistemlerin hem çok daha fazla kullanıcıya aynı anda yanıt vermesini hem de bu işlemleri daha hızlı gerçekleştirmesini sağlıyor. CUDA tabanlı yazılım yığınının sürekli optimizasyonu sayesinde, işletmelerin bugün yatkınlık gösterdiği altyapı zaman içinde daha fazla değer üretmeye devam edecek.

Dünya genelinde yirmi farklı teknoloji şirketinin ve bulut sağlayıcısının katıldığı bu testler, NVIDIA’nın programlanabilir platformunun sunduğu açık kaynaklı kütüphaneler sayesinde geniş bir iş ortağı ekosistemi tarafından optimize edilebildiğini gösteriyor. ASUS, Azure, Cisco, CoreWeave, Dell, Google Cloud, Oracle ve Supermicro gibi küresel devlerin katılımı, bu yeni donanım standardının endüstri genelinde hızla benimseneceğinin sinyallerini veriyor. Bağımsız analiz platformları olan SemiAnalysis AgentX ve Artificial Analysis AgentPerf sonuçlarında da liderliğini sürdüren Vera Rubin, ön eğitimden ajan tabanlı çıkarıma kadar her alanda yeni bir endüstri standardı belirliyor.

Reklam

Kaynaklar

  • NVIDIA Sweeps MLPerf Training and Endpoints as Vera Rubin Debuts With Leading Performance (blogs.nvidia.com)
  • developer.nvidia.com
  • developer.nvidia.com

Bu yazı, yukarıdaki kaynaklardan yapay zekâ yardımıyla Türkçe olarak derlenmiş bir özettir. Ayrıntılar ve resmi bilgi için kaynaklara başvurun.

İlgili Haberler

Enver KOÇAK

Enver KOÇAK

Gaziantep merkezli yazılım mühendisi, yapay zekâ ve siber güvenlik uzmanı; Etesio Teknoloji'nin kurucusu ve enverkocak.com'un yayıncısı. Yapay zekâ modellerini, araçlarını ve sektördeki gelişmeleri günlük olarak takip ediyor; haberleri kaynaklarıyla birlikte Türkçe olarak derliyor. Fatih Sultan Mehmet Vakıf Üniversitesi Sürekli Eğitim Merkezi (FSMSEM) – 560 saatlik Gazetecilik Eğitimi (Ağustos–Aralık 2024) sertifikasına sahiptir.

İlgili Haberler

Nvidia Çin’e Hopper Çip Satışını Tamamen Durdurdu

Yapay zekâ donanım pazarının öncü isimlerinden biri olan Nvidia, Çin pazarına yönelik stratejisinde köklü bir değişikliğe gitti. Şirketin geçici icra kurulu başkanı Colette Kress, Salı günü gerçekleştirilen finansal kazanç toplantısında…

Devamını oku

Amazon SageMaker HyperPod, NVIDIA Dynamo Desteğini Başlattı

Amazon Web Services, büyük dil modellerinin üretim ortamlarında daha verimli çalıştırılabilmesi amacıyla Amazon SageMaker HyperPod Inference altyapısına NVIDIA Dynamo entegrasyonunun eklendiğini duyurdu. Yapay zekâ altyapılarında model ağırlıklarının GPU belleğine sığdırılması…

Devamını oku

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir