Amazon SageMaker HyperPod, NVIDIA Dynamo Desteğini Başlattı

Amazon Web Services, büyük dil modellerinin üretim ortamlarında daha verimli çalıştırılabilmesi amacıyla Amazon SageMaker HyperPod Inference altyapısına NVIDIA Dynamo entegrasyonunun eklendiğini duyurdu. Yapay zekâ altyapılarında model ağırlıklarının GPU belleğine sığdırılması…

Devamını oku: Amazon SageMaker HyperPod, NVIDIA Dynamo Desteğini Başlattı