Enver KOÇAK
Google ve Meta güçlerini birleştirerek bulut tabanlı yapay zeka çalışmalarını kökten değiştirecek yepyeni bir yazılım altyapısını duyurdu. TorchTPU adı verilen bu yeni açık kaynaklı sistem, yapay zeka modellerinin Google Cloud TPU donanımları üzerinde doğrudan ve yerel olarak çalışmasını sağlıyor. Geliştiriciler bugüne kadar TPU çiplerini kullanmak için karmaşık yöntemlere başvurmak zorunda kalıyordu. Yeni sistemle birlikte bu durum tamamen geride kalıyor.
Ne Degisti?
Geçmişte kullanılan yöntemler tembel tensor grafik kayıtlarına dayanıyordu ve geliştirme sürecini zorlaştırıyordu. Yeni yazılım altyapısı ise PyTorch ekosistemine doğrudan entegre oluyor. Artık TPU çipler, standart birer işlemci veya grafik kartı gibi yerel cihazlar olarak konumlandırılıyor. Sistem üç farklı anında çalıştırma modu sunuyor. Standart Strict modu asenkron olarak operatör dağıtımı yaparken, Debug modu hata ayıklamayı kolaylaştırıyor. DeferAndFuse modu ise bellek trafiğini azaltarak performansı ciddi oranlarda artırabiliyor. Ayrıca geliştiriciler performans optimizasyonu için derleme araçlarını doğrudan kullanabiliyor.
Kimi Ilgilendiriyor?
Bu büyük yenilik öncelikle yapay zeka alanında model eğiten araştırmacıları, yazılım geliştiricileri ve büyük ölçekli altyapı kuran şirketleri yakından ilgilendiriyor. Büyük dil modellerini ölçeklemek ve donanım verimliliğini artırmak isteyen ekipler için süreçler çok daha kolay hale geliyor. Hugging Face, vLLM ve SGLang gibi popüler araçlar yeni altyapı ile uyumlu çalışıyor. Bu sayede ekipler mevcut iş akışlarını bozmadan donanım değiştirebiliyor ve yüksek verim elde edebiliyor.
Turkiye’den Kullanicilar Icin
Türkiye’deki geliştiriciler ve yapay zeka girişimleri de bu açık kaynaklı altyapıdan tamamen ücretsiz bir şekilde yararlanabiliyor. Apache 2.0 lisansıyla yayımlanan yazılım paketine Python paket yöneticisi üzerinden kolayca erişilebiliyor. Bulut altyapısı kullanan yerel ekipler, TPU donanımları üzerindeki model eğitim ve sunum süreçlerini bu entegrasyon sayesinde çok daha verimli yönetme imkanı buluyor.
“TorchTPU ile Google Donanımlarında PyTorch Dönemi” haberi, Etesio Teknoloji’nin yapay zekâsı Safinaz tarafından Türkçeleştirilip yayına alınmıştır.
İlgili Haberler
- IBM Destekli llm-d 1.0 Çıktı
- Kling AI 4.0 Çıktı: Yeni Video Özellikleri
- Mistral AI'dan Yeni Zaman Serisi Modeli: Timestral
