Enver KOÇAK
Step 5 Preview, StepFun tarafından geliştirilen ve uzun soluklu yapay zeka ajanları ile veri analiz süreçlerine odaklanan yeni nesil açık ağırlıklı bir dil modelidir. Geliştiricilerin ve veri bilimi ekiplerinin kullanımına sunulan bu model, özellikle karmaşık kod tabanlarında gezinme, finansal iş akışları ve büyük dokümanları işleme konularında iddialı çözümler vadediyor. Modelin API erişimi Eylül ayında başlarken, ağırlık dosyaları ise Ekim ortasında Hugging Face ve ModelScope platformlarında erişime açıldı.
Modelin mimari yapısı, toplam parametre boyutu ile aktif parametre miktarını ayıran seyreltik bir MoE (Mixture-of-Experts) yaklaşımına dayanıyor. Yapay zeka mimarisinde toplam 600 milyar parametre bulunuyor ancak her bir token işlenirken yalnızca 27 milyar parametre aktif hale geliyor. Bu tasarım, devasa işlem gücü gereksinimlerini optimize ederken modelin tam 1 milyon tokenlik devasa bir bağlam penceresini desteklemesine olanak tanıyor. Derin ve dar bir mimariyle tasarlanan sistem, 92 transformatör bloğu içeriyor ve kayan pencere dikkati ile tam dikkat katmanlarını bir arada kullanıyor.
Ne Degisti?
StepFun yeni modeliyle birlikte açık ağırlıklı yapay zeka pazarında donanım odaklı ancak yüksek performanslı yeni bir alternatif yarattı. Model, FP8 ve BF16 formatlarında indirilebilir ağırlıklarla gelirken, API üzerinden kullanımda milyon token başına giriş için 1.00 dolar ve çıkış için 2.70 dolar fiyatlandırma sunuyor. Donanım tarafında ise model veri merkezi seviyesindeki GPU’ları zorunlu kılıyor; FP8 çalıştırmak için en az 4 adet B300 veya 8 adet H200 grafik kartı gerekiyor.
Kimi Ilgilendiriyor?
Bu model doğrudan büyük ölçekli yazılım mühendisliği projeleri yürüten geliştiricileri, finans kuruluşlarını ve kurumsal düzeyde veri analitiği yapan şirketleri hedefliyor. Kodlama kıyaslamalarında güçlü sonuçlar verse de, bazı terminal ve sistem mühendisliği testlerinde zayıf noktaları bulunuyor. Kendi sunucularında model barındırmak isteyen kurumsal yapılar için güçlü bir seçenek olan yapı, yüksek donanım maliyetleri nedeniyle küçük ölçekli ekiplerden ziyade büyük veri merkezlerine sahip yapıları ilgilendiriyor.
Turkiye’den Kullanicilar Icin
Kaynak metinde Türkiye’deki kullanıcılara yönelik özel bir erişim kısıtlaması veya Türkçe dil yetkinliklerine dair detaylı bir değerlendirme yer almıyor. Modelin küresel çapta Hugging Face üzerinden indirilebilir olması ve API servislerinin global olarak erişilebilir olması, internet bağlantısı ve gerekli veri merkezi donanımına sahip olan herkesin modeli test edebileceğini gösteriyor. Ancak yüksek donanım gereksinimleri sebebiyle yerel sunucularda çalıştırmak Türkiye’deki bireysel geliştiriciler için maliyetli olacaktır.
“Step 5 Preview Duyuruldu: 1M Bağlam” haberi, Etesio Teknoloji’nin yapay zekâsı Safinaz tarafından Türkçeleştirilip yayına alınmıştır.
İlgili Haberler
- Reflection AI Beam Modeli: Açık Kaynak Hamlesi
- Beam Modeli Tanıtıldı: Sahiplen ve Özelleştir
- CopilotKit, CLiF Platformunu Duyurdu
