Yapay zekâ ekosisteminde metin üretmek yerine olasılık hesaplayan karar modelleri sınıfı hızla büyüyor. Baseten, yapay zekâ dünyasının en yeni karar modelleri olan bison-1 ve groundhog-1 sürümlerini resmen duyurdu. Google’ın Gemma 4 altyapısı üzerine inşa edilen bu iki yeni model, özellikle kurumsal otomasyon süreçlerinde karar mekanizmalarını kökten değiştirmeyi hedefliyor. Geleneksel dil modellerinin aksine uzun metinler üretmeyen bu yapılar, belirli sorulara evet/hayır, seçim veya puan bazlı kalibre edilmiş olasılıklar döndürüyor. Bu yaklaşım, sistemlerin hızını artırırken maliyetleri de ciddi oranda düşürüyor.

Gemma 4 Altyapısıyla Gelen 128 Bin Jetonluk Devasa Bağlam Desteği
Şirketin daha önceki sürümlerinde Qwen altyapısı tercih edilirken, bu kez ilk kez bir Amerikan altyapısı olan Gemma 4 tercih edildi. Ailenin en güçlü üyesi olan bison-1, 31 milyar parametreli yoğun bir model olarak dikkat çekiyor. Daha ekonomik bir alternatif olan groundhog-1 ise 26 milyar parametreli bir MoE (Uzmanlar Karışımı) mimarisiyle geliyor ve token başına yaklaşık 4 milyar aktif parametre çalıştırıyor. Her iki model de bağlam kapasitesini 16 bin jetondan tam 128 bin jetona çıkararak büyük bir sıçrama gerçekleştiriyor. Bu geniş kapasite sayesinde sistemler, çağrı geçmişlerini ve tam politika metinlerini tek bir API çağrısında işleyebiliyor. Ayrıca her iki modelin de metinlerin yanı sıra görsel girdileri kabul etmesi, çok modlu karar süreçlerinin önünü açıyor. Girdi maliyetleri ise bison-1 için milyon jeton başına 0,10 dolar, groundhog-1 için ise milyon jeton başına 0,035 dolar olarak belirlenmiş durumda.
Yapay Zekâ Karar İndeksinde Zirveyi Zorlayan Performans
Bison-1, Artificial Analysis Karar İndeksi v2.1 üzerinde elde ettiği 76 puan ile değerlendirilen 19 model arasında zirveye yerleşti. Bu skor, Liquid AI’ın d1.2-ultra modelini geride bırakmasını sağladı. Modelin bu kadar başarılı olmasının arkasında, eğitim sürecinde kullanılan yumuşak etiketler ve Gemma tabanının sağladığı avantajlar yatıyor. Yumuşak etiketleme yöntemi, modelin tek bir doğru yanıt yerine olasılık hedefleriyle eğitilmesine imkân tanıyor. Böylece sistem, ne kadar haklı olabileceğini kendi belirsizlik skoruyla raporlayabiliyor. Yapılan ölçümlerde 0,14 gibi oldukça düşük bir Brier skoru elde eden bison-1, kararlarındaki güvenilirlik ve kalibrasyon başarısıyla rakiplerinden ayrılıyor. Ancak bilgi yoğun karmaşık kararlarda hâlâ bazı zayıf noktaları bulunuyor.
Geliştiriciler İçin Entegre Etme ve Dağıtım Süreçleri
Geliştiriciler açısından bu yeni modellerin entegrasyonu oldukça pratik bir şekilde tasarlanmış durumda. Baseten Model APIs üzerinden doğrudan erişilebilen bison-1 ve groundhog-1, önceki karar modelleriyle aynı API yapısını paylaşıyor. Bu sayede mevcut projelerde sadece model adını değiştirerek sisteme geçiş yapmak mümkün hale geliyor. Kod tarafında pipetleme, yönlendirme, güvenlik korumaları ve spam tespiti gibi görevlerde bu modeller doğrudan kullanılabiliyor. Öte yandan Hugging Face üzerinden açık BF16 ağırlıkları da paylaşılmış durumda. Bison-1 için yaklaşık 62 GB, groundhog-1 için ise yaklaşık 52 GB büyüklüğündeki bu ağırlıklar, özel altyapı kurmak isteyen geliştiriciler için esneklik sunuyor. Uzun bağlam performansında M türü testlerde 84.8 puan alan bison-1, kurumsal düzeyde karmaşık iş akışlarını yönetmek isteyenler için güçlü bir alternatif oluşturuyor.
Kaynaklar
- Baseten Releases Bison-1 and Groundhog-1, Topping Decision Model Index (marktechpost.com)
- unite.ai
Bu yazı, yukarıdaki kaynaklardan yapay zekâ yardımıyla Türkçe olarak derlenmiş bir özettir. Ayrıntılar ve resmi bilgi için kaynaklara başvurun.
