Baseten’den Karar Modelleri: Bison-1 ve Groundhog-1

Yapay zekâ ekosisteminde metin üretmek yerine olasılık hesaplayan karar modelleri sınıfı hızla büyüyor. Baseten, yapay zekâ dünyasının en yeni karar modelleri olan bison-1 ve groundhog-1 sürümlerini resmen duyurdu. Google’ın Gemma 4 altyapısı üzerine inşa edilen bu iki yeni model, özellikle kurumsal otomasyon süreçlerinde karar mekanizmalarını kökten değiştirmeyi hedefliyor. Geleneksel dil modellerinin aksine uzun metinler üretmeyen bu yapılar, belirli sorulara evet/hayır, seçim veya puan bazlı kalibre edilmiş olasılıklar döndürüyor. Bu yaklaşım, sistemlerin hızını artırırken maliyetleri de ciddi oranda düşürüyor.

Baseten'den Karar Modelleri: Bison-1 ve Groundhog-1
Görsel: jarmoluk / Pixabay

Gemma 4 Altyapısıyla Gelen 128 Bin Jetonluk Devasa Bağlam Desteği

Şirketin daha önceki sürümlerinde Qwen altyapısı tercih edilirken, bu kez ilk kez bir Amerikan altyapısı olan Gemma 4 tercih edildi. Ailenin en güçlü üyesi olan bison-1, 31 milyar parametreli yoğun bir model olarak dikkat çekiyor. Daha ekonomik bir alternatif olan groundhog-1 ise 26 milyar parametreli bir MoE (Uzmanlar Karışımı) mimarisiyle geliyor ve token başına yaklaşık 4 milyar aktif parametre çalıştırıyor. Her iki model de bağlam kapasitesini 16 bin jetondan tam 128 bin jetona çıkararak büyük bir sıçrama gerçekleştiriyor. Bu geniş kapasite sayesinde sistemler, çağrı geçmişlerini ve tam politika metinlerini tek bir API çağrısında işleyebiliyor. Ayrıca her iki modelin de metinlerin yanı sıra görsel girdileri kabul etmesi, çok modlu karar süreçlerinin önünü açıyor. Girdi maliyetleri ise bison-1 için milyon jeton başına 0,10 dolar, groundhog-1 için ise milyon jeton başına 0,035 dolar olarak belirlenmiş durumda.

Yapay Zekâ Karar İndeksinde Zirveyi Zorlayan Performans

Bison-1, Artificial Analysis Karar İndeksi v2.1 üzerinde elde ettiği 76 puan ile değerlendirilen 19 model arasında zirveye yerleşti. Bu skor, Liquid AI’ın d1.2-ultra modelini geride bırakmasını sağladı. Modelin bu kadar başarılı olmasının arkasında, eğitim sürecinde kullanılan yumuşak etiketler ve Gemma tabanının sağladığı avantajlar yatıyor. Yumuşak etiketleme yöntemi, modelin tek bir doğru yanıt yerine olasılık hedefleriyle eğitilmesine imkân tanıyor. Böylece sistem, ne kadar haklı olabileceğini kendi belirsizlik skoruyla raporlayabiliyor. Yapılan ölçümlerde 0,14 gibi oldukça düşük bir Brier skoru elde eden bison-1, kararlarındaki güvenilirlik ve kalibrasyon başarısıyla rakiplerinden ayrılıyor. Ancak bilgi yoğun karmaşık kararlarda hâlâ bazı zayıf noktaları bulunuyor.

Geliştiriciler İçin Entegre Etme ve Dağıtım Süreçleri

Geliştiriciler açısından bu yeni modellerin entegrasyonu oldukça pratik bir şekilde tasarlanmış durumda. Baseten Model APIs üzerinden doğrudan erişilebilen bison-1 ve groundhog-1, önceki karar modelleriyle aynı API yapısını paylaşıyor. Bu sayede mevcut projelerde sadece model adını değiştirerek sisteme geçiş yapmak mümkün hale geliyor. Kod tarafında pipetleme, yönlendirme, güvenlik korumaları ve spam tespiti gibi görevlerde bu modeller doğrudan kullanılabiliyor. Öte yandan Hugging Face üzerinden açık BF16 ağırlıkları da paylaşılmış durumda. Bison-1 için yaklaşık 62 GB, groundhog-1 için ise yaklaşık 52 GB büyüklüğündeki bu ağırlıklar, özel altyapı kurmak isteyen geliştiriciler için esneklik sunuyor. Uzun bağlam performansında M türü testlerde 84.8 puan alan bison-1, kurumsal düzeyde karmaşık iş akışlarını yönetmek isteyenler için güçlü bir alternatif oluşturuyor.

Reklam

Kaynaklar

  • Baseten Releases Bison-1 and Groundhog-1, Topping Decision Model Index (marktechpost.com)
  • unite.ai

Bu yazı, yukarıdaki kaynaklardan yapay zekâ yardımıyla Türkçe olarak derlenmiş bir özettir. Ayrıntılar ve resmi bilgi için kaynaklara başvurun.

İlgili Haberler

Enver KOÇAK

Enver KOÇAK

Gaziantep merkezli yazılım mühendisi, yapay zekâ ve siber güvenlik uzmanı; Etesio Teknoloji'nin kurucusu ve enverkocak.com'un yayıncısı. Yapay zekâ modellerini, araçlarını ve sektördeki gelişmeleri günlük olarak takip ediyor; haberleri kaynaklarıyla birlikte Türkçe olarak derliyor. Fatih Sultan Mehmet Vakıf Üniversitesi Sürekli Eğitim Merkezi (FSMSEM) – 560 saatlik Gazetecilik Eğitimi (Ağustos–Aralık 2024) sertifikasına sahiptir.

İlgili Haberler

Baidu World 2026 Duyuruları: ERNIE Lightning ve Token Exchange

Yapay zekâ dünyasında her geçen gün yeni bir model ve platform karşımıza çıkıyor. Çinli teknoloji devi Baidu, Beijing’de düzenlenen Baidu World 2026 etkinliğinde teknoloji dünyasının merakla beklediği yenilikleri sahneye taşıdı.…

Devamını oku

LG’den K-EXAONE 2.5 İçin Ücretsiz API Hamlesi

Yapay zekâ dünyasında rekabet hız kesmeden devam ederken, Güney Koreli teknoloji devi LG bu kez büyük dil modelleri pazarındaki dengeleri değiştirebilecek önemli bir adım attı. LG AI Research tarafından geliştirilen…

Devamını oku

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir