Enver KOÇAK
Yerel dil modeli çalıştırmanın en yaygın yollarından biri olan Ollama, son iki haftada art arda sürüm çıkardı. Ollama 0.40 serisi 25 Eylül’de başladı; 0.40.3 sürümü 11 Ekim’de kararlı sürüm olarak yayımlandı, 0.40.4 ise 12-13 Ekim’de deneme sürümü olarak göründü. Bu seride üç konu öne çıkıyor: Apple Silicon’da MLX’in varsayılan olması, eski modellerin yeni biçime taşınması ve kodlama ajanlarıyla daha sorunsuz çalışma.
Ne Değişti?
0.40.0 ile birlikte desteklenen model mimarileri Apple Silicon bilgisayarlarda kendiliğinden MLX üzerinde çalışmaya başladı. Sürüm notlarında gemma4, qwen3.6 ve qwen3.5 örnek olarak geçiyor. EmbeddingGemma 2 gömme modeli de MLX tarafında destek aldı. Ekip, başka modelleri de test edip açmayı sürdüreceğini yazıyor.
Asıl dikkat edilmesi gereken değişiklik 0.40.2’de geldi. Önceki sürümlerle indirilmiş modeller, ilk çalıştırıldıklarında arka planda yeni biçime yükseltiliyor. Amaç daha iyi performans ve llama.cpp ile daha iyi uyum. Ollama güvenli geri dönüş için orijinal kopyayı saklıyor. Bu yüzden yükseltilen modeller bir süre diskte iki kez yer kaplıyor. Ekip, bu yedeklerin ileriki bir sürümde otomatik silineceğini söylüyor. Sürüm notlarında yedekleri elle temizlemek için jq gerektiren kısa bir betik de var.
Bir önemli uyarı daha var: 0.40’tan eski bir sürüme dönülürse yükseltilmiş modellerin yeniden indirilmesi gerekiyor. 0.40.3’te ise arka plandaki yükseltme işlemi duraklatıldı. Gerekçe, gömme ve diğer isteklerin performansını korumak. Yani taşıma süreci hâlâ ayarlanıyor.
Ajan Araçlarıyla Bağlantı
Ollama’nın launch komutu, yerel modelleri kodlama ajanlarına bağlamak için kullanılıyor. 0.40.2 sürümünde ollama launch claude komutu modelin tam bağlam uzunluğunu kullanmaya başladı. 0.40.3’te Claude bağlayıcıları ve Codex hizmet katmanlarıyla ilgili gereksiz uyarılar kaldırıldı. 0.40.4 deneme sürümünde ise Codex’in model seçicisi artık yerelde kurulu modelleri de listeliyor.
Aynı deneme sürümü, gömülü llama.cpp’yi b11521’e güncelliyor. Bu, karar modelleri ve EmbeddingGemma 2 desteği için yapıldı. Ayrıca çıkarım yolları, doğrulanmış model tanımlarını ve zaten belleğe yüklenmiş modelleri yeniden kullanıyor. Bu da tekrarlayan isteklerde gereksiz işi azaltmayı hedefliyor.
Kimi İlgilendiriyor?
En çok etkilenen grup, Mac üzerinde yerel model çalıştıranlar. MLX’in varsayılan olması, uyumlu modellerde ek ayar yapmadan farklı bir çalışma motoruna geçmek anlamına geliyor. Disk alanı kısıtlı olanların ise yükseltme sonrası boş alanı takip etmesi iyi olur. Çok sayıda büyük model saklayan bir makinede yedekler hızla yer kaplayabilir.
Claude Code ya da Codex gibi kodlama ajanlarını yerel modelle denemek isteyen geliştiriciler de bu seriden doğrudan yararlanıyor. Tam bağlam uzunluğu, uzun dosyalarla çalışırken modelin daha fazla içeriği görmesini sağlıyor.
Türkiye’den Kullanıcılar İçin
Kurumsal verisini buluta göndermek istemeyen ekipler için yerel çalıştırma önemli bir seçenek. Güncellemeden önce hangi sürümde olduğunuzu not etmek ve diskte yeterli boş alan bırakmak mantıklı. Üretimde kullanılan bir sunucuda, deneme sürümü yerine kararlı 0.40.3’ü tercih etmek daha güvenli. Geri dönüş planınız varsa, 0.40 öncesine inmenin modelleri yeniden indirmek demek olduğunu hesaba katın; yavaş bağlantılarda bu saatler sürebilir.
Kaynaklar
Bu yazı, yukarıdaki kaynaklardan yapay zekâ yardımıyla Türkçe olarak derlenmiş bir özettir. Ayrıntılar ve resmi bilgi için kaynaklara başvurun.
