Yapay zekâ dünyasında donanım maliyetleri ve yerel cihazlarda model çalıştırma arzusu her geçen gün artarken, Thinking Machines Lab bu alanda dikkat çekici bir hamle yaptı. Şirket, 20 Kasım 2026 tarihinde duyurduğu Inkling 2 Mini modeli ile geliştiricilere ve araştırmacılara güçlü bir açık kaynaklı alternatif sunuyor. Normal şartlarda büyük veri merkezlerini gerektiren yapay zekâ yeteneklerini sıradan dizüstü bilgisayarlara taşıyan bu sistem, yapay zekâ dünyasında döngüsel mimari tartışmalarını da yeniden alevlendirdi.

Döngüsel Mimarinin Çalışma Mantığı ve Donanım Avantajı
Geleneksel yapay zekâ modelleri daha fazla güç için sürekli devasa ağırlık dosyaları eklerken, Inkling 2 Mini tamamen farklı bir mühendislik yaklaşımı benimser. Model, 24 katmanını dörderli bloklar halinde organize eder ve orta katmanları bir jeton işlenirken üç kez tekrar kullanır. Bu akıllı döngü mekanizması, ağırlık dosyasını yaklaşık 20 gigabayt seviyesinde tutmayı başararak çığır açar. Yaklaşık 26.4 milyar toplam parametreye sahip olan bu yapı, her jeton için aktif olarak 3.4 milyar parametre kullanır.
Ortaya çıkan bu kompakt boyut, modelin 32 gigabayt ve üzeri belleğe sahip Apple Silicon işlemcili Mac bilgisayarlarda, tek bir NVIDIA DGX Spark sisteminde veya benzer VRAM kapasitesine sahip ekran kartlarında sorunsuz çalışmasını sağlar. Geliştiriciler, Unsloth ve llama.cpp projeleri üzerinden GGUF yapılarını kullanarak modeli kendi donanımlarında kolayca test edebilir. vLLM veya Ollama entegrasyonları sayesinde tek komutla yerel sunucu ayağa kaldırmak mümkündür.
Kodlama ve Ajan Görevlerindeki Güçlü Performans
Thinking Machines Lab tarafından paylaşılan verilere göre Inkling 2 Mini, özellikle kodlama ve karmaşık ajan görevlerinde sınıfındaki modellere kıyasla iddialı sonuçlar ortaya koyuyor. SWE-bench Verified testinde bash komutları özelinde yüzde 79.2 başarı oranına ulaşan model, programlama odaklı iş akışlarında oldukça yetenekli olduğunu kanıtlıyor. Ayrıca 1 milyon jetona kadar çıkabilen geniş bağlam penceresi sayesinde devasa belgeleri analiz etmek, doküman üzerinde çalışmak ve çok adımlı görevleri yerine getirmek kolaylaşıyor.
Buna karşın modelin bazı zayıf noktaları da bulunuyor. Bilgi hatırlama gerektiren testlerde toplam parametre sınırları nedeniyle zayıf kalan sistem, çok turlu sohbetlerde veya katı kısıtlamalara sahip komutlarda büyük modellerin gerisinde kalabiliyor. HLE-Diamond testinde elde edilen yüzde 15.2’lik oran, bilgi yoğun sorgularda modelin dikkatli kullanılmasını gerektiriyor. Bilgi tabanlı görevlerdeki bu eksiklik, donanım tasarrufu uğruna verilen bilinçli bir mühendislik ödünleşimi olarak öne çıkıyor.
Açık Kaynak Dünyası İçin Ne Anlama Geliyor?
Apache 2.0 lisansıyla Hugging Face üzerinden paylaşılan model, ticari ve akademik çalışmalar için geniş özgürlükler sunuyor. Tinker platformu üzerinden barındırılan çıkarım ve ince ayar imkanlarına erişilebilir olması, geliştiricilerin modeli kendi veri setleriyle özelleştirmesini kolaylaştırıyor. Yapay zekâyı bulut sunucularına bağımlı kalmadan, doğrudan kendi dizüstü bilgisayarında koşturmak isteyen yazılımcılar için bu sürüm, maliyetleri düşüren pratik bir çözüm niteliği taşıyor. Şirket aynı zamanda TML-d24-varloop-research adında bir araştırma sürümünü de paylaştı.
Sonuç olarak Inkling 2 Mini, büyük dil modellerinin donanım gereksinimlerini aşağı çekmek adına katman döngüleme teknolojisinin ne kadar etkili olabileceğini gösteriyor. Kodlama asistanları ve yerel ajan uygulamaları geliştirmek isteyenler için 20 gigabaytlık bu kompakt dosya boyutu, yapay zekâ dünyasında yeni bir dönemin kapılarını aralıyor.
Kaynaklar
- Meet Thinking Machines Inkling 2 Mini: 26B Looped MoE Runs on a 32GB Mac (marktechpost.com)
- unite.ai
- the-decoder.com
Bu yazı, yukarıdaki kaynaklardan yapay zekâ yardımıyla Türkçe olarak derlenmiş bir özettir. Ayrıntılar ve resmi bilgi için kaynaklara başvurun.
