Dizüstü Bilgisayarlarda Çalışan Inkling 2 Mini Tanıtıldı

Yapay zekâ dünyasında donanım maliyetleri ve yerel cihazlarda model çalıştırma arzusu her geçen gün artarken, Thinking Machines Lab bu alanda dikkat çekici bir hamle yaptı. Şirket, 20 Kasım 2026 tarihinde duyurduğu Inkling 2 Mini modeli ile geliştiricilere ve araştırmacılara güçlü bir açık kaynaklı alternatif sunuyor. Normal şartlarda büyük veri merkezlerini gerektiren yapay zekâ yeteneklerini sıradan dizüstü bilgisayarlara taşıyan bu sistem, yapay zekâ dünyasında döngüsel mimari tartışmalarını da yeniden alevlendirdi.

Dizüstü Bilgisayarlarda Çalışan Inkling 2 Mini Tanıtıldı
Görsel: Kzenbzh / Pixabay

Döngüsel Mimarinin Çalışma Mantığı ve Donanım Avantajı

Geleneksel yapay zekâ modelleri daha fazla güç için sürekli devasa ağırlık dosyaları eklerken, Inkling 2 Mini tamamen farklı bir mühendislik yaklaşımı benimser. Model, 24 katmanını dörderli bloklar halinde organize eder ve orta katmanları bir jeton işlenirken üç kez tekrar kullanır. Bu akıllı döngü mekanizması, ağırlık dosyasını yaklaşık 20 gigabayt seviyesinde tutmayı başararak çığır açar. Yaklaşık 26.4 milyar toplam parametreye sahip olan bu yapı, her jeton için aktif olarak 3.4 milyar parametre kullanır.

Ortaya çıkan bu kompakt boyut, modelin 32 gigabayt ve üzeri belleğe sahip Apple Silicon işlemcili Mac bilgisayarlarda, tek bir NVIDIA DGX Spark sisteminde veya benzer VRAM kapasitesine sahip ekran kartlarında sorunsuz çalışmasını sağlar. Geliştiriciler, Unsloth ve llama.cpp projeleri üzerinden GGUF yapılarını kullanarak modeli kendi donanımlarında kolayca test edebilir. vLLM veya Ollama entegrasyonları sayesinde tek komutla yerel sunucu ayağa kaldırmak mümkündür.

Reklam

Kodlama ve Ajan Görevlerindeki Güçlü Performans

Thinking Machines Lab tarafından paylaşılan verilere göre Inkling 2 Mini, özellikle kodlama ve karmaşık ajan görevlerinde sınıfındaki modellere kıyasla iddialı sonuçlar ortaya koyuyor. SWE-bench Verified testinde bash komutları özelinde yüzde 79.2 başarı oranına ulaşan model, programlama odaklı iş akışlarında oldukça yetenekli olduğunu kanıtlıyor. Ayrıca 1 milyon jetona kadar çıkabilen geniş bağlam penceresi sayesinde devasa belgeleri analiz etmek, doküman üzerinde çalışmak ve çok adımlı görevleri yerine getirmek kolaylaşıyor.

Buna karşın modelin bazı zayıf noktaları da bulunuyor. Bilgi hatırlama gerektiren testlerde toplam parametre sınırları nedeniyle zayıf kalan sistem, çok turlu sohbetlerde veya katı kısıtlamalara sahip komutlarda büyük modellerin gerisinde kalabiliyor. HLE-Diamond testinde elde edilen yüzde 15.2’lik oran, bilgi yoğun sorgularda modelin dikkatli kullanılmasını gerektiriyor. Bilgi tabanlı görevlerdeki bu eksiklik, donanım tasarrufu uğruna verilen bilinçli bir mühendislik ödünleşimi olarak öne çıkıyor.

Açık Kaynak Dünyası İçin Ne Anlama Geliyor?

Apache 2.0 lisansıyla Hugging Face üzerinden paylaşılan model, ticari ve akademik çalışmalar için geniş özgürlükler sunuyor. Tinker platformu üzerinden barındırılan çıkarım ve ince ayar imkanlarına erişilebilir olması, geliştiricilerin modeli kendi veri setleriyle özelleştirmesini kolaylaştırıyor. Yapay zekâyı bulut sunucularına bağımlı kalmadan, doğrudan kendi dizüstü bilgisayarında koşturmak isteyen yazılımcılar için bu sürüm, maliyetleri düşüren pratik bir çözüm niteliği taşıyor. Şirket aynı zamanda TML-d24-varloop-research adında bir araştırma sürümünü de paylaştı.

Sonuç olarak Inkling 2 Mini, büyük dil modellerinin donanım gereksinimlerini aşağı çekmek adına katman döngüleme teknolojisinin ne kadar etkili olabileceğini gösteriyor. Kodlama asistanları ve yerel ajan uygulamaları geliştirmek isteyenler için 20 gigabaytlık bu kompakt dosya boyutu, yapay zekâ dünyasında yeni bir dönemin kapılarını aralıyor.

Reklam

Kaynaklar

  • Meet Thinking Machines Inkling 2 Mini: 26B Looped MoE Runs on a 32GB Mac (marktechpost.com)
  • unite.ai
  • the-decoder.com

Bu yazı, yukarıdaki kaynaklardan yapay zekâ yardımıyla Türkçe olarak derlenmiş bir özettir. Ayrıntılar ve resmi bilgi için kaynaklara başvurun.

İlgili Haberler

Enver KOÇAK

Enver KOÇAK

Gaziantep merkezli yazılım mühendisi, yapay zekâ ve siber güvenlik uzmanı; Etesio Teknoloji'nin kurucusu ve enverkocak.com'un yayıncısı. Yapay zekâ modellerini, araçlarını ve sektördeki gelişmeleri günlük olarak takip ediyor; haberleri kaynaklarıyla birlikte Türkçe olarak derliyor. Fatih Sultan Mehmet Vakıf Üniversitesi Sürekli Eğitim Merkezi (FSMSEM) – 560 saatlik Gazetecilik Eğitimi (Ağustos–Aralık 2024) sertifikasına sahiptir.

İlgili Haberler

D-Robotics ve Infinigence AI Robot Araçlarını Birleştirdi

D-Robotics ve Infinigence AI şirketleri, yapay zekâ destekli robot geliştirme süreçlerini kökten değiştirecek önemli bir entegrasyona imza attı. 13 Kasım tarihinde yapılan resmi açıklamaya göre, bir dizi açık kaynaklı somutlaştırılmış…

Devamını oku

Açık Ağırlıklı Yapay Zekâ Modellerinde Güvenlik Dengesi

Yapay zekâ dünyasında açık ağırlıklı modellerin sunduğu özgürlük ile güvenlik arasındaki hassas denge, son dönemde yaşanan siber olayların ardından yeniden şekilleniyor. Yapay zekâ teknolojilerinin hızla gelişmesi ve her geçen gün…

Devamını oku

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir