Yapay zekâ ajanları ne zaman özet çıkaracağını öğreniyor

Uzun görevlerde çalışan yapay zekâ ajanları için en büyük sorunlardan biri hafızanın dolması. Apple ve Johns Hopkins Üniversitesi araştırmacılarının NeurIPS konferansı için hazırladığı yeni çalışma, bu soruna basit ama etkili bir çözüm öneriyor: Ajan, biriken bağlamı ne zaman özetleyeceğine kendisi karar veriyor. Yöntemin adı SelfCompact. Apple Makine Öğrenmesi Araştırmaları sitesinde 12 Ekim’de yayımlandı.

Sorun Ne?

Bir yapay zekâ ajanı zor bir matematik problemini çözerken ya da internette uzun bir araştırma yaparken, her adımda düşüncelerini ve araç çağrılarını kayda geçiriyor. Bu kayıt zamanla şişiyor. İçinde artık işe yaramayan, eski bilgiler birikiyor. Araştırmacılar bu eski içeriğin modelin sonraki cevaplarını yanlış yöne çektiğini söylüyor. Sonunda kayıt, modelin bağlam penceresine de sığmaz hâle geliyor.

Bugünkü yaygın çözüm, belirli bir kelime sınırına gelindiğinde geçmişi otomatik olarak özetlemek. Ancak bu yöntem görevin nerede olduğuna bakmıyor. Model bir hesabın tam ortasındayken ya da bir aramayı yarılamışken özet devreye girebiliyor. Böylece yarım kalmış sonuçlar kaybolabiliyor.

Ne Değişti?

SelfCompact iki parçadan oluşuyor:

• Özetleme aracı: Model, biriken bağlamı özetlemek için bu aracı kendisi çağırabiliyor.
• Kısa bir kural listesi: Ne zaman özetlenmesi gerektiğini (bir alt görev bittiğinde ya da çözüm netleşmeye başladığında) ve ne zaman özetlenmemesi gerektiğini (bir hesabın ortasındayken ya da model takıldığında) tarif ediyor.

Araştırmacılara göre iki parça da şart. Yalnızca araç verildiğinde açık ağırlıklı modeller onu düzensiz kullanıyor. Kimi yanlış anda çağırıyor, kimi hiç çağırmıyor. Yalnızca kurallar verildiğinde ise model harekete geçemiyor. İkisi birlikte kullanıldığında ek eğitim ya da dış denetim olmadan etkili bir uyum ortaya çıkıyor.

Sonuçlar

Ekip yöntemi yarışma matematiği ve ajan tabanlı arama alanlarında altı test seti ve yedi farklı model üzerinde denedi. Sonuçlara göre SelfCompact, sabit aralıklı özetlemeyle aynı ya da daha iyi başarıya çok daha az kelime harcayarak ulaşıyor.

Hiç özetleme yapılmayan duruma göre kazanç matematikte 18,1 puana kadar, ajan tabanlı aramada ise 5 ile 9 puan arasında. Üstelik soru başına maliyet yüzde 30 ile 70 arasında düşüyor.

Araştırmacılar ilginç bir noktaya da dikkat çekiyor. Modeller kendi bağlamlarının ne zaman “bozulmaya” başladığını kendiliğinden anlayamıyor. Ancak kısa bir kural listesi bu eksikliği kapatıyor. Ekip bunu bir tür “üst bilişsel boşluk” olarak tanımlıyor ve bu boşluğun eğitimle değil, ajanın etrafındaki yapıyla doldurulabileceğini gösteriyor.

Kimi İlgilendiriyor?

Çalışma en çok yapay zekâ ajanı geliştiren yazılımcıları ilgilendiriyor. Kodlama asistanları, araştırma ajanları ve uzun süre çalışan otomasyonlar bağlamı yönetmek zorunda. Bu yöntem herhangi bir modelin yeniden eğitilmesini gerektirmediği için mevcut sistemlere eklenmesi görece kolay.

Maliyet tarafı da önemli. Soru başına maliyetin üçte bire kadar inebilmesi, ajanları kendi sunucularında çalıştıran ya da kullanım başına ödeme yapan şirketler için doğrudan tasarruf anlamına geliyor. Açık ağırlıklı modellerle test edilmiş olması da kendi altyapısında model çalıştıranlar için iyi bir işaret.

Türkiye’den Kullanıcılar İçin

Kendi ajanlarını kuran Türkiye’deki ekipler için çıkarılacak ders basit: Bağlamı belirli bir sınırda körlemesine kesmek yerine, modele ne zaman özet çıkaracağını anlatan kısa kurallar yazmak hem kaliteyi hem maliyeti iyileştirebilir. Çalışma yarışma matematiği ve arama görevleriyle sınırlı olduğu için, farklı iş alanlarında sonuçların ayrıca denenmesi gerekiyor.