Yapay zekâ dünyasında sesli etkileşimlerin yaygınlaşması, geliştiriciler için yeni maliyet hesaplamalarını beraberinde getirirken OpenAI bu alanda dikkat çekici bir adım attı. Sesli asistan projeleri için geliştirilen ve çok dilli konuşmaları destekleyen yeni model GPT-Live-1.1, şirketin API altyapısı üzerinden kullanıma sunuldu. Model ID olarak gpt-live-1.1 şeklinde tanımlanan bu sistem, konuşurken dinleme yeteneğine sahip tam çift yönlü yani full-duplex bir yapı sunuyor. OpenAI ekibinin paylaştığı bilgilere göre yeni sürüm, diller arasında çok daha doğal ve tutarlı aksanlarla konuşabiliyor ve karmaşık görevleri eskisine kıyasla çok daha güvenilir biçimde tamamlıyor.

Bekleme Modu ile WebRTC Oturumlarında Büyük Tasarruf
Geliştiricilerin sesli asistanları çalıştırırken en çok şikayet ettiği konuların başında boşta geçen sürelerin faturalandırmaya yansıması geliyordu. OpenAI, bu soruna çözüm olarak bekleme adını verdiği daha ucuz bir faturalandırma durumunu sisteme entegre etti. Aktif oturumlar dakika başına 0,05 dolar olarak ücretlendirilirken, bekleme durumundaki boşta geçen WebRTC süresi dakikada 0,02 dolara indirildi. Bu oran, geliştiricilere yüzde 60 oranında maliyet avantajı sağlıyor. Sürekli açık kalması gereken sesli müşteri hizmetleri veya çağrı merkezi projelerinde bu indirim, aylık bütçelerde ciddi bir rahatlama yaratma potansiyeli taşıyor.
Bekleme Modunun Teknik Altyapısı Nasıl Çalışıyor?
Bekleme modu, WebRTC bağlantısı açık kalırken sessizlik anlarında çıkarım işlemlerini durdurarak çalışıyor. Sistemde yapılandırılabilecek üç temel ayar bulunuyor. Geliştiriciler konuşma algılama için wake_policy türünü ayarlayabiliyor, 5 ile 60 saniye arasında tam sayılarla ifade edilen bir boşta kalma zaman aşımı süresi belirleyebiliyor ve isteğe bağlı olarak bir eşik değeri tanımlayabiliyor. Belirlenen süre boyunca kullanıcıdan ses gelmezse sunucu oturumu duraklatıyor ve kullanıcı tekrar konuşmaya başladığında oturum otomatik olarak kaldığı yerden devam ediyor. Oturum kimliği ve geçmişi bu süreçte tamamen korunuyor, ancak OpenAI kısa bir ifadenin ardından gelen ilk yanıtın biraz daha yavaş olabileceği konusunda geliştiricileri uyarıyor.
Teknik Sınırlamalar ve Farklı Model Entegrasyonları
GPT-Live-1.1 modeli, varsayılan olarak 128.000 tokenlik bir bağlam penceresi sunuyor ve yalnızca OpenAI bulut altyapısı üzerinden çalıştırılabiliyor. İstemciler sisteme WebRTC veya WebSocket protokolleri üzerinden bağlanırken, açık ağırlıklar veya kuantize edilmiş varyantlar sunulmuyor. Giriş ve çıkış olarak hem ses hem de metin desteklenirken, resim ve video işleme yetenekleri bu sürümde yer almıyor. Akış ve fonksiyon çağrıları sorunsuz çalışırken, yapılandırılmış çıktılar, ince ayar ve öngörülen çıktılar desteklenmiyor.
Sistem, derinlemesine muhakeme gerektiren işleri arka plandaki diğer modellere devredecek şekilde tasarlandı. Karmaşık sorunlar için arka planda daha büyük modeller kullanılırken, yüksek hacimli görevler için farklı alternatifler devreye sokulabiliyor. Üçüncü taraf arka uç sistemleri de bu yapıya uyum sağlayabiliyor. 2 Kasım itibarıyla tüm organizasyonlar için giden SIP aramalarının da aktif hale gelmesiyle birlikte, geleneksel telefon tabanlı yapay zekâ ajanları da bu altyapıyı tam kapasite kullanabilir hale geldi.
Önceki Sürümlerle ve Pazarla Karşılaştırma
Yeni model, önceki sürüm olan GPT-Live-1 ile karşılaştırıldığında özellikle aksan tutarlılığı, konuşma transkripsiyonu, harf ve sayı gibi hassas detayların işlenmesi ve talimatlara uyum konularında iyileştirmeler vadediyor. Ancak OpenAI bu sürüm için herhangi bir resmi kıyaslama puanı yayınlamadı. Pazardaki diğer alternatiflerle kıyaslandığında, Google tarafındaki Gemini Live gibi çözümlerle rekabet eden bu sesli model ailesi, özellikle geliştiricilere sunduğu esnek arka uç yönlendirmesi ve yeni devreye giren ekonomik bekleme modu ile ayrışıyor. Fiyatlandırma tarafında ses dakikaları doğrudan süreye göre hesaplanırken, arka planda kullanılan harici yapay zekâ modellerinin ve araç kullanım ücretlerinin ayrı olarak faturalandırılacağı unutulmamalıdır; zira yoğun arka uç kullanımı, ses katmanının kendisinden çok daha yüksek maliyetler doğurabilir.
Kaynaklar
- OpenAI Ships GPT-Live-1.1 for Voice Agents, Cuts Idle Cost to $0.02/Min (marktechpost.com)
Bu yazı, yukarıdaki kaynaktan yapay zekâ yardımıyla Türkçe olarak derlenmiş bir özettir. Ayrıntılar ve resmi bilgi için kaynağa başvurun.
