RAG nedir? Şirket belgeleriyle konuşan yapay zekâ

Genel amaçlı bir yapay zekâ asistanı, dünyada olup biten pek çok konu hakkında konuşabilir; ama şirketinizin izin yönetmeliğini, geçen çeyreğin satış raporunu ya da ürününüzün kurulum kılavuzunu bilmez. Bu belgeler modelin eğitim verisinde yoktur. İşte RAG (Retrieval-Augmented Generation, Türkçesiyle “getirmeyle zenginleştirilmiş üretim”) tam bu boşluğu doldurmak için kullanılan bir yaklaşımdır. Bu yazıda RAG’in nasıl işlediğini, bir sistemin hangi parçalardan oluştuğunu ve projelerin en çok nerede tökezlediğini anlatıyoruz.

Açık kitap sınavı benzetmesi

Kapalı kitap bir sınavda öğrenci yalnızca aklında kalanlarla cevap verir. Hatırlamadığı bir ayrıntıyı ya boş bırakır ya da tahmin eder. Açık kitap sınavında ise ders notlarına bakabilir. İyi bir öğrenci önce soruyla ilgili sayfayı bulur, okur ve cevabını o sayfaya dayandırarak yazar.

RAG, dil modeline açık kitap sınavı imkânı tanır. Kullanıcı bir soru sorduğunda sistem önce şirket belgelerinin içinden soruyla ilgili bölümleri bulur, ardından bu bölümleri soruyla birlikte modele verir ve “Bu metinlere dayanarak cevap ver” der. Model, cevabı kendi genel bilgisinden değil, önüne konan güncel ve kuruma özel metinlerden üretir.

Reklam

Bir RAG sistemi adım adım

RAG tek bir ürün ya da tek bir algoritma değil, birkaç parçanın birleştiği bir mimaridir. Tipik bir akış iki aşamadan oluşur: belgelerin önceden hazırlanması ve soru geldiğinde çalışan cevap hattı.

Hazırlık aşaması

  1. Belgeleri toplamak: PDF’ler, wiki sayfaları, sık sorulan sorular, e-postalar ya da destek kayıtları gibi kaynaklar bir araya getirilir.
  2. Metni çıkarmak ve temizlemek: Sayfa numaraları, tekrar eden üst bilgiler ve gereksiz biçimlendirmeler ayıklanır. Taranmış belgelerde önce metin tanıma gerekebilir.
  3. Parçalara bölmek: Uzun belgeler, tek başına anlamlı olan daha küçük bölümlere ayrılır. Bu bölümlere genellikle “chunk” denir.
  4. Vektöre çevirmek: Her parça bir embedding modelinden geçirilerek anlamını temsil eden bir sayı dizisine dönüştürülür.
  5. İndekslemek: Bu vektörler; belge adı, bölüm başlığı, tarih ve erişim yetkisi gibi bilgilerle birlikte aranabilir bir yapıda saklanır.

Cevap aşaması

  1. Soruyu almak: Kullanıcı “Yıllık iznimi bölerek kullanabilir miyim?” diye sorar.
  2. İlgili parçaları getirmek: Soru da vektöre çevrilir ve ona en yakın parçalar indeksten bulunur. Birçok sistem burada anlam aramasını klasik kelime aramasıyla birleştirir.
  3. Sıralamak ve elemek: Gelen parçalar, soruyla gerçekten ne kadar ilgili olduklarına göre yeniden sıralanabilir; zayıf eşleşmeler elenir.
  4. İstemi kurmak: Seçilen parçalar, soruyla ve “yalnızca verilen metne dayan, bilgi yoksa söyle” gibi talimatlarla birlikte modele gönderilir.
  5. Cevap ve kaynak: Model cevabı yazar; iyi bir sistem, cevabın hangi belgenin hangi bölümüne dayandığını da kullanıcıya gösterir.

RAG neden bu kadar yaygınlaştı?

Şirketlerin kendi verileriyle çalışan yapay zekâ çözümlerinde RAG’in sıkça tercih edilmesinin birkaç pratik nedeni var:

  • Güncellik: Bir yönetmelik değiştiğinde modeli yeniden eğitmek gerekmez; belgeyi güncelleyip indeksi yenilemek yeterlidir.
  • İzlenebilirlik: Cevabın dayandığı kaynak gösterilebildiği için kullanıcı bilgiyi doğrulayabilir. Bu, özellikle hukuk, insan kaynakları ve teknik destek gibi alanlarda güven sağlar.
  • Daha az uydurma: Model, önüne konan metinle sınırlandırıldığında hafızasından tahmin yürütme eğilimi azalır. Tamamen ortadan kalkmaz, ama belirgin şekilde kontrol altına alınabilir.
  • Yetki kontrolü: Her kullanıcının yalnızca görmeye yetkili olduğu belgelerden parça getirilebilir. Bilgi modelin içine gömülmediği için erişim kuralları uygulama katmanında yönetilir.

Projelerin sık tökezlediği yerler

RAG kâğıt üzerinde basit görünür, ama kaliteli bir sistem kurmak ayrıntılara özen ister. Cevapların kötü olduğu durumlarda sorun çoğu zaman modelde değil, getirme aşamasındadır. Yanlış parçaları alan en iyi model bile doğru cevap veremez.

Parçalama hataları

Parçalar çok küçük olursa bağlam kaybolur: “Bu durumda süre beş iş günüdür” cümlesi, hangi durumdan söz edildiğini anlatan önceki paragraftan ayrılırsa anlamsızlaşır. Parçalar çok büyük olursa bu kez tek bir parça birden fazla konuyu içerir ve aramada isabet düşer. Başlıklara, paragraflara ve madde yapısına saygı gösteren bir bölme yöntemi genellikle sabit uzunlukta kesmekten daha iyi sonuç verir. Her parçaya bağlı olduğu belge ve bölüm başlığını eklemek de anlamı korumaya yardım eder.

Kaynak belgelerin kalitesi

Birbiriyle çelişen, eski sürümleri hâlâ dolaşımda olan ya da hiç güncellenmemiş belgeler, RAG sistemine aynen yansır. Yapay zekâ, düzensiz bir arşivi kendiliğinden düzenli hâle getirmez. Proje başlamadan önce hangi belgenin “geçerli” kabul edileceğine karar vermek, teknik tercihlerden daha belirleyici olabilir.

Tablolar, görseller ve taranmış belgeler

Metne dönüştürülürken satır ve sütun yapısı bozulan tablolar, en çok hata üreten içeriklerdendir. Fiyat listeleri, teknik tablolar ya da organizasyon şemaları için özel işleme adımları gerekebilir.

Ölçmeden ilerlemek

“Birkaç soru sorduk, iyi görünüyor” yaklaşımı yanıltıcıdır. Gerçek kullanıcıların sorabileceği sorulardan ve bunların doğru cevaplarından oluşan bir test kümesi hazırlamak, sistemde yapılan her değişikliğin etkisini görmenin tek güvenilir yoludur. Hem getirilen parçaların doğru olup olmadığı hem de son cevabın kalitesi ayrı ayrı değerlendirilmelidir.

Örnek senaryo: İnsan kaynakları asistanı

Orta ölçekli bir şirketin çalışanların sık sorduğu soruları yanıtlayan bir iç asistan kurmak istediğini düşünelim. İzin yönetmeliği, masraf politikası, yan haklar rehberi ve işe başlama kılavuzu sisteme yüklenir. Bir çalışan “Yurt dışı seyahatinde yemek masrafını nasıl beyan ederim?” diye sorduğunda sistem masraf politikasındaki ilgili bölümü bulur, model bu bölümden kısa ve net bir cevap çıkarır, altında da “Masraf Politikası, Yurt Dışı Seyahat bölümü” gibi bir kaynak bilgisi gösterir.

Aynı sistem, çalışan “Bu ay maaşım neden eksik yattı?” diye sorduğunda dürüst olmalıdır: Kişisel bordro bilgisi belgelerde yoksa, model bir açıklama uydurmak yerine çalışanı ilgili birime yönlendirmelidir. İyi kurulmuş bir RAG sisteminin değeri, doğru cevap verdiği kadar “bu bilgi bende yok” diyebilmesinde de yatar.

Başlamadan önce sorulacak sorular

  • Kullanıcılar en çok hangi soruları soruyor? Elinizde gerçek soru örnekleri var mı?
  • Bu soruların cevapları gerçekten belgelerde yazılı mı, yoksa çalışanların kafasında mı?
  • Belgelerin hangi sürümü geçerli ve güncellemeleri kim, ne sıklıkla yapacak?
  • Herkes her belgeyi görebilir mi, yoksa yetkiye göre ayrım gerekiyor mu?
  • Belgeler hangi ortamda işlenecek ve saklanacak? Verinin kurum dışına çıkması uygun mu?
  • Bir cevabın “iyi” olduğuna nasıl karar vereceksiniz? Başarıyı nasıl ölçeceksiniz?

RAG, şirket bilgisini yapay zekâ ile kullanılabilir hâle getirmenin en pratik yollarından biridir. Ancak başarının anahtarı modelin kendisinden çok, doğru belgelerin doğru şekilde parçalanması, doğru parçaların getirilmesi ve sonucun düzenli olarak ölçülmesidir. Teknoloji kısmı giderek kolaylaşıyor; zor ve değerli olan kısım, bilginin kendisini düzenli tutmak.

“RAG nedir? Şirket belgeleriyle konuşan yapay zekâ” haberi, Etesio Teknoloji’nin yapay zekâsı Safinaz tarafından Türkçeleştirilip yayına alınmıştır.

Reklam
Enver KOÇAK

Enver KOÇAK

Gaziantep merkezli yazılım mühendisi, yapay zekâ ve siber güvenlik uzmanı; Etesio Teknoloji'nin kurucusu ve enverkocak.com'un yayıncısı. Yapay zekâ modellerini, araçlarını ve sektördeki gelişmeleri günlük olarak takip ediyor; haberleri kaynaklarıyla birlikte Türkçe olarak derliyor. Fatih Sultan Mehmet Vakıf Üniversitesi Sürekli Eğitim Merkezi (FSMSEM) – 560 saatlik Gazetecilik Eğitimi (Ağustos–Aralık 2024) sertifikasına sahiptir.

İlgili Haberler

Yapay zekâ işleri elimizden alacak mı? Daha dengeli bir bakış

Ne her işin yok olacağı kıyamet senaryosu ne de hiçbir şeyin değişmeyeceği rahatlığı gerçeği anlatıyor. Yapay zekânın işler üzerindeki etkisine meslek değil görev düzeyinde, daha sakin bir bakış.

Devamını oku

Küçük işletmeler için yapay zekâ ile otomasyona başlangıç

Küçük işletmelerde tekrar eden işlerin bir kısmı yapay zekâ destekli otomasyona devredilebilir. Doğru işi seçmekten araç seçimine ve bir aylık başlangıç planına kadar adım adım rehber.

Devamını oku