RAG Nedir? Kurumsal Bilgi Bankası ile LLM Entegrasyonu

RAG nedir?

Bir dil modeli, eğitildiği veriyi bilir; sizin sözleşme şablonunuzu, iç prosedürünüzü ya da geçen hafta güncellenen fiyat listenizi bilmez. RAG bu boşluğu kapatır: soru geldiğinde önce kurumsal arşivde arama yapılır, en ilgili birkaç pasaj bulunur ve model yanıtını yalnızca bu pasajlara dayanarak üretir.

Sonuç, bir "her şeyi bilen model" değil; sizin belgelerinizi hızlı okuyan ve doğru yeri gösteren bir asistandır. Kurumsal kullanımda istenen de tam olarak budur.

Neden fine-tuning değil de RAG?

Kurumsal projelerin büyük kısmında ihtiyaç bilgi erişimidir; dolayısıyla RAG varsayılan seçimdir. Fine-tuning, çok tekrar eden bir çıktı formatını ucuzlatmak için sonradan gündeme gelir.

RAG boru hattı adım adım

HAZIRLIK (çevrimdışı)
  1. Toplama       PDF, Word, intranet, e-posta arşivi, wiki
  2. Ayrıştırma    Metin + tablo çıkarımı, başlık yapısının korunması
  3. Parçalama     Anlam bütünlüğünü koruyan 300–800 token'lık parçalar
  4. Zenginleştirme Her parçaya başlık, bölüm, tarih, yetki etiketi
  5. Gömme         Vektör üretimi ve vektör veritabanına yazma

SORGU ANI (çevrimiçi)
  6. Soru işleme   Soruyu netleştirme, alt sorgulara ayırma
  7. Hibrit arama  Vektör benzerliği + anahtar kelime (BM25)
  8. Filtreleme    Kullanıcı yetkisi, tarih, departman
  9. Yeniden sıralama  İlk 30 aday → en iyi 5 pasaj
 10. Üretim        Yalnızca bu pasajlara dayanarak yanıt + kaynak

Belge parçalama: en çok hata yapılan adım

RAG projelerinde kalitenin belirleyicisi çoğu zaman model değil, parçalama stratejisidir. Sabit uzunlukta kesme (her 500 karakterde bir böl) hızlıdır ama cümleyi ortasından ayırır ve tablo satırlarını birbirinden koparır. İşe yarayan yaklaşımlar:

• Yapıya duyarlı parçalama. Başlık hiyerarşisini takip edin; her parça bir alt bölüme karşılık gelsin.
• Bağlam başlığı ekleme. Her parçanın başına ait olduğu belge ve bölüm adını yazın: "Satın Alma Prosedürü > Bölüm 4: Onay Limitleri".
• Örtüşme. Ardışık parçalar arasında %10–15 örtüşme, sınırda kalan bilgiyi kurtarır.
• Tabloları bütün tutun. Tabloyu bölmek yerine ayrı bir parça yapın ve metinsel özetini ekleyin.
• Meta veri. Tarih, sürüm, departman, gizlilik seviyesi — hem filtreleme hem güncellik için gerekli.

Hibrit arama ve yeniden sıralama

Yalnızca vektör araması kullanan sistemler, ürün kodu, mevzuat maddesi numarası veya özel isim gibi tam eşleşme gerektiren sorgularda şaşırtıcı biçimde kötü sonuç verir. Çözüm hibrit aramadır: vektör benzerliği ile klasik anahtar kelime araması birlikte çalıştırılır ve sonuçlar birleştirilir.

İkinci kritik adım yeniden sıralamadır (reranking). Arama 30 aday getirir; küçük bir sıralama modeli bu adayları soruya göre yeniden puanlar ve en iyi 5 tanesi modele gider. Bu adım, aynı model ve aynı belgelerle yanıt kalitesini gözle görülür biçimde yükseltir ve maliyeti düşürür — çünkü modele daha az ama daha isabetli bağlam gider.

Kaynak gösterimi ve güven

Kurumsal kullanıcı, kaynağını göremediği bir yanıta güvenmez. Doğru kurulumda her yanıt şu üç unsuru taşır:

1. Kaynak belge ve bölüm bağlantısı — kullanıcı tıklayıp orijinali görebilmeli.
2. Alıntılanan pasaj — modelin hangi cümleye dayandığı açık olmalı.
3. Bilgi bulunamadı durumu — arama boş dönerse model yanıt uydurmamalı, "bu konuda belge bulunamadı" demeli.

RAG kalitesini nasıl ölçersiniz?

Üç ayrı katman ayrı ayrı ölçülmeli, aksi halde "sistem bazen yanlış cevap veriyor" düzeyinde takılırsınız:

Bunun için 80–150 soruluk sabit bir değerlendirme seti hazırlayın ve her değişiklikten sonra aynı seti çalıştırın. Parçalama stratejisini değiştirdiğinizde neyin iyileştiğini ancak böyle görebilirsiniz.

RAG, tek başına bir ürün değil; agentic sistemlerin bağlam katmanıdır. Agent'ınız hangi belgeye dayandığını gösterebiliyorsa, kurumsal benimseme çok daha hızlı gerçekleşir.