RAG sistemlərinin izahı: onları nə vaxt istifadə etməli və nə vaxt etməməli

RAG nədir?

Retrieval-Augmented Generation (RAG) dil modelini məlumat axtarışı sistemi ilə birləşdirir (arXiv, 2020). Yalnız modelin təlim məlumatlarına arxalanmaq əvəzinə, RAG sorğunun emalı zamanı uyğun sənədləri tapıb gətirir və onları prompt kontekstinə daxil edir. Bundan sonra model təlim keçdiyi məlumatların əvəzinə (və ya onlara əlavə olaraq) tapılmış məzmuna əsasən cavab verir.

RAG niyə populyarlaşdı

LLM-lər hallüsinasiya yaradır (arXiv, 2024). Onlar xüsusilə son hadisələr və ya təlim məlumatlarında kifayət qədər təmsil olunmayan dar sahəvi biliklər barədə yanlış məlumatları əminliklə doğru kimi təqdim edir. RAG cavabları nəzarətinizdə olan mənbə sənədlərinə əsaslandıraraq hallüsinasiyaları azaldır. O həmçinin cavabları yoxlanıla bilən edir — hər bir iddianı sənədin konkret fraqmentinə qədər izləmək mümkündür.

RAG konveyeri necə işləyir

1. 01
   Məlumatların qəbulu

   Sənədlər saxlanıldıqları yerlərdən — viki-dən, sənəd anbarından, sorğu sistemindən — toplanır və naviqasiya elementlərindən, başlıqlardan və təkrarlardan təmizlənir.

2. 02
   Fraqmentlərə bölmə

   Hər bir sənəd dəqiq tapılıb çıxarılacaq qədər kiçik, lakin ayrılıqda məna kəsb edəcək qədər böyük hissələrə bölünür.

3. 03
   Vektorlaşdırma və indeksləmə

   Hər bir fraqment vektora çevrilir və metaməlumatları ilə birlikdə saxlanılır: mənbə, bölmə, tarix, giriş hüquqları.

4. 04
   Axtarış və çıxarma

   Sual da eyni qayda ilə vektora çevrilir və ən yaxın fraqmentlər tapılıb gətirilir — bu proses çox vaxt açar sözlə axtarış və yenidən sıralama mərhələsi ilə birləşdirilir.

5. 05
   Generasiya

   Model tapılmış fraqmentlər əsasında cavab verir və onlara istinad edir ki, oxucu mənbəni aça bilsin.

RAG nə vaxt yaxşı nəticə verir

Bilik bazaları və sənədlər üzrə sual-cavab: Şirkətin daxili sənədləri, dəstək məqalələri və ya məhsul sənədləri əsasında sualları cavablandırmaq RAG üçün ən uyğun tətbiq sahəsidir. Bu sənədlər etibarlı mənbədir, mütəmadi olaraq yenilənir və tək bir prompt kontekstinə yerləşməyəcək qədər böyükdür.

Uyğunluq tələblərinə həssas ssenarilər: İstinadlar və yoxlanıla bilmə imkanı tələb olunduqda, RAG cavabı hazırlamaq üçün məhz hansı mənbədən istifadə edildiyini istifadəçiyə göstərməyə imkan verir.

Sahəvi məzmun: İlkin təlim məlumatlarında kifayət qədər təmsil olunmayan tibbi, hüquqi və ya texniki məzmun RAG-dan əhəmiyyətli dərəcədə faydalanır.

RAG nə vaxt kömək etmir

Sadə faktiki suallar: Əgər cavab baza modelinin artıq yaxşı bildiyi bir məlumatdırsa, axtarış mərhələsini əlavə etmək heç bir fayda vermədən gecikməni və mürəkkəbliyi artırır.

Yaradıcı tapşırıqlar: Mətn yazılması, xülasələşdirmə və generasiya tapşırıqları, nəticənin mütləq ilkin mənbəyə əsaslanmasını xüsusi olaraq tələb etmirsinizsə, məlumat axtarışından fayda görmür.

Real vaxt məlumatlarına ehtiyac: RAG yalnız indeksiniz qədər aktualdır. Həqiqi real vaxt məlumatları (cari qiymətlər, anbardakı qalıq) üçün sizə RAG deyil, alət çağırışları və ya API inteqrasiyaları lazımdır.

RAG sistemlərində ən çox rast gəlinən xətalar

Zəif fraqmentlərə bölmə strategiyası RAG-ın aşağı məhsuldarlığının ən geniş yayılmış səbəblərindən biridir. Sənəd fraqmentləri cümlələri yarıda kəsirsə və ya əlaqəli məlumatları bir-birindən ayırırsa, axtarış keyfiyyəti kəskin düşür. Vektorlaşdırma və ya axtarış alqoritmlərini optimallaşdırmazdan əvvəl fraqmentlərə bölmə strategiyasına vaxt ayırın.

Etibarlı fraqmentlərə bölmə prinsipləri

• Sənədin öz strukturuna görə bölün — sabit simvol sayına görə deyil, başlıqlara, bölmələrə və siyahı bəndlərinə əsaslanın.
• Konteksti fraqmentlə birlikdə saxlayın. Sənədin adını və bölmə başlığını metaməlumat kimi saxlayın ki, «son tarix» haqqında olan hissə hansı qaydaya aid olduğunu itirməsin.
• Kiçik kəsişmələr buraxın ki, əks halda iki yerə bölünəcək cümlə və ya cədvəl bütövlüyünü qorusun.
• Axtarış zamanı giriş hüquqlarını nəzərə alın. Məhdud girişli sənəddən götürülmüş fraqment həmin sənədin özünü aça bilməyən istifadəçiyə çatmamalıdır.

RAG sistemini necə qiymətləndirməli

Real suallardan və onların hər birinə cavab verməli olan sənədlərdən ibarət test dəsti yaradın. Sonra iki göstəricini ayrılıqda ölçün: axtarışın ilk bir neçə nəticə arasında düzgün sənədi tapıb-tapmadığını və cavabın düzgün olub həmin sənədə istinad edib-etmədiyini. Axtarış xətaları tez-tez baş verir və hər iki göstəricini vahid balda ortalamaq problemi harada düzəltmək lazım olduğunu gizlədir. Fraqmentlərə bölmə, vektorlaşdırma və ya promptlarda edilən hər dəyişiklikdən sonra eyni test dəstini yenidən işə salın. Əgər bilik bazası üzrə köməkçi planlaşdırırsınızsa, biz RAG sistemlərini elə ilk mərhələdən bu test dəsti əsasında layihələndiririk.