
RAG یعنی پیش از اینکه مدل جواب بنویسد، تکههای مرتبط از اسناد خودتان پیدا شوند و کنار سؤال به مدل داده شوند. مدل دوباره آموزش نمیبیند و فقط از روی همان متنها پاسخ مینویسد.
نکتهٔ اصلی این است که کیفیت پاسخ بیشتر به مرحلهٔ بازیابی بستگی دارد تا به خود مدل. اگر تکهٔ درست پیدا نشود، مدل پاسخی مطمئن و با استناد به منبع اشتباه میدهد. RAG خطا را کم میکند، اما حذفش نمیکند.
خط لولهٔ RAG چهار مرحله دارد: خرد کردن سند به تکههای کوچک، تبدیل هر تکه به بردار (embedding)، ذخیرهٔ بردارها در یک ایندکس، و در پایان پیدا کردن نزدیکترین تکهها به سؤال کاربر. سه مرحله از این چهار مرحله در واقع مهندسی جستوجوست، نه کار مدل. تیمهایی که این را نمیبینند، ماهها پرامپت را روی ایندکسی ضعیف تنظیم میکنند.
برای متن فارسی یک مشکل مشخص هم وجود دارد. «میروم»، «می روم» و «میروم» برای جستوجوی ساده سه رشتهٔ متفاوتاند. «ي/ی» و «ك/ک» هم کدهای یونیکد متفاوتی دارند، و بعضی PDFها متن را وارونه استخراج میکنند. راهحل این است که نرمالسازی پیش از تکهکردن انجام شود و هم روی سند و هم روی سؤال اعمال شود. اگر فقط یک طرف نرمال شود، دو طرف تطبیق به دو زبان حرف میزنند.
برای ارزیابی هم دو پرسش ساده کافی است. اول اینکه آیا تکهٔ حاوی پاسخ در پنج نتیجهٔ اول هست؟ این همان recall@5 است. دوم اینکه آیا هر ادعای پاسخ به یک منبع مشخص برمیگردد؟ اگر recall@5 پایین باشد، تغییر پرامپت مشکل را حل نمیکند. برای انتخاب مدل embedding هم بهتر است ۲۰ تا ۳۰ سؤال واقعی از اسناد خودتان بسازید و چند مدل را روی همان داده مقایسه کنید؛ مدلی که روی دادههای خودتان بالاتر است، برای شما بهتر است.
RAG و فاینتیونینگ رقیب نیستند. فاینتیونینگ رفتار و لحن مدل را عوض میکند، اما RAG دانشی را که مدل هنگام پاسخ در اختیار دارد تغییر میدهد. بهروزرسانی دانش در RAG یعنی تعویض سند، نه آموزش دوباره.
این مطلب در 1xai.ir (1xai.ir) منتشر شده و نمونهٔ کد برای ساخت یک دستیار RAG روی مستندات داخلی هم دارد. همچنین جدول مقایسهٔ فاینتیونینگ و RAG و توضیح کامل خط لوله در آن آمده است:
https://1xai.ir/blog/rag-chist-rahnama