ویرگول
ورودثبت نام
Amirhossein Nouri
Amirhossein Nouri
Amirhossein Nouri
Amirhossein Nouri
خواندن ۲ دقیقه·۱۶ روز پیش

RAG یعنی اول جست‌وجو، بعد نوشتن؛ و کیفیت آن به بازیابی بستگی دارد

RAG در ۵ دقیقه

⁦RAG⁩ یعنی پیش از اینکه مدل جواب بنویسد، تکه‌های مرتبط از اسناد خودتان پیدا شوند و کنار سؤال به مدل داده شوند. مدل دوباره آموزش نمی‌بیند و فقط از روی همان متن‌ها پاسخ می‌نویسد.

نکتهٔ اصلی این است که کیفیت پاسخ بیشتر به مرحلهٔ بازیابی بستگی دارد تا به خود مدل. اگر تکهٔ درست پیدا نشود، مدل پاسخی مطمئن و با استناد به منبع اشتباه می‌دهد. ⁦RAG⁩ خطا را کم می‌کند، اما حذفش نمی‌کند.

خط لولهٔ ⁦RAG⁩ چهار مرحله دارد: خرد کردن سند به تکه‌های کوچک، تبدیل هر تکه به بردار (⁦embedding⁩)، ذخیرهٔ بردارها در یک ایندکس، و در پایان پیدا کردن نزدیک‌ترین تکه‌ها به سؤال کاربر. سه مرحله از این چهار مرحله در واقع مهندسی جست‌وجوست، نه کار مدل. تیم‌هایی که این را نمی‌بینند، ماه‌ها پرامپت را روی ایندکسی ضعیف تنظیم می‌کنند.

برای متن فارسی یک مشکل مشخص هم وجود دارد. «می‌روم»، «می روم» و «میروم» برای جست‌وجوی ساده سه رشتهٔ متفاوت‌اند. «ي/ی» و «ك/ک» هم کدهای یونیکد متفاوتی دارند، و بعضی ⁦PDF⁩ها متن را وارونه استخراج می‌کنند. راه‌حل این است که نرمال‌سازی پیش از تکه‌کردن انجام شود و هم روی سند و هم روی سؤال اعمال شود. اگر فقط یک طرف نرمال شود، دو طرف تطبیق به دو زبان حرف می‌زنند.

برای ارزیابی هم دو پرسش ساده کافی است. اول اینکه آیا تکهٔ حاوی پاسخ در پنج نتیجهٔ اول هست؟ این همان ⁦recall⁩@5 است. دوم اینکه آیا هر ادعای پاسخ به یک منبع مشخص برمی‌گردد؟ اگر ⁦recall⁩@5 پایین باشد، تغییر پرامپت مشکل را حل نمی‌کند. برای انتخاب مدل ⁦embedding⁩ هم بهتر است ۲۰ تا ۳۰ سؤال واقعی از اسناد خودتان بسازید و چند مدل را روی همان داده مقایسه کنید؛ مدلی که روی داده‌های خودتان بالاتر است، برای شما بهتر است.

⁦RAG⁩ و فاین‌تیونینگ رقیب نیستند. فاین‌تیونینگ رفتار و لحن مدل را عوض می‌کند، اما ⁦RAG⁩ دانشی را که مدل هنگام پاسخ در اختیار دارد تغییر می‌دهد. به‌روزرسانی دانش در ⁦RAG⁩ یعنی تعویض سند، نه آموزش دوباره.

این مطلب در ⁦1xai.ir⁩ (⁦1xai.ir⁩) منتشر شده و نمونهٔ کد برای ساخت یک دستیار ⁦RAG⁩ روی مستندات داخلی هم دارد. همچنین جدول مقایسهٔ فاین‌تیونینگ و ⁦RAG⁩ و توضیح کامل خط لوله در آن آمده است:

https://1xai.ir/blog/rag-chist-rahnama

چیستفارسی
۰
۰
Amirhossein Nouri
Amirhossein Nouri
شاید از این پست‌ها خوشتان بیاید