RAG یا Retrieval-Augmented Generation روشی است که به مدل زبانی اجازه می‌دهد پیش از پاسخ، اطلاعات مرتبط را از منابع مشخص بازیابی کند. نتیجه می‌تواند پاسخ دقیق‌تر، قابل‌ردیابی‌تر و متناسب با دانش اختصاصی سازمان باشد.
در پروژه واقعی، کیفیت RAG بیشتر از انتخاب مدل به کیفیت داده، chunking، retrieval، metadata، evaluation و طراحی تجربه کاربری وابسته است. اگر منبع داده پراکنده، قدیمی یا بدون ساختار باشد، اضافه کردن LLM به‌تنهایی مشکل را حل نمی‌کند.
RAG برای پشتیبانی داخلی، جستجو در اسناد، پایگاه دانش، راهنمای محصول و سیستم‌های تصمیم‌یار گزینه خوبی است؛ به‌خصوص زمانی که پاسخ باید به منابع مشخص متکی باشد. اما برای هر مسئله‌ای ضروری نیست و گاهی جستجوی کلاسیک یا workflow ساده انتخاب بهتر و ارزان‌تری است.
در Codify قبل از انتخاب معماری، مسئله، حجم داده، سطح حساسیت، نیاز به citation، latency و هزینه را بررسی می‌کنیم تا AI در محصول واقعاً کار کند، نه اینکه فقط در دمو جذاب باشد.
