אחזור-מוגבר-בייצור (RAG)

אחזור-מוגבר-בייצור (RAG — Retrieval-Augmented Generation) היא טכניקה שמשלבת שני שלבים נפרדים: בשלב הראשון המודל "מחפש" מידע רלוונטי ממקור חיצוני — מסמכים פנימיים, אתר אינטרנט, מסד נתונים — ורק בשלב השני הוא משתמש במידע שמצא כדי לבנות תשובה. זה שונה מהאופן ה"רגיל" שבו מודל שפה עונה, שבו הוא מסתמך רק על מה ש"זכר" מתהליך האימון, בלי גישה למידע חדש או פרטי.

שני יתרונות מרכזיים נובעים מזה. ראשית, אפשר לתת למודל גישה למידע עדכני או פרטי (מסמכי חברה, מדיניות פנימית) בלי לאמן אותו מחדש — תהליך יקר ואיטי. שנית, וחשוב לא פחות: RAG מפחית משמעותית הזיות, כי התשובה מעוגנת במקור אמיתי שאפשר להצביע עליו, במקום להסתמך על "זיכרון" סטטיסטי מעורפל של המודל.

דוגמה נפוצה: צ'אטבוט תמיכת לקוחות שמחפש קודם בתיעוד הטכני הפנימי של החברה, ורק אז מנסח תשובה. מגבלה חשובה: איכות התשובה תלויה ישירות באיכות החיפוש — אם השלב הראשון לא מוצא את המסמך הנכון, גם התשובה הסופית תהיה חלשה, גם אם המודל עצמו מצוין.