בעידן שבו מודלי בינה מלאכותית מתמודדים עם מסמכים ארוכים ומסובכים, אתגר מרכזי הוא לבחור את כמות ההקשר האופטימלית לכל שאלה. כולל מעט מדי פסקאות עלול להחמיץ מידע קריטי, בעוד שיותר מדי מוסיף רעש ומפחית את איכות התשובה. מחקר חדש מציג את Context-Picker, מסגרת חכמה שמשנה את הפרדיגמה מסינון מבוסס דמיון לבחירה מינימלית מספקת.
Context-Picker רואה בבחירת ההקשר תהליך קבלת החלטות, המיטוב באמצעות לוח זמנים דו-שלבי של למידה מחוזקת בהשראת תהליכי חשיבה אנושיים. בשלב ראשון, ממוקד זיכרון, היא נותנת עדיפות לכיסוי שרשראות ההיגיון הנדרשות. בשלב שני, ממוקד דיוק, היא גוזמת בתוקף עודפויות כדי להפיק קבוצת ראיות קומפקטית. גישה זו פותרת את דילמת Top-K הקבועה ואת השיטות הישנות של סינון חד-שלבי.
כדי להתגבר על דלילות התגמול, החוקרים מציעים צינור זיקוק ראיות לא מקוון, שכורה 'קבוצות מינימליות מספקות' באמצעות פרוצדורה של Leave-One-Out (LOO). שיטה זו מספקת פיקוח צפוף ומתאים למשימה, ומאפשרת אימון יעיל יותר. הניסויים נערכו על חמישה בנצ'מרקים של שאלות-תשובות בהקשר ארוך ומעבר-קפיצות.
התוצאות מרשימות: Context-Picker עוקפת בסבירות גבוהה את קווי הבסיס החזקים של RAG, עם דיוק תשובות גבוה יותר באורכי הקשר דומים או קצרים יותר. מחקרי הסרה מראים שהלוח זמנים מהשלב הגס לעדין, עיצוב התגמול המכוון עודפות והפורמט המונחה נימוק תורמים רבות להישגים אלה. שיפורים אלה רלוונטיים במיוחד לשאלות עובדתיות הדורשות ראיות ספציפיות בודדות.
למנהלי עסקים ומהנדסי AI, Context-Picker מצביעה על דרך לשפר מערכות שאלות-תשובות יעילות יותר, חוסכת משאבים ומפחיתה שגיאות. עם התקדמות מודלי השפה הגדולים, אופטימיזציה כזו תהפוך קריטית ליישומים עסקיים כמו ניתוח מסמכים ותמיכת לקוחות. המחקר מדגיש את הפוטנציאל של למידה מחוזקת רב-שלבית בפתרון בעיות מורכבות.