בעולם העסקי המהיר של היום, שבו החלטות בכל שנייה קובעות רווחים או הפסדים, חוקרים שואלים: האם מודלי שפה גדולים כמו GPT יכולים לשלוט בקבלת החלטות ברצף ארוך? מאמר חדש ב-arXiv מציג את DecisionLLM, גישה חדשנית שמסגרת בעיות למידה מחוזקת כמודלים רציפים אוטורגרסיביים, בדומה ל-Decision Transformer. זהו צעד משמעותי לעבר שילוב כוחם של LLM בסביבות דינמיות כמו הצעות מחיר בזמן אמת בפרסום מקוון.
האתגר המרכזי הוא חוסר היכולת הטבעי של LLM לפרש ערכים רציפים, שכן הם מתקשים להבין סדר גודל מספרי כשזה מוצג כטקסט. החוקרים מציעים לפתור זאת על ידי טיפול במסלולים (trajectories) כמודליות נפרדת. המודל לומד ליישר נתוני מסלול עם תיאורי משימות בשפה טבעית, ומנבא החלטות עתידיות באופן אוטורגרסיבי. כך נוצר DecisionLLM, מסגרת מאוחדת שמשלבת את שתי העולמות.
בניסויים על ספסלי בדיקה לא מקוונים ומצבי הצעות מחיר, DecisionLLM מציג תוצאות מרשימות. המודל בגודל 3 מיליארד פרמטרים (DecisionLLM-3B) עוקף את Decision Transformer המסורתי בשיפור של 69.4 בנקודות במבחן Maze2D umaze-v1 וב-0.085 במבחן AuctionNet, לפי הדיווח. החוקרים גם מגלים חוקי קנה מידה: הביצועים תלויים בגודל המודל, נפח הנתונים ואיכותם.
המשמעות העסקית עצומה, במיוחד עבור חברות פרסום ישראליות כמו Taboola או Outbrain, שמתמודדות עם הצעות בזמן אמת. DecisionLLM מרחיב את פרדיגמת AIGB ומציע כיוונים חדשים לבדיקה מקוונת. הוא מדגים כיצד LLM בקנה מידה גדול יכולים לפתוח רמות ביצועים חדשות בקבלת החלטות אסטרטגיות ארוכות טווח, מעבר ליכולות ה-Rטיפוסיות.
עבור מנהלי עסקים, השאלה היא כיצד לשלב כלים כאלה במערכות קיימות. DecisionLLM מדגיש את הצורך בנתונים איכותיים והגדלת מודלים. כדאי לעקוב אחר התפתחויות אלה כדי להישאר תחרותיים בשוק הפרסום הדיגיטלי.