DOT: מקצר חשיבת AI ב-78% ומשפר ביצועים

בעידן שבו מודלי חשיבה גדולים משופרים בלמידת חיזוק עם תגמולים ניתנים לאימות משיגים קפיצות ביצועים על ידי הארכת שרשרת המחשבה, הם סובלים מבזבוז משאבים עצום בשאלות פשוטות. מודלים אלה נוטים לייצר הסברים מיותרים ומפורטים מדי, מה שמגדיל עלויות פריסה באופן משמעותי. חוקרים זיהו תופעה חדשה הנקראת 'length shift', שבה המודלים מייצרים חשיבה מיותרת על קלטים טריוויאליים במהלך האימון. כדי להתמודד עם הבעיה, הם מציגים את Dynamic Outlier Truncation (DOT) – התערבות באימון שמדכאת טוקנים מיותרים באופן סלקטיבי. שיטת DOT מתמקדת רק בזנב הארוך ביותר של אורכי התגובות בקבוצות rollout מושלמות לחלוטין, מבלי לפגוע ביכולות חשיבה ארוכות טווח לבעיות מורכבות. השיטה מבצעת קיצוץ דינמי של חריגות באורך, ומבטיחה שהמודלים לא ייצרו טקסט מיותר על שאלות פשוטות. בנוסף, כדי להבטיח התכנסות יציבה, השיטה משלבת רגולריזציה KL עזר ודגימה דינמית חזויה. גישה זו בוחנת את המנגנונים הגורמים ל'overthinking' ומתקנת אותם ישירות, בניגוד לשיטות קודמות שהסתמכו על קנסות אורך מפורשים שיצרו קונפליקטים באופטימיזציה. בניסויים על מודלים בגדלים שונים, DOT דחפה את גבולות פרונטייר היעילות-ביצועים קדימה באופן משמעותי. במיוחד, במבחן AIME-24, השיטה הפחיתה את שימוש הטוקנים בהסקה ב-78%, תוך שיפור הדיוק בהשוואה למדיניות ההתחלתית והתעלות על שיטות יעילות מתקדמות קיימות. התוצאות מראות כי DOT מצליחה לשמור על יכולות חשיבה מתקדמות בבעיות קשות, בעוד שהיא מקצרת תגובות בשאלות פשוטות. המשמעות של DOT היא מהפכנית לעולם ה-AI: חברות יכולות לפרוס מודלי חשיבה גדולים בעלויות נמוכות יותר, ללא פגיעה בביצועים. בהשוואה לשיטות קודמות שסבלו מקונפליקטים, DOT מציעה פתרון נקי וממוקד. בישראל, שבה חברות כמו Mobileye ו-Wiz משקיעות רבות ב-AI, שיטה זו יכולה להאיץ פיתוח מוצרים יעילים יותר, להפחית צריכת חשמל ולשפר זמני תגובה. לסיכום, קיצוץ חריגות דינמי (DOT) מסמן שינוי פרדיגמה באימון מודלי חשיבה. מנהלי טכנולוגיה צריכים לשקול אימוץ גישות כאלה כדי לייעל את תשתיות ה-AI שלהם. האם DOT תהפוך לסטנדרט חדש? המאמר ב-arXiv מציע תשובות ראשוניות.