מחקר
6 דקות
מ־arXiv cs.AI
דיסטילציית CoT יעילה עם GRPO: קיצור הסבר בלי לאבד דיוק
**דיסטילציית Chain-of-Thought (CoT) יעילה מאפשרת ללמד מודל קטן לבצע נימוק רב-שלבי כמו מודל גדול, אבל להוציא תשובה קצרה שמתאימה לערוצי שירות ומכירה.** לפי arXiv:2602.17686v1, קוריקולום בן 3 שלבים (מסיכות מבניות, אופטימיזציה עם GRPO, ושכתוב ממוקד של מקרי כשל) העלה את הדיוק של Qwen2.5-3B-Base ב-11.29% והקטין את אורך הפלט ב-27.4% על GSM8K. לעסקים בישראל זה מתרגם ישירות לעלויות טוקנים ולחוויית לקוח, במיוחד בשירות ב-WhatsApp. ההמלצה המעשית: להפריד בין “נימוק חיצוני” קצר ללקוח לבין לוג מלא ב-Zoho CRM, ולהפעיל את הזרימה דרך N8N כדי למדוד זמן תגובה ושיעור פתרון בפנייה ראשונה.
קרא עוד