בעולם שבו מודלי AI נדרשים לפתור בעיות מורכבות במדעים, טכנולוגיה, הנדסה ומתמטיקה (STEM), Logics-STEM מציג פריצת דרך. המודל, בגודל 8B ו-32B, מאומן על מאגר Logics-STEM-SFT-Dataset – אחד מגדולים בעולם הפתוח עם 10 מיליון דוגמאות שרשרת מחשבה איכותיות. לפי החוקרים, הוא משפר ב-4.68% בממוצע את הביצועים על ביצועי STEM בהשוואה למודל הטוב ביותר בגודל 8B.
המאגר נבנה בשיטה מתקדמת של חמשת שלבי עיבוד נתונים: סימון, ניקוי כפילויות, ניקוי זיהומים, זיקוק והדגמה מדורגת. שיטה זו מבטיחה איכות גבוהה, מגוון וסקיילביליות. במקביל, האלגוריתם משלב אימון פוסט-טריינינג מונחה כשלים, הכולל חיפוש ידע ממוקד וסינתזה של נתונים באזורי חולשה של המודל. גישה זו מאפשרת התאמה טובה יותר לתפוצת הנתונים האופטימלית.
Logics-STEM משלב עיצוב משותף של נתונים ואלגוריתמים, מה שמאפשר שיפור משמעותי ביכולות ההיגיון. החוקרים מדווחים על ביצועים מעולים בבנצ'מרקים רלוונטיים ל-STEM, ומדגישים את הפוטנציאל של שילוב נתונים פתוחים בקנה מידה גדול עם נתונים סינתטיים מתוכננים בקפידה. המודלים והמאגר זמינים בגרסאות מלאה (10M) ומקוצרת (2.2M) לקהילה הפתוחה.
למנהלי עסקים ישראלים בתחום ההייטק, Logics-STEM מציע כלי רב עוצמה לשיפור פתרונות AI במחקר ופיתוח. בהשוואה למודלים קודמים, הוא מבטיח יעילות גבוהה יותר במשימות מורכבות כמו ניתוח נתונים מדעיים או אופטימיזציה הנדסית. בישראל, שבה STEM הוא מוקד חדשנות, שחרור זה יכול להאיץ פרויקטים מקומיים.
הפריצה הזו מדגישה את חשיבות עיצוב נתונים-אלגוריתם משותף באימון מודלים. עסקים יכולים כעת להוריד את המודלים ולשלב אותם במהירות. מה תכנון ההטמעה הבא שלכם ב-STEM?