בעולם הפיננסי שבו החלטות מבוססות AI חייבות להיות מדויקות, מודלי שפה קטנים (SLMs) זוכים לפופולריות הודות למהירות עיבודם וליכולת פריסה מקומית. אולם, הם סובלים מהזיות עובדתיות בהסקה ומדיוק נמוך יותר בהקצאה פיננסית לעומת מודלים גדולים. מחקר חדש ב-arXiv שואל: האם ניתן לשפר את ביצועי SLMs על ידי התמודדות עם הזיות אלה? התשובה חיובית, והיא מבוססת על צינור חדשני.
הצוות מציג את צינור AAAI – ראשי תיבות של Association Identification (זיהוי קישורים), Automated Detection (זיהוי אוטומטי) והסKה אדפטיבית (Adaptive Inference). השלבים כוללים זיהוי קשרים רלוונטיים, בדיקה אוטומטית של הזיות בעזרת מאמתים מבוססי enקודר, ושילוב משוב על שגיאות להסקה משופרת. ניסויים על שלושה SLMs מייצגים הוכיחו קשר חיובי בין הזיות עובדתיות לשגיאות סיווג.
המאמתים מבוססי enקודר זיהו במדויק את ההזיות העובדתיות, מה שמאפשר זיהוי אמין של בעיות. בסופו של דבר, שילוב המשוב אפשר למודלים להתאים את הסקתם, מה שהוביל לשיפור ניכר בביצועי הסיווג הפיננסי. לפי הדיווח, הגישה הזו הופכת את SLMs לאמינים יותר ליישומים פיננסיים.
המשמעות עסקית גדולה: בפיננסים, שגיאות עובדתיות עלולות להוביל להפסדים כבדים. SLMs מציעים יתרון תחרותי בזכות מהירותם ופרטיות הנתונים המקומית, במיוחד לעסקים ישראליים בתחום הפינטק. השיטה החדשה מאפשרת שימוש במודלים זולים יותר ללא ויתור על אמינות, ומשפרת תחרות מול ענקיות כמו OpenAI.
עבור מנהלי עסקים ומפתחי AI בישראל, צינור AAAI פותח אפשרויות חדשות ליישומי סיווג פיננסי מהירים ואמינים. כיצד תיישמו זאת במערכותיכם? המחקר מדגיש את הצורך בהתמקדות בהזיות עובדתיות כדי למקסם את פוטנציאל SLMs.