היסחפות סוכנים: ירידה ביציבות מערכות AI רב-סוכנים

בעידן שבו מערכות AI רב-סוכנים מבטיחות לפתור בעיות מורכבות בשיתוף פעולה, עולה שאלה קריטית: האם הן שומרות על יציבות לאורך זמן? מחקר חדש ב-arXiv מציג את תופעת 'היסחפות סוכנים' – הידרדרות הדרגתית בהתנהגות הסוכנים, באיכות ההחלטות ובתיאום ביניהם במהלך אינטראקציות ממושכות. התופעה עלולה להוביל לירידה חדה בדיוק ביצוע משימות ולהגברת הצורך בהתערבות אנושית, מה שמאיים על אמינות המערכות בעסקים. המחקר מגדיר שלושה סוגים עיקריים של היסחפות סוכנים: היסחפות סמנטית, שבה הסוכנים סוטים מהכוונה המקורית; היסחפות תיאום, שפוגעת במנגנוני ההסכמה בין הסוכנים; והיסחפות התנהגותית, שבה צצות אסטרטגיות לא צפויות. כדי למדוד זאת, פותח מדד יציבות סוכנים (ASI) – כלי כמותי המבוסס על 12 ממדים, כולל עקביות תגובות, דפוסי שימוש בכלים, יציבות מסלולי חשיבה ושיעורי הסכמה בין סוכנים. ניתוח סימולציות מראה כיצד היסחפות זו פוגעת בביצועים. באמצעות מודלים תיאורטיים וסימולציות, החוקרים מדגימים כיצד היסחפות סוכנים גורמת לירידה משמעותית בדיוק השלמת משימות. המחקר מדגיש את הצורך במעקב שיטתי אחר תופעה זו במערכות AI תעשייתיות, שכן היא משפיעה ישירות על אמינות הפריסה. ASI מאפשר כימות מדויק של הבעיה, ומספק בסיס למחקר עתידי בבטיחות AI. תופעת ההיסחפות רלוונטית במיוחד לעסקים ישראליים המפתחים מערכות AI אוטומטיביות, שכן היא עלולה להשפיע על יעילות תהליכים ארוכי טווח כמו ניהול שרשרת אספקה או שירות לקוחות. בהשוואה למערכות חד-סוכן, הרב-סוכניות מורכבות יותר ומכילות סיכונים גבוהים יותר, אך גם פוטנציאל גדול יותר. המחקר מציע שלוש אסטרטגיות הפחתה: התקבצות זיכרון אפיזודי, פרוטוקולי ניתוב מודעים להיסחפות ועיגון התנהגותי אדפטיבי. אלה יכולים להפחית שגיאות הקשורות להיסחפות תוך שמירה על תפוקת המערכת. עבור מנהלי טכנולוגיה, ההמלצה היא לשלב מדדי ASI בפיתוח.