בעולם שבו סוכני AI מבטיחים עצמאות מלאה, רוב המערכות נשברות בקלות. הן חסרות בדיקה עצמית בזמן אמת, לא מאבחנות כשלים ולא משתפרות ללא עזרה אנושית. כעת, חוקרים מציגים את VIGIL – זמן ריצה רפלקטיבי שמפקח על סוכן 'אח' ומבצע תחזוקה אוטונומית במקום לבצע משימות. המערכת קוראת יומני התנהגות, מעריכה כל אירוע לייצוג רגשי מובנה, שומרת בנק EmoBank מתמשך עם עשרה וכללי הקשר, ומפיקה אבחון RBT שממיין התנהגויות אחרונות לחוזקות, הזדמנויות וכשלים. (72 מילים)
VIGIL פועלת כצינור ממוסגר במצבים. מעברים בלתי חוקיים מייצרים שגיאות מפורשות במקום לאפשר ל-LLM לאלתר. מהאבחון, VIGIL מייצרת עדכוני פרומפטים מוגנים ששומרים על סמנטיקת זהות הליבה, והצעות קוד לקריאה בלבד שמיוצרות על ידי מנוע אסטרטגיה הפועל על ראיות מיומנים ונקודות חמות בקוד. במקרה בדיקה של השהיית תזכורות, VIGIL זיהתה השהיה גבוהה, הציעה תיקוני פרומפטים וקוד, וכאשר כלי האבחון שלה נכשל עקב קונפליקט סכמה, חשפה את השגיאה הפנימית, הפיקה אבחון חלופי ופלטה תוכנית תיקון. זה מדגים תיקון עצמי ברמה מטא. (98 מילים)
הבעיה המרכזית בסוכני LLM היא שבתנאי אמת, רוב הערימות הופכות לשרשראות קריאות LLM מעוטרות ללא מנגנונים מבניים לאמינות. VIGIL פותרת זאת על ידי פיקוח רפלקטיבי: היא סופגת לוגים, הופכת אירועים לייצוגים רגשיים, ומנהלת EmoBank עם עיכוב וכללי הקשר. האבחון RBT מסווג התנהגויות לחוזקות (מה שעובד טוב), הזדמנויות (פוטנציאל לשיפור) וכשלים (בעיות דחופות). (82 מילים)
לעסקים ישראלים בתחום הבינה המלאכותית, VIGIL מציעה דרך לשפר אמינות סוכנים אוטונומיים. במקום להסתמך על התערבות אנושית תכופה, המערכת מאפשרת שיפור רציף. זה רלוונטי במיוחד לחברות המפתחות כלים אוטומטיים כמו צ'טבוטים מתקדמים או מערכות תכנון אוטונומיות, שבהן כשלים עלולים להיות יקרים. בהשוואה למערכות קיימות, VIGIL מוסיפה שכבת פיקוח שמונעת הידרדרות. (78 מילים)
VIGIL מסמנת כיוון חדש: סוכנים שמתקנים את עצמם ברמה מטא. עבור מנהלי טכנולוגיה, כדאי לבחון שילוב של רעיונות כאלה בפרויקטי AI. השאלה היא: האם זו ההתחלה של עידן שבו AI בונה AI אמין יותר? קראו את המאמר המלא ב-arXiv לפרטים טכניים. (60 מילים)