בעידן שבו סוכני AI פועלים בסביבות אינטראקטיביות מורכבות, תכנון תחת תצפית חלקית מהווה אתגר מרכזי. תנאים מקדימים קריטיים, כמו מיקומי עצמים או מצבי מכלים, עלולים להיות לא ידועים בזמן קבלת ההחלטות, בעוד גילויים דרך אינטראקציה כרוכים בעלות גבוהה. מודלי עולם לומדים יכולים לחזות עובדות חסרות בעלות נמוכה, אך שגיאות בחיזוי עלולות להוביל להתחייבויות בלתי אפשריות. מחקר חדש מציג את שליטה אפיסטמית אקטיבית (AEC), שכבה לתכנון המשלבת ניהול אמונות מבוסס מודל עם בדיקות היתכנות קטגוריות ומבטיחה יעילות גבוהה יותר.
שליטה אפיסטמית אקטיבית (AEC) שומרת על הפרדה קפדנית בין מחסן עובדות מושרשות, המשמש להתחייבויות, לבין מחסן אמונות המשמש רק לגיזום תוכניות מועמדות. בכל צעד בתהליך התכנון, AEC בוחנת את רמת האי ודאות: כאשר אי הודאות גבוהה או חיזויים מעורפלים, היא שואלת את הסביבה כדי להשלים טור דק לא פתור. כאשר הביטחון מספיק, היא מדמה את הטור דק כדי לסנן השערות לא סבירות. גישה זו מאפשרת ניצול יתרונות מודלי העולם מבלי להסתכן בשגיאות קריטיות.
התחייבות סופית בתהליך שליטה אפיסטמית אקטיבית נשענת על כיסוי מלא של תנאי מקדים מושרשים ובדיקת תאימות בסגנון pullback של SQ-BCP. כך, אמונות מדומות משפיעות על היעילות ומפחיתות את מספר האפשרויות, אך אינן יכולות לאשר ישירות היתכנות – רק עובדות מושרשות עושות זאת. גישה זו מבטיחה תכנון מאומת ומפחיתה את הצורך בתכנון מחדש תכוף, מה שחוסך זמן ומשאבים בסביבות אינטראקטיביות.
לפי הדיווח במחקר, שליטה אפיסטמית אקטיבית נבחנה בסביבות ALFWorld ו-ScienceWorld, שבהן השיגה הצלחה תחרותית בהשוואה לבסלי סוכני LLM חזקים, אך עם פחות סבבי תכנון מחדש. תוצאות אלה מדגישות את הפוטנציאל של AEC לשפר את הביצועים של סוכנים אוטונומיים בתחומים כמו רובוטיקה ומשחקים, שבהם תצפית חלקית שכיחה. בהשוואה לשיטות מסורתיות, AEC מציעה איזון בין מהירות לדיוק.
שליטה אפיסטמית אקטיבית פותחת דלתות לפיתוח סוכני AI מתקדמים יותר, שמתמודדים טוב יותר עם אי ודאות. עבור מנהלי עסקים ישראלים בתחום הטכנולוגיה, זו הזדמנות לשקול אינטגרציה של טכנולוגיות כאלה באוטומציה ובמערכות AI. כיצד תשפיע גישה זו על הפרויקטים שלכם?