מחקר
6 דקות
מ־arXiv cs.AI
הגנה על סוכני LLM מהזרקת פרומפט עקיפה בלי לפגוע במשימה
**הזרקת פרומפט עקיפה לסוכני LLM היא מתקפה שבה תוכן שנשלף על ידי הסוכן מחדיר הוראות זדוניות ומשנה את רצף הפעולה שלו.** מחקר ICON מציג גישה שונה: במקום לחסום כל בקשה חשודה, הוא מזהה חתימות תקיפה במרחב הלטנטי ומבצע תיקון בזמן הרצה. לפי החוקרים, השיטה הורידה את שיעור הצלחת התקיפה ל-0.4% ושיפרה ביותר מ-50% את שימושיות המשימה. עבור עסקים בישראל שמחברים AI ל-WhatsApp Business API, ל-Zoho CRM ול-N8N, המשמעות היא ברורה: ההגנה הנכונה אינה רק סינון קלט, אלא בקרה על פעולות שהסוכן עומד לבצע בפועל.
קרא עוד