זיהוי התקפות פרומפט injection רב-תוריות במודלי LLM
האם ידעתם שתוקפים יכולים להרוס מערכות AI בשיחות ארוכות? מחקר חדש שפורסם ב-arXiv מציג נוסחה חדשנית לזיהוי התקפות prompt injection רב-תוריות, שמפזרות כוונה זדונית על פני מספר תורי שיחה. השיטות הקיימות נכשלות כי הן בודקות כל תור בנפרד, והתוקפים מנצלים זאת. הנוסחה החדשה משלבת שיא סיכון, יחס התמדה וגיוון קטגוריות – ללא צורך במודל שפה נוסף.
מה זה התקפות prompt injection רב-תוריות?
התקפות prompt injection רב-תוריות הן מתקפת סייבר מתוחכמת על מודלי שפה גדולים (LLM), שבהן התוקף מפזר הוראות זדוניות על פני מספר תורי שיחה, במקום תור בודד. זה מנצל את ההנחה שכל תור נבדק עצמאית, מה שמאפשר התקפה מתמשכת ללא זיהוי מיידי. השיטות הקודמות התמקדו בהתקפות חד-תוריות, אך כאן אין נוסחה פשוטה לאגרגציה של ציוני סיכון לרמת שיחה שלמה. המחקר מציג פתרון מבוסס שיא + הצטברות, בהשראת זיהוי נקודות שינוי (CUSUM) ועדכון אמונה בייסיאני.
נוסחת Peak + Accumulation: הפריצת דרך בזיהוי התקפות
הנוסחה החדשה משלבת שלושה מרכיבים: שיא הסיכון בתור בודד, יחס ההתמדה (כמה תורים חשודים מתמשכים) וגיוון הקטגוריות החשודות. זה פותר בעיה קריטית בגישה הממוצעת המשוקללת, שנותנת ציון זהה להתקפה חד-תורית להתקפה של 20 תורים. לפי הדיווח, הנוסחה נבדקה על 10,654 שיחות רב-תוריות: 588 התקפות מ-WildJailbreak ו-10,066 שיחות תקינות מ-WildChat. התוצאות מרשימות: 90.8% recall ב-1.20% שיעור שגיאות חיוביות, עם F1 של 85.9%.
ניתוח רגישות: נקודת מפנה בפרמטר ההתמדה
ניתוח רגישות מראה מעבר פאזה בפרמטר ההתמדה סביב rho=0.4, שם ה-recall קופץ ב-12 נקודות אחוז עם עלייה זניחה בשגיאות חיוביות. החוקרים משחררים את האלגוריתם, ספריית הדפוסים ומנגנון הבדיקה כקוד פתוח.
ההשלכות לעסקים בישראל
בעידן שבו עסקים ישראליים משלבים סוכני AI בשירות לקוחות ובאוטומציה, התקפות כאלה עלולות לגרום לדליפות מידע או שיבושים קריטיים. חברות כמו סטארט-אפים בתל אביב כבר סובלות מהתקפות על צ'אטבוטים. השיטה החדשה מאפשרת הגנה בלי LLM נוסף, מה שחוסך משאבים. בישראל, עם חוקי הגנת הפרטיות המחמירים, אימוץ כלים כאלה ימנע קנסות וישמור על אמון הלקוחות. עסקים יכולים לשלב זאת ב-אוטומציה עסקית כדי להגן על תהליכים אוטומטיים.
מה זה אומר לעסק שלך
הנוסחה הזו מאפשרת זיהוי מוקדם של התקפות מתמשכות, ומשפרת את הביטחון במודלי AI. עכשיו, כשיש פתרון פשוט ויעיל, עסקים יכולים להטמיע אותו בשכבת ה-proxy ללא עלויות גבוהות.
האם אתה מוכן להגן על השיחות האוטומטיות שלך? בדוק את הקוד הפתוח והתחל ליישם.