חדשות
4 דקות
מ־MIT Technology Review
אבטחת סוכני בינה מלאכותית: גוגל דיפמיינד מזהירה מאינטראקציית סוכנים
חברת Google DeepMind הכריזה על הקמת קרן מחקר בגובה 10 מיליון דולר בשיתוף Schmidt Sciences וגורמים נוספים, במטרה לבחון את סכנות האבטחה של מערכות מרובות סוכני AI. המעבר המהיר לפריסת סוכנים אוטונומיים המסוגלים לקבל החלטות ולתקשר זה עם זה ללא פיקוח אנושי יוצר מחלקת סיכונים חדשה לחלוטין – החל מהונאות מבוססות הזרקת הנחיות (Prompt Injections) ועד למתקפות סייבר מתואמות. מומחי אבטחה ישראלים, בהם רפאל אנג'ל מחברת Akeyless, מדגישים כי סוכני AI שוברים את הנחות היסוד המסורתיות של הגנת הסייבר ומחייבים מעבר מיידי למודל אבטחה של 'אמון אפס' (Zero Trust) כדי להגן על נכסים ארגוניים ומידע רגיש.
קרא עוד