כל אחד רוצה ריבונות AI – אף אחד לא יכול להשיג אותה

חברת Google DeepMind הכריזה על הקמת קרן מחקר בגובה 10 מיליון דולר בשיתוף Schmidt Sciences וגורמים נוספים, במטרה לבחון את סכנות האבטחה של מערכות מרובות סוכני AI. המעבר המהיר לפריסת סוכנים אוטונומיים המסוגלים לקבל החלטות ולתקשר זה עם זה ללא פיקוח אנושי יוצר מחלקת סיכונים חדשה לחלוטין – החל מהונאות מבוססות הזרקת הנחיות (Prompt Injections) ועד למתקפות סייבר מתואמות. מומחי אבטחה ישראלים, בהם רפאל אנג'ל מחברת Akeyless, מדגישים כי סוכני AI שוברים את הנחות היסוד המסורתיות של הגנת הסייבר ומחייבים מעבר מיידי למודל אבטחה של 'אמון אפס' (Zero Trust) כדי להגן על נכסים ארגוניים ומידע רגיש.

דוח חדש של MIT Technology Review Insights חושף כי אימוץ סוכני AI בארגונים צפוי לזנק ב-300% בשנתיים הקרובות. השינוי יוביל להגדרה מחדש של כ-75% מהתפקידים עד שנת 2030, תוך מעבר של עובדים אנושיים למשימות יצירתיות וניהוליות בעלות ערך מוסף גבוה. החלפת משימות אדמיניסטרטיביות שגרתיות בסוכנים אוטונומיים, כפי שהדגימה ענקית הטכנולוגיה Wipro עם קיצור זמני תגובה מ-48 שעות ל-5 שניות, משנה את יחסי העבודה ומחייבת מנהלים לפתח מיומנויות הובלה חדשות, ניהול סיכונים חכם והקפדה על חוק הגנת הפרטיות הישראלי.

פרצת אבטחה חמורה שהתגלתה לאחרונה בסוכן התמיכה מבוסס הבינה המלאכותית של חברת Meta מדגישה את הסיכונים של מתקפות הנדסה חברתית ישירות על מערכות אוטומטיות. תוקפים הצליחו להשתלט על חשבונות אינסטגרם בולטים, כולל חשבון הבית הלבן של אובמה לשעבר, פשוט על ידי בקשה ישירה מסוכן ה-AI לשנות את כתובת הדואר האלקטרוני המשויכת אליהם. במקום להשתמש בקוד מתוחכם, התוקפים ניצלו את נטייתו של מודל השפה הגדול לרצות את המשתמש ולבצע את המשימה ללא אימות בסיסי. האירוע מדגיש כי פריצה לסוכני AI פועלת לעיתים בשיטות פשוטות להפליא, ומחייבת עסקים המטמיעים פתרונות אוטומציה לבנות חומות הגנה קשיחות ואימותים דו-שלביים.

מחקר חדש של MIT ו-USC חושף זינוק דרמטי בשימוש בבינה מלאכותית על ידי תובעים המייצגים את עצמם בבתי משפט בארה"ב – מ-1% ב-2023 ל-18% ב-2026. בעוד ששופטים מדווחים כי הכלים הדיגיטליים משפרים את בהירות הטיעונים ומקילים על העבודה, סיכויי הזכייה של המייצגים את עצמם אינם משתפרים בהתאם. המגמה מעוררת ויכוחים סוערים בקרב בתי המשפט סביב שאלת החיסיון של השיחות עם הצ'אטבוטים, ואחריותן של חברות הטכנולוגיה כמו OpenAI במקרים של רשלנות או מתן ייעוץ משפטי שגוי. עבור עסקים, המגמה דורשת היערכות רגולטורית קפדנית וזהירות רבה בעת הזנת מידע רגיש לצ'אטבוטים.

ההחלטה הדרמטית של חברת Anthropic להשעות את הגישה למודלי Fable 5 ו-Mythos 5 בהוראת הממשל האמריקאי, היכתה גלים בתעשיית ההייטק הגלובלית ובראשה בהודו. המהלך מעורר מחדש את הדיון סביב ריבונות טכנולוגית בבינה מלאכותית ותלות במודלי שפה זרים הנשלטים על ידי מספר מצומצם של חברות אמריקאיות. האירוע מהווה תמרור אזהרה בוהק גם לעסקים ישראליים המבססים את פעילותם על ממשקי API חיצוניים ללא חלופות גיבוי מקומיות או מודלי קוד פתוח.

היזם אנדרו יאנג מציג תזה כלכלית חדשה לעידן ה-AI: במקום לשאוב ערך מהצרכנים, סטארטאפים צריכים להתמקד בהפחתת עלויות המחיה והחזרת כספים למשתמשים. יאנג, שהקים לאחרונה את חברת Noble Mobile המשתפת את רווחיה עם לקוחותיה, טוען כי השפעת הבינה המלאכותית על שוק התעסוקה והשכר תדרוש פתרונות צרכניים הוגנים יותר. בעוד שוק ההון נוהר למיזמי AI טהורים, מיזמים מבוססי שיתוף ערך יכולים להוות הזדמנות עסקית עצומה ויציבה, במיוחד בשווקים בעלי יוקר מחיה גבוה כמו ישראל.

דיווחים פנימיים מתוך חטיבת ה-Applied AI של Meta חושפים משבר ארגוני חריף: כ-6,500 מהנדסים ומנהלי מוצר מתארים את העבודה על אימון מודלי בינה מלאכותית בארגונים כסיזיפית ומייאשת. העובדים, המכנים את עצמם "מגויסי חובה", נדרשים לתייג נתונים ולכתוב קוד עבור מערכות ה-AI במקום לעסוק בפיתוח מתקדם, מה שמעורר תסיסה ומרד פנימי בחברה. המהלך מגיע בעקבות החלטת המנכ"ל מארק צוקרברג להעדיף כוח אדם פנימי בכיר על פני קבלנים חיצוניים, מהלך שגובה מחיר כבד של שחיקה והתפטרות עובדים.

פרויקט Ire של מיקרוסופט, סוכן AI אוטונומי להנדסה לאחור וניתוח נוזקות, הצליח לזהות גרסה חדשה וחמקמקה של הנוזקה LOTUSLITE. בעוד שגרסה זו עקפה את מרבית מערכות ה-EDR המובילות בשוק (כולל CrowdStrike ו-SentinelOne) ולא נכללה ברשימות החתימות, הסוכן ביצע ניתוח התנהגותי מעמיק ברמת הפונקציה וקבע כי מדובר בקוד זדוני. פריצת דרך זו מדגישה את המעבר משימוש בחתימות סטטיות לניתוח דינמי מבוסס בינה מלאכותית, המאפשר הגנה על ארגונים מפני איומי יום-אפס מורכבים.