מודלי AI פורצים בעיות מתמטיקה מתקדמות של ארדש

קואליציה של תובעים כלליים בארצות הברית, ובראשם התובעת הכללית של מדינת ניו יורק, פתחה בחקירה נגד חברת OpenAI. החקירה מתמקדת בשיטות הפרסום של החברה, רמת מעורבות המשתמשים, היבטי בטיחות המודל, אופן הטיפול במידע רגיש ורפואי, והגנה על קטינים וקבוצות מוחלשות. OpenAI משתפת פעולה עם החקירה, וטוענת כי הגרסאות האחרונות של ChatGPT כוללות מנגנוני הגנה משופרים. חקירה זו, לצד תביעה נוספת מצד התובע הכללי של פלורידה, מתרחשת בנקודת זמן רגישה במיוחד עבור החברה, אשר הגישה לאחרונה טפסים חסויים לקראת הנפקה ראשונית לציבור (IPO).

היזם אנדרו יאנג מציג תזה כלכלית חדשה לעידן ה-AI: במקום לשאוב ערך מהצרכנים, סטארטאפים צריכים להתמקד בהפחתת עלויות המחיה והחזרת כספים למשתמשים. יאנג, שהקים לאחרונה את חברת Noble Mobile המשתפת את רווחיה עם לקוחותיה, טוען כי השפעת הבינה המלאכותית על שוק התעסוקה והשכר תדרוש פתרונות צרכניים הוגנים יותר. בעוד שוק ההון נוהר למיזמי AI טהורים, מיזמים מבוססי שיתוף ערך יכולים להוות הזדמנות עסקית עצומה ויציבה, במיוחד בשווקים בעלי יוקר מחיה גבוה כמו ישראל.

צו חירום של ממשל ארה"ב הורה לחברת Anthropic להשבית מיידית ובאופן גלובלי את הגישה לשני מודלי ה-AI החזקים ביותר שלה: Claude Fable 5 ו-Claude Mythos 5. המהלך הדרמטי, שהוגדר כפעולת פיקוח על ייצוא בעקבות חשש לפריצת אבטחה (jailbreak) צרה, מגיע ימים בודדים בלבד לאחר השקת Fable 5 לציבור הרחב. המקרה מדגיש את סיכוני הרגולציה והתלות של עסקים במודל יחיד, ומחייב חברות ישראליות לבנות אסטרטגיות מרובות מודלים עם תשתיות אינטגרציה גמישות לצמצום הפגיעה ברציפות התפעולית שלהן.

דיווחים פנימיים מתוך חטיבת ה-Applied AI של Meta חושפים משבר ארגוני חריף: כ-6,500 מהנדסים ומנהלי מוצר מתארים את העבודה על אימון מודלי בינה מלאכותית בארגונים כסיזיפית ומייאשת. העובדים, המכנים את עצמם "מגויסי חובה", נדרשים לתייג נתונים ולכתוב קוד עבור מערכות ה-AI במקום לעסוק בפיתוח מתקדם, מה שמעורר תסיסה ומרד פנימי בחברה. המהלך מגיע בעקבות החלטת המנכ"ל מארק צוקרברג להעדיף כוח אדם פנימי בכיר על פני קבלנים חיצוניים, מהלך שגובה מחיר כבד של שחיקה והתפטרות עובדים.

קואליציה של תובעים כלליים בארצות הברית, ובראשם התובעת הכללית של מדינת ניו יורק, פתחה בחקירה נגד חברת OpenAI. החקירה מתמקדת בשיטות הפרסום של החברה, רמת מעורבות המשתמשים, היבטי בטיחות המודל, אופן הטיפול במידע רגיש ורפואי, והגנה על קטינים וקבוצות מוחלשות. OpenAI משתפת פעולה עם החקירה, וטוענת כי הגרסאות האחרונות של ChatGPT כוללות מנגנוני הגנה משופרים. חקירה זו, לצד תביעה נוספת מצד התובע הכללי של פלורידה, מתרחשת בנקודת זמן רגישה במיוחד עבור החברה, אשר הגישה לאחרונה טפסים חסויים לקראת הנפקה ראשונית לציבור (IPO).

פסיקה דרמטית של בית המשפט המחוזי במינכן קובעת לראשונה כי חברות טכנולוגיה נושאות באחריות משפטית ישירה ומלאה לתוכן שקרי ומכפיש המיוצר על ידי כלי הבינה המלאכותית שלהן. במרכז התביעה עומד פיצ'ר AI Overviews של גוגל, אשר קישר מוציאים לאור גרמנים למעשי הונאה ללא כל בסיס במציאות. בית המשפט דחה את טענות ההגנה של גוגל, לפיהן אזהרות המשתמש פוטרות אותה מאחריות, וקבע כי מכיוון שהאלגוריתם מייצר אמירות חדשות ועצמאיות, היצרנית היא האחראית הבלעדית לנזקיהן. החלטה זו עשויה לחולל מהפכה ברגולציה על כלי Generative AI ברחבי העולם ולהשליך ישירות על ניהול הסיכונים של עסקים ישראליים המטמיעים טכנולוגיות דומות.

צו חירום של ממשל ארה"ב הורה לחברת Anthropic להשבית מיידית ובאופן גלובלי את הגישה לשני מודלי ה-AI החזקים ביותר שלה: Claude Fable 5 ו-Claude Mythos 5. המהלך הדרמטי, שהוגדר כפעולת פיקוח על ייצוא בעקבות חשש לפריצת אבטחה (jailbreak) צרה, מגיע ימים בודדים בלבד לאחר השקת Fable 5 לציבור הרחב. המקרה מדגיש את סיכוני הרגולציה והתלות של עסקים במודל יחיד, ומחייב חברות ישראליות לבנות אסטרטגיות מרובות מודלים עם תשתיות אינטגרציה גמישות לצמצום הפגיעה ברציפות התפעולית שלהן.

דרמה בעולם הבינה המלאכותית: חברת Anthropic הודיעה על השבתה מיידית של שני מודלים שהשיקה השבוע, Claude Fable 5 ו-Mythos 5, בעקבות צו פיקוח ייצוא דחוף שקיבלה מממשל ארה"ב. הממשל חושש כי גורמים עוינים גילו שיטה לפרוץ את מנגנוני ההגנה של הדגמים (Jailbreak) ולנצל אותם לגילוי חולשות אבטחה וסייבר. למרות שחברת אנתרופיק טוענת כי הפירצה שהתגלתה היא צרה ואינה מסוכנת באופן חריג, היא נאלצה להסיר את הגישה לכלל לקוחותיה כדי לעמוד בדרישות הרגולציה הממשלתית. המקרה מדגיש את החשיבות הקריטית של אבטחת מודלי שפה גדולים בארגונים.