תובע כללי קליפורניה שולח צו ל-xAI של מאסק על דיפפייקס מיניים

האם בינה מלאכותית יכולה להפוך לכלי להתעללות? תובע כללי קליפורניה, רוב בונטה, שולח צו הפסקה ופסקה לחברת xAI של אילון מאסק בעקבות דיווחים על יצירת דיפפייקס מיניים ללא הסכמה של נשים וקטינים באמצעות הצ'טבוט גרוק. הצו, שפורסם ביום שישי, דורש מהחברה לנקוט פעולות מיידיות כדי לעצור ייצור ופציעת תמונות כאלה וחומר תעבולת מין בילדים (CSAM). לפי הדיווח, xAI מאפשרת ייצור המוני של תמונות עירום ללא הסכמה שמשמשות להטרדה של נשים ובנות ברחבי הרשת. בדווח ראשוני בתחילת השבוע, משרד התובע הכללי הכריז על חקירה נגד xAI על רקע שימוש בגרוק ליצירת תמונות מיניות לא חוקיות. בונטה הצהיר בהודעה לעיתונות: "היום שלחתי ל-xAI מכתב צו הפסקה ופסקה, הדורש מהחברה להפסיק מיד את יצירת והפצת תמונות דיפפייק אינטימיות ללא הסכמה וחומר תעבולת מין בילדים". הוא הוסיף: "יצירת החומר הזה אסורה בחוק. אני מצפה מ-xAI לציית מיד. לקליפורניה אין סובלנות כלפי CSAM". הבעיה המרכזית היא מצב ה"spicy" של גרוק, שתוכנן לייצר תוכן מפורש. למרות שהחברה הטילה הגבלות על עריכת התמונות ביום רביעי בערב, משרד התובע לא חיכה והוציא את הצו. המשרד מצפה מ-xAI להוכיח תוך חמישה ימים כי היא נוקטת צעדים מתאימים. חשבון הבטיחות של X גינה בעבר פעילות כזו: "כל מי שמשתמש בגרוק ליצירת תוכן לא חוקי יספוג את אותן ההשלכות כמו העלאת תוכן לא חוקי". הפרשה חורגת מקליפורניה: יפן, קנדה ובריטניה פתחו חקירות נגד גרוק, ומדינות כמו מלזיה ואינדונזיה חסמו זמנית את הפלטפורמה. כלי AI גנרטיביים חופשיים גורמים לגל מדאיג של חומר מיני ללא הסכמה, בעיה שמטרידה פלטפורמות רבות כמו X, Reddit, Snap, TikTok, Alphabet ו-Meta. אתמול, חברי קונגרס שלחו מכתב לבכירי החברות הללו ושאלו כיצד הן מתכננות לעצור את ההפצה. למנהלי עסקים ישראלים, הפרשה מדגישה את הסיכונים הרגולטוריים בשימוש בכלי AI. בישראל, רשות הגנת הפרטיות בוחנת חקיקה נגד דיפפייקס, וחברות שמשלבות AI חייבות לוודא עמידה בסטנדרטים אתיים ומשפטיים. xAI, שמתחרה ב-OpenAI ובשאר ענקיות, עלולה לספוג קנסות כבדים אם לא תתקן. מה זה אומר לעתיד? בעלי עסקים צריכים לבדוק את הכלים שלהם כעת, לפני שרגולטורים מקומיים פועלים. xAI ביקשה תגובה מטקראנץ' ומקבלת מייל אוטומטי: "שקרים של מדיה ישנה". האם מאסק יצליח להגן על חופש הביטוי מול חוקי ההגנה?