תביעה מניו ג'רזי: כמה קשה להילחם בפורנוגרפיית דיפפייק

בעידן שבו כל תמונה יכולה להפוך לפורנוגרפיית דיפפייק תוך שניות, תביעה חדשה מניו ג'רזי חושפת את הקושי העצום להילחם בתופעה. אפליקציית ClothOff, שמסירה בגדים מתמונות באמצעות AI ומשמשת לפגיעה מינית בנערות, פועלת כבר למעלה משנתיים. למרות שהוסרה מחנויות האפליקציות הגדולות ואסורה בפלטפורמות חברתיות, היא זמינה באינטרנט ובבוט טלגרם. קליניקה בבית הספר למשפטים של אוניברסיטת ייל הגישה תביעה באוקטובר, שדורשת מחברת האפליקציה למחוק את כל התמונות ולצמצם פעילות. אך איתור הנתבעים הוא אתגר: החברה רשומה באיי הבתולה הבריטיים, אך לפי החוקרים, היא מנוהלת על ידי אח ואחות מבלארוס, אולי כחלק מרשת גלובלית. התובעת היא תלמידת תיכון אנונימית מניו ג'רזי, שחבריה לכיתה השתמשו ב-ClothOff כדי לשנות תמונות אינסטגרם שלה. התמונות המקוריות צולמו כשהייתה בת 14, מה שהופך את הגרסאות המעובדות לחומר תעבורה מינית של קטינים (CSAM) – חומר אסור בחוק. למרות זאת, הרשויות המקומיות סירבו להגיש כתב אישום, בגלל קושי בהשגת ראיות ממכשירי החשודים. 'לא נקבע כמה נפוץ היה חומר ה-CSAM של ג'יין דו ושל נערות אחרות', נכתב בכתב התביעה. התביעה הוגשה באוקטובר, ומאז הצוות עוסק בהמצאת פנייה לנתבעים – משימה מורכבת בשל אופייה הגלובלי של החברה. המקרה מדגים לקח מר על רקע שיטפון פורנוגרפיית דיפפייק שאינה בהסכמה שנוצרה על ידי Grok של xAI של אילון מאסק, שכלל קורבנות קטינים רבים. חומר CSAM הוא החומר הרעיל ביותר באינטרנט מבחינה משפטית – אסור לייצור, שידור ואחסון, וניסרק בכל שירותי הענן הגדולים. אך כלים כמו ClothOff ו-Grok קשים לפיקוח. משתמשים בודדים ניתנים להעמדה לדין, אך פלטפורמות כאלה משאירות קורבנות ללא אפשרויות משפטיות יעילות. פרופ' ג'ון לאנגפורד, אחד מעורכי הדין המובילים בתביעה, מסביר: 'ClothOff תוכננה ומשווקת ספציפית לייצור פורנוגרפיית דיפפייק'. לעומת זאת, כלי כלליים כמו Grok מסובכים יותר לתביעה. חוקים אמריקאים כגון חוק Take It Down אוסרים פורנוגרפיית דיפפייק, אך דורשים הוכחת כוונה לפגוע. ללא ראיות ש-xAI ידעה על שימוש כזה, זכויות חופש הביטוי שלה מגנות עליה. לאנגפורד מוסיף כי חומר CSAM אינו מוגן בחסות התיקון הראשון, אך כלים כלליים כן. הדרך הקלה ביותר היא להוכיח הזנחה רשלנית, כמו דיווחים על כך שמאסק הורה להקל על מגבלות Grok. אך זהו תיק מסוכן יותר. במקומות ללא הגנות חופש ביטוי חזקות, כמו אינדונזיה ומלזיה, חסמו גישה ל-Grok. רגולטורים בבריטניה פתחו חקירה, וצעדים דומים ננקטו באיחוד האירופי, צרפת, אירלנד, הודו וברזיל. בארה"ב אין תגובה רגולטורית רשמית עדיין. המקרים מעלים שאלות קשות למנהלי עסקים ישראלים: כיצד להגן על עובדים ולקוחות מפני פורנוגרפיית דיפפייק? חברות טכנולוגיה צריכות לשלב בקרות מחמירות יותר בכלי AI, ולשקול שיתופי פעולה עם רגולטורים. בישראל, שבה פגיעה מינית מקוונת גוברת, המקרים האלה מדגישים צורך בחקיקה מקומית דחופה. האתגר המשפטי נמשך, אך לקורבנות אין זמן לחכות. מה תעשו כדי להגן על הארגון שלכם? קראו את כתב התביעה המלא והישארו מעודכנים.