האם שוק מקוון למודלי AI יכול להפוך למפעל דיפפייקים פורנוגרפיים? Civitai, פלטפורמה פופולרית לרכישה ומכירה של תוכן שנוצר על ידי בינה מלאכותית, הגובה תמיכה מקרן ההון סיכון Andreessen Horowitz, מאפשרת למשתמשים לרכוש קבצי הוראות מותאמים אישית לייצור דיפפייקים של סלבריטאיות. ניתוח חדש של חוקרים מאוניברסיטת סטנפורד ואוניברסיטת אינדיאנה חושף כי חלק ניכר מהבקשות באתר מכוונות לדיפפייקים כאלו, רובם אסורים על ידי האתר עצמו.
בין אמצע 2023 לסוף 2024, רוב הבקשות לתוכן באתר, המכונות 'באונטיז', התמקדו בתוכן אנימציה, אך חלק משמעותי ביקש דיפפייקים של אנשים אמיתיים – ו-90% מהם כוונו לנשים. לפי המחקר, 86% מבקשות הדיפפייקים היו לקבצי LoRAs, הוראות שמאמנות מודלי AI סטנדרטיים כמו Stable Diffusion לייצור תוכן חדש שלא נועד לכך. משתמשים משלבים קבצים אלה בכלים נוספים ליצירת דיפפייקים גרפיים או מיניים.
בבקשות אלה, משתמשים דרשו מודלים איכותיים לדמויות ציבוריות כמו ההשפיענית Charli D’Amelio או הזמרת Gracie Abrams, כולל קישורים לפרופילים שלהן. חלק ביקשו מודלים שמציגים את הגוף המלא, תופסים קעקועים במדויק או מאפשרים שינוי צבע שיער. בקשות מסוימות התמקדו בנישות כמו אמניות ASMR, ואחת אף ביקשה דיפפייק של אשתו של מבקש. כל משתמש יכול להציע מודלים, והזוכים קיבלו תשלום בין 0.50 ל-5 דולר – ו-92% מהבאונטיז הללו זכו.
Civitai מסבכת את הדיון סביב דיפפייקים, כמו זה שהתעורר לאחרונה סביב תמונות מפורשות בצ'טבוט Grok של X. האתר מוכר לא רק תמונות ווידאו, אלא גם קבצי LoRAs. למרות איסור קודם על דיפפייקים מיניים של אנשים אמיתיים, במאי 2025 הודיעה החברה על איסור כללי על דיפפייקים – אך בקשות ישנות ותוצאותיהן נותרו זמינות לרכישה, כפי שאישר MIT Technology Review.
החברה מספקת מדריכים לשימוש בכלים חיצוניים להתאמה אישית, כולל מאמרים על יצירת פורנוגרפיה. החוקרים מצאו כי כמות התוכן NSFW עלתה, ורוב הבקשות השבועיות הן כאלו. 'לא רק ש-Civitai מספקת תשתית לבעיות אלה, אלא גם מלמדת מפורשות כיצד להשתמש בהן', אומר מאתיו דה ורנה, חוקר פוסט-דוקטורט במרכז למדיניות סייבר של סטנפורד.
במאי 2025, מעבד כרטיסי האשראי של Civitai ניתק אותה בגלל תוכן לא מסכים. כיום, רכישת Buzz (המטבע הפנימי) לתוכן מפורש דורשת כרטיסי מתנה או קריפטו. האתר מתייג באונטיז דיפפייקים ומאפשר בקשת הסרה, אך משאיר את האכיפה לציבור. מומחה משפטי, ריאן קאלו, מציין כי הגנות כמו סעיף 230 אינן מוחלטות, ואי אפשר להקל על פעולות בלתי חוקיות.
למרות הצטרפותה לעקרונות נגד חומר תעלולות מיניות בילדים ב-2024, דיפפייקים של מבוגרים זוכים לפחות תשומת לב. Civitai קיבלה 5 מיליון דולר מ-a16z בנובמבר 2023, והמנכ"ל ג'סטין מייר שאף להנגיש את התחום. אך גם חברות אחרות בתיק ההשקעות סובלות מבעיות דומות, כמו Botify AI.
מה המשמעות לעסקים ישראליים? כשמודלי AI זמינים יותר, הסיכון לתביעות ופגיעה בפרטיות גובר. מנהלים צריכים לבדוק כלים חיצוניים ולשקול חלופות אתיות. האם Civitai תשנה כיוון, או ששוק הדיפפייקים ימשיך לצמוח? קראו את המחקר המלא והחליטו.