ניסיונות שכפול ג'מיני של גוגל בפרומפטים רבים
גוגל חשפה השבוע כי גורמים 'ממוטבים מסחרית' ניסו לשכפל את הידע של צ'אטבוט ה-Gemini שלה פשוט על ידי שליחת אלפי פרומפטים. לפי הדיווח, אחת ההתקפות כללה יותר מ-100,000 פרומפטים בשפות לא-אנגליות שונות, במטרה לאסוף תגובות שישמשו לאימון מודל חיקוי זול יותר. הדיווח הזה מגיע במסגרת הערכה רבעונית של גוגל על איומים על מוצריה, שמציגה את החברה גם כקורבן וגם כגיבור.
מה זה חילוץ מודל AI?
חילוץ מודל (Model Extraction) הוא טכניקה שבה תוקפים שולחים אלפי או מאות אלפי פרומפטים למודל AI כדי לאסוף את התגובות שלו, ובכך לבנות מודל חיקוי זול יותר. גוגל מכנה זאת גניבת קניין רוחני, שכן המודלים שלה בנויים על נתונים רבים מהאינטרנט. הטכניקה הזו מאפשרת ליצור העתקים ללא השקעה באימון ראשוני יקר. הדבר מעלה שאלות על הגנת IP ב-AI, במיוחד כשגוגל עצמה נאשמה בעבר בשימוש בנתוני מתחרים.
הפרטים על ניסיון השכפול של ג'מיני
לפי גוגל, התוקפים התמקדו בשפות לא-אנגליות כדי להפיק ידע רחב יותר. החברה פרסמה את הממצאים כחלק מדוח עצמי על איומים, ומדגישה את הצורך בהגנות מתקדמות. זהו לא מקרה בודד – תעשיית ה-AI נאבקת עם בעיות כאלה כבר זמן רב. סוכני AI יכולים לסייע בעסקים בהטמעת הגנות דומות.
ההאשמות נגד גוגל עצמה
מעניין לציין כי גוגל עצמה הואשמה ב-2023 בשימוש בתגובות מ-ChatGPT מאתר ShareGPT כדי לאמן את Bard (הקודם לג'מיני). חוקר בכיר ב-AI של גוגל, ג'ייקוב דבלין – יוצר מודל ה-BERT המשפיע – הזהיר את ההנהלה שזה מפר את תנאי השירות של OpenAI, ואז התפטר ועבר לעבוד שם. גוגל הכחישה, אך דווח כי הפסיקה להשתמש בנתונים.
ההשלכות לעסקים בישראל
לעסקים ישראליים, המקרה מדגיש את הסיכונים בשימוש במודלי AI פתוחים. חברות סטארט-אפ רבות בישראל מפתחות כלים מבוססי AI, וחשיפה לשכפול עלולה לפגוע בהשקעות. בישראל, שבה תעשיית ההייטק תורמת 18% מהתמ"ג, חשוב ליישם הגנות כמו הגבלת פרומפטים או שימוש במודלים פרטיים. פתרונות כמו אוטומציה עסקית מאפשרים הגנה טובה יותר על נכסי AI עסקיים, ומסייעים להתחרות בגלובלי.
מה זה אומר לעסק שלך
המקרה מלמד שגם ענקיות כמו גוגל פגיעות, מה שמחייב עסקים קטנים ובינוניים לבדוק את האבטחה של הכלים שלהם. בעתיד, צפויות רגולציות חדשות סביב IP ב-AI, שישפיעו על שיתופי פעולה. כדאי לשקול ייעוץ מקצועי כדי להימנע מסיכונים.
האם העסק שלכם מוגן מפני חילוץ מודלים? זה הזמן לבדוק.