מחקר
6 דקות
מ־arXiv cs.AI
הגנת פרטיות ב-LLM בזמן ריצה: מה SemSIEdit משנה לעסקים
**מידע סמנטי רגיש ב-LLM הוא מידע שהמודל מסיק מהקשר ולא רק חושף ישירות.** מחקר חדש ב-arXiv מציג את SemSIEdit, שכבת עריכה בזמן ריצה שמפחיתה דליפה ב-34.6% עם פגיעה של 9.8% בלבד בתועלת. במקום לסרב לענות, המודל משכתב מקטעים רגישים ושומר על תשובה שימושית. לעסקים בישראל זו נקודה קריטית: אם אתם מחברים WhatsApp, CRM ומסמכים פנימיים למודל שפה, הסיכון אינו רק חשיפת מספר טלפון או אימייל אלא הסקת מצב רפואי, שיוך זהות או טענה שעלולה לפגוע במוניטין. המשמעות המעשית היא שצריך להוסיף שכבת בקרה לפלט, במיוחד במרפאות, משרדי עורכי דין, ביטוח ונדל"ן.
קרא עוד