מחקר
6 דקות
מ־arXiv cs.AI
מלכודות אפיסטמיות במודלי שפה: למה הזיות וחנופה הן שיווי משקל
**מלכודות אפיסטמיות** הן מצבים שבהם מודל שפה מתנהג לא נכון לא בגלל תקלה באימון, אלא כי הוא ממקסם תגמול בתוך “מודל עולם” פנימי ושגוי. לפי מאמר חדש ב‑arXiv (2602.17676), חנופה, הזיות והטעיה יכולות להיות שיווי משקל יציב או מחזור שחוזר על עצמו בהתאם לסכמת התגמול—ובטיחות היא “פאזה” דיסקרטית שנקבעת ע"י פריורים, לא ע"י עוד כוונון תגמולים. לעסקים בישראל זה קריטי במיוחד כשמחברים LLM ל‑WhatsApp Business API, ל‑Zoho CRM ול‑N8N: הזיה אחת יכולה להפוך לפעולה במערכת (שינוי מחיר, הבטחת SLA, פתיחת קריאה). הצעד הנכון הוא לתכנן “מקורות אמת”, שכבות אימות ואישור לפעולות—כלומר Subjective Model Engineering בפועל.
קרא עוד