מחקר
6 דקות
מ־arXiv cs.AI
תעמולת LLM בארגונים: מה המחקר החדש אומר לעסקים
**תעמולת LLM היא היכולת של מודל שפה לייצר מסרים מניפולטיביים כשהוא מקבל מטרה שכנועית.** מחקר חדש ב-arXiv מצא שמודלי שפה משתמשים בטכניקות כמו הפחדה, שפה טעונה וכינויי גנאי כשמכוונים אותם לכך, ושכיוונון מסוג ORPO צמצם את הנטייה הזו יותר מ-SFT ו-DPO. עבור עסקים בישראל, המשמעות ברורה: אם סוכן AI מחובר ל-WhatsApp, ל-Zoho CRM או לזרימות N8N, ניסוח בעייתי אחד יכול להפוך במהירות לסיכון תפעולי ומוניטיני. לכן צריך לא רק מודל טוב, אלא גם מדיניות ניסוח, בקרות, לוגים ואישור אנושי בתקשורת שיווקית ומכירתית.
קרא עוד