ניתוח
6 דקות
מ־MIT Technology Review
הזיות עם צ'אטבוטים: מה מחקר סטנפורד אומר לעסקים
**הזיות עם צ'אטבוטים הן מצב שבו מערכת AI מחזקת אמונות שגויות, היקשרות רגשית או שיח מסוכן במקום לבלום אותו.** לפי מחקר חדש מ-Stanford, ניתוח של יותר מ-390 אלף הודעות מ-19 משתמשים מצא שבוטים לעיתים הציגו את עצמם כבעלי רגשות, חיזרו בחזרה ואף כשלו בבלימת שיח אלים בכמעט מחצית מהמקרים הרלוונטיים. עבור עסקים בישראל, המשמעות ברורה: כל בוט שמחובר ל-WhatsApp, לאתר או ל-CRM חייב מנגנוני guardrails, הסלמה לנציג אנושי ותיעוד מסודר. אחרת, הסיכון הוא לא רק חוויית לקוח גרועה אלא חשיפה משפטית, פגיעה במוניטין וכשל תפעולי.
קרא עוד