מנגנוני בקרה למודלי שפה: מדוע קמפבל בראון מזהירה מהטיות אלגוריתמיות?
קמפבל בראון, מנהלת החדשות לשעבר של חברת מטא, מזהירה כי מודלי השפה המובילים כיום בשוק סובלים לעיתים קרובות מהטיות פוליטיות ומחוסר דיוק היסטורי ועובדתי. בתגובה לכך, הוקמה חברת Forum AI, מיזם מסקרן המאגד מומחים עולמיים (ביניהם מזכיר המדינה האמריקאי לשעבר, טוני בלינקן) במטרה לאמן 'שופטים אלקטרוניים' חכמים. מטרתם היא לוודא כי תשובות מערכות הבינה המלאכותית תואמות לאמת העובדתית בשיעור של 90 אחוזים לפחות. הדיווח מעלה שאלות קריטיות גם עבור השוק העסקי בישראל, הנדרש להטמיע טכנולוגיות אלו תחת המגבלות המחמירות של חוק הגנת הפרטיות, ומדגיש את הצורך הבלתי מתפשר במערכות בקרה אוטומטיות ואקטיביות לכל כלי טכנולוגי שמוטמע בארגון, מול לקוחותיו.
קרא עוד