בעולם המסחר המקוון שבו כל שנייה קובעת, פייפאל חושפת את NEMO-4-PAYPAL – מערכת רב-סוכנים חדשנית שמשנה את כללי המשחק בפלטפורמת המסחר שלה. השותפות האסטרטגית עם NVIDIA אפשרה שימוש במסגרת NeMo לכוונון עדין של מודלי שפה גדולים (LLM), ובמיוחד החלפת המודל הבסיסי בסוכן החיפוש והגילוי במודל Nemotron SLM מכוון. לפי הדיווח, השיפורים הללו פותרים בעיות ביצועים קריטיות ומקצרים זמני תגובה ביותר מ-50%. (72 מילים)
פייפאל פיתחה את סוכן המסחר Commerce Agent באמצעות NEMO-4-PAYPAL, מערכת רב-סוכנים המיועדת להפוך את חוויית הקנייה הדיגיטלית ליעילה יותר. החברה ניצלה את מסגרת NeMo של NVIDIA לכוונון מודלי LLM ספציפיים למשימות מסחר. בפרט, סוכן החיפוש והגילוי שודרג עם מודל Nemotron קטן (SLM) מכוון, מבוסס על ארכיטקטורת llama3.1-nemotron-nano-8B-v1. הניסויים כללו אימון מודלים מבוססי LoRA עם סריקות שיטתיות של היפר-פרמטרים כמו קצבי למידה, אופטימיזטורים (Adam, AdamW), לוחות זמנים קוסינוסיים ודרגות LoRA. (98 מילים)
התרומות המרכזיות של הפרויקט כוללות את היישום הראשון של מסגרת NeMo של NVIDIA לאופטימיזציה של סוכנים ספציפיים למסחר, אסטרטגיית כוונון LLM למשימות גילוי והחזרה, שיפורים משמעותיים בזמן תגובה ועלויות תוך שמירה על איכות הסוכן, ומסגרת מדרגית לאופטימיזציה של מערכות רב-סוכנים בסביבות מסחר אלקטרוני בפרודקשן. התוצאות מראות כי המודל המכוון פותר בעיית הביצועים המרכזית ברכיב ההחזרה, שמהווה יותר מ-50% מזמן התגובה הכולל של הסוכן, תוך שמירה או שיפור בביצועי המערכת הכלליים. (92 מילים)
השיפורים הללו רלוונטיים במיוחד לעסקים ישראליים בתחום המסחר המקוון, שם זמני תגובה מהירים הם מפתח להתחרותות גלובליות. NEMO-4-PAYPAL מדגים כיצד שילוב טכנולוגיות AI מתקדמות כמו מסגרת NeMo יכול להפחית עלויות תפעוליות ולשפר חוויית משתמש, בהשוואה לפתרונות מסורתיים. השותפות עם NVIDIA מבטיחה מדרגיות גבוהה, מה שמאפשר ל-PayPal להרחיב את היכולות הללו לפלטפורמה שלה. (85 מילים)
למנהלי עסקים, NEMO-4-PAYPAL מצביע על מגמה עתידית: אופטימיזציה של סוכני AI למשימות ספציפיות עסקיות באמצעות כוונון עדין יעיל כמו LoRA. זה אומר פוטנציאל להטמעה מהירה בסביבות פרודקשן, עם חיסכון בעלויות ובזמן. כיצד תוכלו ליישם גישות דומות במערכות המסחר שלכם? (68 מילים)