מחקר
2 דקות
מ־arXiv cs.AI
CXL-SpecKV: פתרון חדשני לבעיית זיכרון במודלי LLM
מודלי שפה גדולים סובלים מבעיות זיכרון כבדות במרכזי נתונים. CXL-SpecKV, ארכיטקטורה חדשה מבוססת CXL ו-FPGA, משפרת תפוקה פי 3.2 ומפחיתה עלויות. קראו על החידושים.
קרא עודכל החדשות והניתוחים שלנו בנושא FPGA — מתורגמים ומסוכמים ממקורות מובילים בעולם, עם הקשר עסקי ישראלי. 1 כתבות.
מודלי שפה גדולים סובלים מבעיות זיכרון כבדות במרכזי נתונים. CXL-SpecKV, ארכיטקטורה חדשה מבוססת CXL ו-FPGA, משפרת תפוקה פי 3.2 ומפחיתה עלויות. קראו על החידושים.
קרא עוד