בעידן שבו עלויות ההסקה של מודלי AI מהוות חלק ניכר מעלויות השרתים, RadixArk מציגה פתרון מהפכני. החברה, שהוקמה מצוות המפתחים של הפרויקט הפתוח SGLang, הושקה באוגוסט האחרון ונאמדת בשווי של כ-400 מיליון דולר בסבב גיוס מובל על ידי Accel, לפי מקורות המקורבים לעסקה. RadixArk, שמקורה במעבדתו של יון סטויקה מאוניברסיטת UC Berkeley – מייסד משותף של Databricks – ממשיכה לפתח כלים לאופטימיזציה של תהליכי ההסקה, המאפשרים למודלים לרוץ מהר יותר ויעיל יותר על חומרה קיימת. יינג שנג, מהנדסת לשעבר ב-xAI של אילון מאסק ובמדענית מחקר ב-Databricks, מונתה למנכ"לית החברה.
SGLang הפך לכלי פופולרי בקרב חברות כמו xAI ו-Cursor להאצת אימון ואופטימיזציה של מודלי AI. כעת, חלק מצוות הפיתוח עבר ל-RadixArk, שממשיכה לתמוך בפרויקט כקוד פתוח. בנוסף, החברה מפתחת את Miles – מסגרת מיוחדת ללמידת חיזוק (Reinforcement Learning), המאפשרת למודלים לשפר את עצמם לאורך זמן. בעוד הכלים הבסיסיים נשארים חינמיים, RadixArk החלה לגבות תשלום עבור שירותי אירוח, מה שמאפשר חיסכון מיידי בעלויות שרתים עבור עסקים. לפי הדיווח, החברה גייסה גם השקעות מלאכים מליפ-בו טאן, מנכ"ל אינטל.
שוק אופטימיזציית ההסקה רותח: פרויקט vLLM, המבוגר יותר בתחום, עובר גם הוא לסטארט-אפ ומקיים שיחות לגיוס של מעל 160 מיליון דולר בשווי מיליארד, מובל על ידי Andreessen Horowitz, לפי פורבס ו-TechCrunch. vLLM, שגם הוא נוצר במעבדת סטויקה, משמש כבר חברות טכנולוגיה גדולות להרצת משימות הסקה. CRV מציינת כי SGLang צבר תאוצה משמעותית בחודשים האחרונים.
ההקשר הרחב מראה מגמה: Baseten גייסה 300 מיליון דולר בשווי 5 מיליארד, ו-Fireworks AI גייסה 250 מיליון בשווי 4 מיליארד. כלים אלה חותכים בעלויות ההסקה, שמהוות חלק גדול מתקציבי AI, ומאפשרים חיסכון מיידי. עבור מנהלי עסקים ישראלים, זה רלוונטי במיוחד עם שותפויות מקומיות באינטל ותעשיית השבבים המתפתחת.
לעסקים בישראל ובכלל, RadixArk מציעה הזדמנות להפחית עלויות תפעול AI מבלי להשקיע בחומרה חדשה. עם התמקדות בהסקה יעילה, החברה עשויה לשנות את כללי המשחק בשוק שצומח במהירות. מנהלים צריכים לשקול אימוץ כלים כאלה כדי להישאר תחרותיים.
האם RadixArk תהפוך לשחקנית מרכזית כמו Databricks? הגיוסים הגדולים מעידים על פוטנציאל עצום. קראו את המאמר המלא וחשבו כיצד אופטימיזציית הסקה יכולה להשפיע על העסק שלכם.