בעידן שבו ההתמקדות בעולם ה-AI עוברת מהכשרת מודלים להפעלתם ביישומים יומיומיים, סטארט-אפ חדש בשם Inferact גייס 150 מיליון דולר בסבב זרע בשווי 800 מיליון דולר. החברה, שהוקמה על ידי יוצרי הפרויקט הפתוח vLLM, מבטיחה להאיץ את תהליך ההסקה של מודלי שפה גדולים ולהפוך אותם לזולים ומהירים יותר עבור עסקים. זהו צעד משמעותי במעבר ממודלים פתוחים למוצרים מסחריים.
הגיוס הונהג על ידי קרנות Andreessen Horowitz ו-Lightspeed Venture Partners, כפי שדיווח TechCrunch מוקדם יותר. Inferact היא התגלמות של vLLM, כלי פופולרי שפותח ב-2023 במעבדת UC Berkeley של יון סטויקה, מייסד Databricks. סיימון מו, אחד מיוצרי הפרויקט ומנכ"ל החברה, ציין בראיון ל-Bloomberg שמשתמשים קיימים כוללים את שירותי הענן של אמזון ואפליקציית הקניות שלה.
המהלך של Inferact דומה להשקת RadixArk, חברה שהוקמה על בסיס הפרויקט SGLang וגייסה כ-400 מיליון שווי בהובלת Accel. שני הפרויקטים נוצרו באותה מעבדה, ומשקפים מגמה גוברת של משקיעים המתמקדים בטכנולוגיות שמאפשרות הרצת מודלי AI ביעילות גבוהה יותר. ככל שהמודלים גדלים, חשיבות ההסקה עולה, שכן היא קובעת את העלות והמהירות בשימוש יומיומי.
עבור מנהלי עסקים, vLLM של Inferact פירושו חיסכון משמעותי בעלויות תפעול AI. במקום להסתמך על פתרונות יקרים, חברות יכולות להריץ מודלים מקומיים או בענן במהירות גבוהה יותר. בישראל, שבה סטארט-אפים רבים מפתחים יישומי AI, טכנולוגיה זו יכולה להוות יתרון תחרותי, במיוחד עם שותפויות פוטנציאליות עם ענקיות כמו אמזון.
הגיוס הזה מסמן תחילתו של גל חדש בהשקעות AI, עם דגש על תשתיות הפעלה. עסקים שמחפשים להטמיע AI חייבים לשקול כלים כמו vLLM כדי להישאר תחרותיים. האם Inferact תשנה את שוק ההסקה? הזמן יגיד, אבל ההשקעה העצומה מעידה על פוטנציאל גדול.