הזקקת ידע היברידית: קוד שליטה קל לרחפנים עם CoT

בעידן שבו רחפנים הופכים לכלי חיוני בתעשיות שונות, אתגר מרכזי הוא שילוב יכולות יצירת קוד של מודלי שפה גדולים (LLMs) במערכות בעלות משאבים מוגבלים. מחקר חדש מציג גישה משולבת המשלבת הזקקת ידע, הדרכת שרשרת מחשבה (CoT) ואימון עדין מפוקח למשימות שליטה מרובות SDK ברחפנים. הגישה נועדה להעביר יכולות חשיבה מורכבות ויצירת קוד למודלים קטנים יותר, תוך התמודדות עם הסתירה בין צריכת המשאבים הגבוהה של מודלים גדולים לדרישות הזמן אמת והקלות של פלטפורמות רחפנים. השלב הראשון הוא בניית מערך נתונים איכותי המכסה מגוון SDKים מרכזיים של רחפנים. המערך כולל שרשראות הוראה-קוד-היגיון, ומשלב דוגמאות נגדיות היפותטיות להגברת הנתונים. זה מאפשר למודל ללמוד את הלוגיקה המלאה משלב פירוק ההוראה ועד יצירת הקוד. לפי המחקר, מערך הנתונים הזה מדריך את המודל בהבנת הקשרים מורכבים. בשלב ההזקקה, משמש מודל המורה DeepSeek-Coder-V2-Lite שכווץ באמצעות QLoRA. באמצעות אסטרטגיית הזקקה היברידית המשלבת תיבות שחורות ולבנות, מיוצרות תוויות רכות איכותיות של שרשרת מחשבה. תוויות אלה משולבות עם פונקציית הפסד משוקלללת של אנטרופיה צולבת על בסיס תוויות קשות, מה שמעביר יכולות חשיבה מורכבות למודל התלמיד הקטן יותר. הגישה מבטיחה שמירה על דיוק גבוה ביצירת קוד. בנוסף, הנדסת פרומפטים מותאמת לסביבת השליטה ברחפנים משפרת ביצועים במשימות ליבה כמו זיהוי סוג SDK והתאמת קריאות פונקציות. התוצאות הניסוייות מראות כי המודל המוזקק שומר על דיוק גבוה ביצירת קוד, תוך שיפורים משמעותיים ביעילות ההפעלה וההסקה. זה מדגים את ההיתכנות והעליונות של הגישה להשגת שליטה אינטליגנטית מדויקת וקלה משקל ברחפנים. למנהלי עסקים בתחום האווירון והאוטומציה, המחקר מצביע על פוטנציאל לשילוב AI מתקדם במכשירים קצה ללא פשרות על ביצועים. עם התקדמות טכנולוגיית הרחפנים בישראל, גישה זו עשויה לאפשר יישומים חדשים במעקב, לוגיסטיקה וביטחון. האם הגיע הזמן לשדרג את צי הרחפנים שלכם עם AI קל משקל?