מפתרון טלאים למערכת אחודה
צוות ההנדסה של שירות הקוברנטיס של מיקרוסופט (Azure Kubernetes Service) הציג פתרון קוד פתוח חדש ברישיון MIT, שמטרתו לפשט את הניהול וההרצה של עומסי עבודה בתחום הבינה המלאכותית. המערכת, הנקראת TauGrid, מאגדת תחת קורת גג אחת מכלול כלי ניהול ותזמור שעד כה דרשו מצוותי תשתיות (Platform teams) ו-DevOps הרכבה ידנית מורכבת. המערכת זמינה להתקנה ולשימוש על גבי כל אשכול קוברנטיס (Kubernetes) מגרסה 1.30 ומעלה המצויד בצומתי מעבדים גרפיים (GPU).
צוותים המריצים מודלים של בינה מלאכותית ולמידה עמוקה על גבי קוברנטיס נדרשים בדרך כלל לתחזק ערכת כלים נפרדת ומורכבת: מערכת תורים לניהול משימות, סביבת הרצה מבוזרת, מנגנוני בדיקת תקינות לרכיבי ה-GPU, לוחות מחוונים לניטור וסדרת סקריפטים שמחברים את כל המרכיבים הללו יחד. TauGrid מצמצמת את כל מלאכת ההרכבה הזו לכדי התקנה יחידה באמצעות מנהל החבילות Helm.
קוד המקור של הפלטפורמה, שנכתב בעיקרו בשפת Go, משלב חמישה רכיבי ליבה:
- ממשק שורת פקודה (tau CLI): כלי עבודה ייעודי המאפשר הגשת עומסים וניהולם.
- ניהול תורים וקבלת משימות: שילוב כלי הקוד הפתוח Kueue לניהול מכסות וסדרי עדיפויות.
- תזמור משימות מבוזרות: הרצת אשכולות Ray באמצעות ה-Operator של KubeRay.
- ניטור רכיבי חומרה: מעקב ברמת הצומת אחר בריאות ותקינות מעבדי ה-GPU.
- יכולת תצפית (Observability): ניטור רציף של מדדי הביצועים והעומסים באשכול.
כיצד מעובדת משימה בתוך המערכת?
תכנון המערכת מבוסס על חלוקת אחריות ברורה: צוות התשתיות אחראי על ניהול סביבות העבודה (Workspaces), התורים, פרופילי המחשוב, האחסון, הזהויות והניטור. מנגד, חוקרי ומפתחי ה-AI עובדים מול מאגר הקוד וממשק שורת הפקודה, ומגישים עומסי עבודה מבלי להידרש להגדרה ישירה של משאבי קוברנטיס.
הגשת עומס עבודה מוגדרת באמצעות קובץ תצורה בשם tau.yaml. לדוגמה, בריצת אימונים של PyTorch על גבי מעבד גרפי מסוג Nvidia A100, הקובץ מגדיר את נקודת הכניסה להרצה, את סוג העומס (כגון RayJob), דרישות החומרה (מספר מעבדי GPU, מעבדים מרכזיים ונפח זיכרון) ואת סביבת ההרצה המבוקשת.
בעת הפעלת הפקודה tau run, המערכת מאמתת את מדיניות הפלטפורמה, מייצרת אובייקט Job או KubeRay RayJob בקוברנטיס, ומעבירה אותו לניהול בתור המשותף של Kueue. התהליך עובר שישה שלבים מוגדרים:
- הגשה (Submission): קליטת הגדרות המשימה והגדרת המשאבים.
- הכנסה לתור (Queueing): תיעדוף ואישור בהתאם למכסות המותרות.
- ביצוע (Execution): השמת המשימה על גבי מעבדי GPU תקינים באשכול.
- ניטור (Monitoring): מעקב רציף אחר הרצה ומדדי ביצועים.
- התאוששות (Recovery): טיפול בניסיונות הרצה חוזרים, חידוש מנקודות שמירה (Checkpoints) ואבחון תקלות.
- תיעוד ראיות (Evidence): תיעוד אוטומטי של המטא-דאטה, היומנים (logs), המדדים ונקודות השמירה המאפשר שחזור מדויק ואימות מאוחר יותר.
גמישות תפעולית ללא תלות מוחלטת בענן
תהליך ההתקנה של TauGrid מבוסס על משיכת חבילת Helm ישירות ממאגר מבוסס OCI ב-Microsoft Container Registry (MCR). תמונות הקונטיינר הרשמיות מסופקות עבור כלי ה-Tau, הפורטל (TauGrid Portal) והבקר המרכזי. ממשק ה-CLI זמין להורדה מעמוד ההפצות (Releases) ב-GitHub עבור מערכות הפעלה Linux ו-macOS, לצד מתקין PowerShell עבור סביבת Windows.
חברות השוקלות את הטמעת הפלטפורמה ימצאו עניין בשני היבטים תפעוליים מרכזיים:
פרטיות ואיסוף נתונים: TauGrid אינה אוספת או שולחת נתוני טלמטריה למיקרוסופט כברירת מחדל. ייצוא נתונים מרוחק נשאר כבוי אלא אם כן מפעיל המערכת הגדיר יעד ייעודי.
תלות בשירותי ענן: כרגע, אינטגרציות מסוימות - ובעיקר כלי התצפית המבוססים על Azure Data Explorer - נותרו ייחודיות לענן של מיקרוסופט. עם זאת, כוונת המפתחים היא לתמוך באשכולות קוברנטיס בעננים שונים ובשרתים מקומיים (On-Premises) ללא תלות ב-Azure, ותרומות קוד מהקהילה בנושא זה פתוחות.
| פרמטר / רכיב | מפרט טכני |
|---|---|
| רישיון | תוכנה MIT (קוד פתוח מלא) |
| דרישות סביבה | אשכול Kubernetes 1.30+ עם צומתי GPU |
| כלי פריסה | kubectl ו-Helm 3.0 ומעלה |
| שפת פיתוח | Go |
| איסוף טלמטריה | מבוטל כברירת מחדל |
| מקור תמונות קונטיינר | Microsoft Container Registry (MCR) |
למה זה חשוב לך
ניהול תשתיות מחשוב עבור בינה מלאכותית הוא אחד האתגרים היקרים והמורכבים ביותר עבור צוותי פיתוח ותשתיות כיום. האיחוד של כלי תזמור, ניהול תורים וניטור חומרה תחת פלטפורמת קוד פתוח אחת מפחית את סרבול התחזוקה ומאפשר לארגונים לנצל משאבי GPU בצורה יעילה ושקופה יותר. היכולת לתעד ולשחזר ניסויי אימון מקלה על עמידה בתקני איכות וביקורת, תוך שמירה על גמישות בבחירת סביבת הענן או השרתים המקומיים.
קראו גם: רשות החדשנות מקימה שתי חממות ל-Physical AI וממשקי אדם-מכונה · סמסונג ו-SK Hynix דחו דרישה לתשלום מראש של מיליארדי דולרים על חשמל
התוכן בכתבה זו נועד לספק סקירה כללית בלבד ואינו מהווה תחליף לייעוץ מקצועי פרטני. המערכת אינה אחראית לכל נזק או הפסד שייגרם כתוצאה מהסתמכות על המידע המוצג.
