ארגונים רבים הפועלים בתחום הבינה המלאכותית נתקלים בחודשים האחרונים בחסם תקציבי קשיח. ההתרחבות המהירה של שימוש בסוכני בינה מלאכותית (Agentic AI) ועומסי עבודה מורכבים הובילה לגידול חד ובלתי צפוי בחשבוניות השימוש בשירותי הענן, כאשר תקציבי טוקנים (Tokens) שהוקצו מראש למשך חודשים רבים מסתיימים בתוך שבועות ספורים בלבד.
המציאות הכלכלית הזו מאלצת חברות רבות לחשב מסלול מחדש ולבחון את אסטרטגיית הפריסה שלהן: מעבר למודל היברידי המשלב הרצת מודלים בחומרה מקומית (On-Premise) לצד שימוש במודלי חזית (Frontier) בענן.
הזינוק הבלתי מתוכנן בהוצאות הענן נובע בעיקר מאופיים של סוכנים אוטונומיים. בשונה משאילתות פשוטות, סוכני AI מנהלים תהליכים מרובי שלבים הדורשים תקשורת רציפה, תזמור משימות וחישובים חוזרים ונשנים מול מודלי שפה גדולים (LLM). כתוצאה מכך, הסתמכות בלעדית על מודלים מתקדמים המתארחים בענן הופכת לנטל תקציבי כבד מדי עבור פעילות שוטפת בהיקף נרחב, ומאלצת מנהלי טכנולוגיה לבחון פתרונות אלטרנטיביים.
שחיקה מהירה של תקציבי הענן
האתגר המרכזי המעסיק ארגונים כיום הוא השחיקה המהירה של המשאבים התקציביים בענן. הלן או'סאליבן, מנהלת פיתוח עסקי ומומחית פתרונות בינה מלאכותית בחברת Dell Technologies, ציינה כי חברות רבות מתמודדות עם קושי מיידי וריאלי של ניצול מלא של תקציבי הטוקנים שלהן בזמן קצר בהרבה ממה שתוכנן. לדבריה, תקציבים שיועדו לכסות פעילות של מספר חודשים נגמרים בתוך שבועות ספורים בלבד בעקבות נפח העיבודים הדרוש.
כדי להתמודד עם הלחץ הכספי והמגבלות התקציביות, ארגונים מתחילים לאמץ גישה גמישה ומעורבת. במסגרת תפיסה זו, החברות ממשיכות להסתמך על מודלי החזית המתקדמים בענן עבור המשימות המורכבות ביותר, אך מעבירות חלק ניכר מעומסי ההסקה (Inference) אל תשתיות מקומיות. הסטה זו נעשית באמצעות שימוש במודלים בעלי משקלים פתוחים (Open-weight models), דבר המאפשר להפחית באופן משמעותי את התלות בחשבוניות הטוקנים החודשיות של ספקיות הענן ולמנוע חריגות תקציביות חדות.
ניצול מעבדים קיימים במרכזי הנתונים
סוגיה מרכזית נוספת העולה מתוך השינוי בעומסי העבודה היא סוג החומרה הנדרש להרצת המערכות. אף על פי שקניינים וארגונים רבים מוסיפים להתמקד ברכישת מעבדים גרפיים (GPUs) מתקדמים ומחפשים להשיגם במהירות המרבית, הדרישות של סוכני בינה מלאכותית משנות בפועל את תמהיל החומרה האפקטיבי. מערכות של סוכני AI דורשות מענה מקיף הכולל תזמור תהליכים, הסקה ומחשוב קצה (Edge computing). רכיבים אלה מטילים עומס עיבוד משמעותי דווקא על המעבד המרכזי (CPU).
או'סאליבן ציינה כי הצוות שלה חזה את הסטת הניצולת לכיוון המעבדים המרכזיים כבר לפני מספר חודשים, על אף שחלק גדול מהלקוחות בשוק עדיין ממוקד בעיקר ברכישת מעבדים גרפיים.
טים ווד, מנהל מכירות אזורי בחברת Intel, הסביר כי בארגונים רבים כבר קיימת תשתית נרחבת של מעבדים מרכזיים בתוך מרכזי הנתונים (Data centers) שלהם. לטענתו, בתשתיות הקיימות הללו ישנם משאבים פנויים וקיבולת חישוב שלא נוצלה, אשר מסוגלת להתמודד בהצלחה עם חלק מאפליקציות הדור הבא ועומסי העבודה של ה-AI. ניצול המשאבים הקיימים מאפשר לארגונים לבחון את אפשרויות הפריסה בסביבות ניסוי (Sandbox) עוד לפני התחייבות לייצור מלא, ולחסוך בהוצאות הון מיותרות.
הסתכלות כוללת על המידע והאסטרטגיה
מומחי החברות מציינים כי מעבר מוצלח לארכיטקטורת מחשוב מקומית או היברידית דורש הערכה מקיפה של כלל מערך הטכנולוגיה (Technology Stack), תוך שקילה מחושבת של מודל הוצאות ההון (CapEx) מול הוצאות תפעוליות (OpEx). במקום להתרכז אך ורק ברכישת החומרה המהירה ביותר בשוק, ארגונים נדרשים להתמקד בניהול נכון של המידע שלהם ובחיבור ישיר בין פרויקטי הבינה המלאכותית ליעדים העסקיים של החברה.
אסטרטגיית העבודה המסתמנת במעבר לחומרה מקומית כוללת:
הערכת תשתיות קיימות: מיפוי קיבולת ה-CPU הפנויה במרכזי הנתונים של הארגון לפני השקעה ברישיונות או בחומרה חדשה.
סביבות ניסוי מבוססות מודלים פתוחים: ניתוח עומסי העבודה באמצעות מודלים פתוחים בסביבת ניסוי לצורך הערכת הביצועים והעלויות הצפויות.
התאמה ליעדים עסקיים: הגדרת מטרות מדידות לפרויקטי בינה מלאכותית המשתלבות באסטרטגיה התאגידית, במקום פיתוח טכנולוגי ללא תכלית מוגדרת.
מיקוד באיכות הנתונים: תפיסה שלפיה המפתח לביצועי המערכת טמון בארגון וניהול הנתונים ולא רק בעוצמת המעבדים הגרפיים.
השילוב בין מודלים פתוחים, תשתיות מחשוב מקומיות וניצול מעבדים מרכזיים קיימים מאפשר לחברות לשמור על מדרגיות (Scalability) גבוהה של מערכות הבינה המלאכותית שלהן, תוך שמירה על שליטה מלאה בעלויות הפיתוח וההפעלה.
למה זה חשוב לך
גם חברות ישראליות, מהסטארט-אפים ועד הארגונים הגדולים שמטמיעים כלי AI בעבודה השוטפת, חשופות לאותה תופעה של עלייה חדה בלתי צפויה בחשבוניות הענן ככל שהשימוש בסוכנים אוטונומיים גדל. מי שמתכנן תקציב טכנולוגי לשנה הקרובה כדאי שיביא בחשבון את האפשרות של מודל היברידי, המשלב חומרה מקומית לצד שירותי ענן, כדי להימנע מחריגות תקציביות. בנוסף, ארגונים שכבר משקיעים בתשתיות שרתים מקומיות עשויים לגלות שיש להם קיבולת מחשוב קיימת שלא מנוצלת, ושימוש בה יכול לחסוך כסף רב לפני רכישת חומרה יקרה חדשה.
התוכן בכתבה זו נועד לספק סקירה כללית בלבד ואינו מהווה תחליף לייעוץ מקצועי פרטני. המערכת אינה אחראית לכל נזק או הפסד שייגרם כתוצאה מהסתמכות על המידע המוצג.
קראו גם: אנתרופיק משקיעה 100 מיליון דולר בהכשרת מהנדסי AI ארגוניים · קרן המטבע מזהירה: קריסה במניות ה-AI מסכנת את היציבות הפיננסית
