בשנים האחרונות התמקד עולם הניטור והתצפיתיות (Observability) בתשתיות תוכנה בשאלה בסיסית אחת: האם המערכת פועלת וזמינה? אולם, חדירתם של סוכני בינה מלאכותית (Agentic AI) לארגונים משנה לחלוטין את הכללים. סוכן אוטונומי יכול להחזיר תשובה במהירות, ללא כל הודעת שגיאה או חריגה מביצועי השרת, ועדיין לספק ללקוח מענה שגוי לחלוטין, להפעיל את הכלי הלא נכון או להתבסס על מאגר מידע מיושן. מבחינת מדדי התשתית המסורתיים המערכת תקינה, אך ברמה העסקית מדובר בכשל פונקציונלי. כדי להתמודד עם הפער המתרחב הזה, אמזון ווב סרביסז (AWS) השיקה באופן רשמי את Amazon CloudWatch Omni - פלטפורמת ניטור ייעודית המיועדת לענות על השאלה ההנדסית המורכבת ביותר בתחום: מדוע הסוכן קיבל את ההחלטה שקיבל?
תחזיות של חברת המחקר IDC מצביעות על כך שעד שנת 2029 יופעלו ברחבי העולם יותר מ- 1 מיליארד סוכני בינה מלאכותית. בהיקפים כאלה, צוותי תפעול אינם מסוגלים לבחון באופן ידני את ההתנהגות הבלתי-דטרמיניסטית של כל סוכן, ומכאן הצורך בכלים אוטומטיים שמסוגלים לאבחן את תהליכי קבלת ההחלטות.
מנוע הערכה במקום ניטור פסיבי
המציאות החדשה מעבירה את דגש הניטור מלוחות מחוונים (Dashboards) פסיביים אל מנועי הערכה אקטיביים. הפלטפורמה החדשה דוגמת כל עקבה (Trace) של פעילות הסוכן וכוללת 17 מנגנוני הערכה מובנים, המסוגלים לדרג פרמטרים כמו עקביות, מועילות, נאמנות למקור ודיוק בניתוב המשימות. בנוסף, המערכת מאפשרת לצוותי הנדסה להשוות גרסאות של הנחיות (Prompts) בסביבת ניסוי, לבנות מאגרי נתוני בדיקה מתוך תנועת משתמשים אמיתית בזמן אמת, ולזהות נסיגה באיכות המענה באופן אוטומטי.
מנגנוני ההערכה יכולים לפעול ברציפות על גבי תנועה חיה, כך שכל ירידה באיכות המענה תייצר התראה מיידית, בדיוק כפי שהיה קורה בעת זינוק בצריכת המעבד.
אחת המאמצות המוקדמות של הטכנולוגיה היא חברת Sony, שהקימה פלטפורמת סוכני בינה מלאכותית התומכת כיום במאות פרויקטים ארגוניים בשלבי פיתוח וייצור.
"ב-Sony, פלטפורמת סוכני ה-AI הארגונית שלנו תומכת כעת במאות סביבות ניסוי וייצור. בהיקף כזה, תצפיתיות והערכה הן חיוניות. עם Amazon CloudWatch Omni, אני יכול לעבור מעקבה בודדת ישירות להערכה, ניתוח AI, השוואה או יצירת מאגרי נתונים." - מסהירו אובה, מנהל חטיבת האצת ה-AI ב-Sony
אובה ציין בנוסף כי הרכבת מאגרי נתונים לצורכי הערכה מהווה לעיתים קרובות צוואר בקבוק עיקרי עבור הצוותים העסקיים, ויצירת מאגר בלחיצת כפתור מעקבות חיות מסירה את החסם הזה.
חיבור ישיר לסביבת הפיתוח והתפעול
אחד השינויים המשמעותיים שמציגה הפלטפורמה הוא היציאה מגבולות קונסולת הניהול המסורתית של AWS, שנבנתה במקור עבור מנהלי תשתיות ולא עבור מהנדסי AI או מהנדסי אמינות אתר (SRE). מפתחים מקבלים הרחבה טבעית לסביבות פיתוח כמו Visual Studio Code, סביבת Cursor ו-Kiro, שבהן ניתן לראות את עקבות הפעילות בזמן הרצת הסוכן באופן מקומי, ללא צורך בחשבון AWS פעיל.
מנגד, אנשי התפעול מקבלים ממשק רשת עצמאי הכולל הזדהות אחודה (SSO) מול ספקי זהות קיימים כמו Okta ו-Microsoft Entra ID. שני הצדדים חולקים שכבת נתונים אחת, כך שהעקבה שמפתח מתקן בסביבת הפיתוח היא בדיוק אותה עקבה שאיש התפעול חוקר בסביבת הייצור.
שילוב המידע בשכבה אחודה אחת מאפשר לקשר בין אירועים ברמת ה-AI לאירועים ברמת התשתית. למשל, חקירה של תקלה יכולה להתחיל בכך שסוכן קיבל תוצאה שגויה מכלי חיצוני, להמשיך בשגיאת ממשק תכנות יישומים (API) כתוצאה מעומס על שירות מסוים, ולהסתיים בניצול מלא של מאגר החיבורים לבסיס הנתונים.
כלי ה-AWS DevOps Agent מופעל כברירת מחדל במהלך מפגשי החקירה הללו, ומבצע הצלבת אותות אוטומטית תוך שמירת היסטוריית חקירה מלאה - נתון קריטי במיוחד עבור גופים מפוקחים הזקוקים לתיעוד לצורכי ביקורת.
חברת Capital One שימשה כשותפה בתהליך העיצוב של המוצר.
"Capital One מפעילה את אחת מתשתיות התצפיתיות הגדולות ביותר במגזר השירותים הפיננסיים. כשותף עיצובי עבור Amazon CloudWatch Omni, סייענו לעצב פתרון תצפיתיות יחיד המבוסס על בינה מלאכותית שמעניק למהנדסים שלנו תובנות טופולוגיות ושילוב שאילתות בשפה טבעית מול כל נתוני הטלמטריה ממשטח עבודה אחד, תוך בעלות מלאה על הנתונים באמצעות OpenTelemetry." - פרבז נאקווי, סגן נשיא לניהול פלטפורמות ענן בהנדסה ב-Capital One
פתוח לתקנים, אך דורש מעקב עלויות
הפלטפורמה מבוססת על תקנים פתוחים ומאפשרת ניטור סוכנים הפועלים ב-AWS או בעננים אחרים. כיום קיימת תמיכה מלאה גם בקליטת נתונים מענן Azure, לצד תמיכה מורחבת בסביבות מרובות עננים (Multicloud) בהמשך.
מסגרות העבודה והתקנים הנתמכים כוללים בין היתר:
תקנים פתוחים: OpenInference ו-AWS Distro for OpenTelemetry.
מסגרות פיתוח לסוכנים: LangChain, LangGraph, CrewAI, OpenAI Agents SDK, Strands ו-Vercel AI SDK.
כלי הערכה חיצוניים: DeepEval, לצד תמיכה אוטומטית בסוכני Amazon Bedrock AgentCore.
מבחינת מודל התמחור, ההרחבה בסביבת הפיתוח ניתנת ללא עלות. הלקוחות משלמים עבור נפח נתוני הטלמטריה שנשלחים ומאוחסנים, בעוד שלוחות המחוונים וההתראות מוגשים בחינם, ושאילתות כלולות בנפח של עד פי 5 מהיקף הנתונים הנקלט בחודש. חשבונות זכאים מקבלים תקופת ניסיון של 30 יום וקרדיט קליטה בגובה 1,000 דולר.
עם זאת, סוכני AI מתאפיינים בתקשורת צפופה: כל הנחיה, קריאה למודל שפה, הפעלת כלי או העברת משימה בין תתי-סוכנים מייצרים מקטע נתונים חדש. כאשר מכפילים זאת במאות תהליכי עבודה ובמנגנוני הערכה רציפים, העלויות של קליטת הנתונים עשויות לתפוח במהירות. לכן, מומחי הנדסה ממליצים לארגונים לקבוע מדיניות דגימה, שימור נתונים ותדירות הערכה עוד לפני העלאת הסוכנים לסביבת ייצור.
למה זה חשוב לך
ככל שחברות ישראליות משלבות סוכני בינה מלאכותית במוצרים ובתהליכים פנימיים, כלים כמו CloudWatch Omni יכולים לחסוך זמן פיתוח יקר ולזהות תקלות לפני שהן פוגעות בלקוחות. עבור מפתחים וארגוני הייטק מקומיים המשתמשים ב-AWS, מדובר בהזדמנות לשלב שכבת בקרה ואמון בסוכני AI מבלי לבנות פתרון כזה מאפס. עם זאת, חשוב לשים לב למודל התמחור המבוסס על נפח נתונים, כדי למנוע חריגות תקציב בלתי מתוכננות בעת הרחבת השימוש בסוכנים.
התוכן בכתבה זו נועד לספק סקירה כללית בלבד ואינו מהווה תחליף לייעוץ מקצועי פרטני. המערכת אינה אחראית לכל נזק או הפסד שייגרם כתוצאה מהסתמכות על המידע המוצג.
קראו גם: עד 97% הנחה ברשת האפלה: גישה למודלי AI הופכת לסחורה מבוקשת · המחסור בשבבים מעמיק: ספקית הענן Nebius מעלה מחירי מחשוב AI בעד 21%
