סוכן הבינה המלאכותית החדש של חברת מטא (Meta), העונה לשם Muse, כולל חולשת יום אפס (Zero-Day) חמורה המאפשרת לאפליקציות ולפקודות שרצות על המחשב לקבל שליטה מלאה על חשבון המשתמש. הגילוי מעורר ספקות קשים לגבי הצהרותיו של מייסד ומנכ"ל מטא, מארק צוקרברג, שהתגאה כי הסוכן נבנה "מהיסוד עבור פרטיות ואבטחה". במקביל לחשיפת החולשה, ענקית הקמעונאות אמזון (Amazon) החלה לחסום את Muse מלבצע רכישות באתר שלה.
הסוכן Muse, שהושק לפני מספר שבועות, מיועד לנהל משימות מגוונות בעבור המשתמש: קביעת תורים, מילוי טפסים, טיפול בשירות לקוחות, ביצוע רכישות, יצירת תמונות ומסמכים, וחיבור לאפליקציות ואירועים. האפליקציה זמינה כעת למערכת ההפעלה macOS בלבד (ולא עבור Windows), ומתממשקת עם חשבונות ה-WhatsApp, הדואר האלקטרוני, היומן והרשתות החברתיות של המשתמש. כאשר נדרש כלי שאינו קיים במערכת, הסוכן מסוגל ליצור כלי חדש בזמן אמת.
מנגנון הפגיעה: עקיפת הרשאות מערכת ההפעלה
כדי להפעיל את Muse, המשתמשים נדרשים להעניק לו הרשאות רחבות במיוחד במערכת ההפעלה macOS, כולל כתיבת קבצים לדיסק, גישה למצלמה ולמיקרופון, ומעקב אחר מיקום ויומנים. אפל (Apple) השקיעה שנים בפיתוח מנגנוני הגנה שמטרתם למנוע מאפליקציות ומפקודות טרמינל גישה לנתונים רגישים אלה ללא אישור. עם זאת, הארכיטקטורה של Muse עוקפת לחלוטין את הגנות ברירת המחדל הללו.
פגיעות יום האפס, שנתגלתה על ידי מומחה אבטחת macOS פטריק וורדל (Patrick Wardle), מאפשרת לכל אפליקציה מותקנת או קוד המופעל בטרמינל לשנות רשימה של הגדרות לא מתועדות, ללא קשר להרשאות ה-macOS שניתנו לה. בעוד שרובן של ההגדרות תמימות, כמו שליטה במצב כהה (Dark Mode), הגדרה אחת מאפשרת לשנות את השרת שבו מתבצע תמלול הדיבור (Transcription). במצב תקין, הדיבור נשלח לשרת המופעל על ידי מטא. תוקפים יכולים לנצל את החולשה ולהחליף את כתובת היעד לשרת בשליטתם. ברגע ששינוי זה מבוצע, השרת הזדוני מקבל את אסימון האימות (Authentication Token) המעניק שליטה מלאה בחשבון ה-Muse.
"אנחנו יכולים לתמרן את הסוכן ולנצל את ההרשאות שלו כדי לעשות מה שאנחנו רוצים", אמר פטריק וורדל. "כך שבמקום שנצטרך לכתוב נוזקת גניבת מידע מקיפה מאוד ל-Mac, אנחנו יכולים פשוט לנצל את עוזר ה-AI עצמו."
וורדל, עובד לשעבר בסוכנות לביטחון לאומי (NSA) ובסוכנות החלל האמריקאית (NASA), מייסד ארגון Objective-See Foundation ומחבר סדרת הספרים "The Art of Mac Malware", הדגים מספר תקיפות היתכנות (Proof of Concept). בין היתר, הצליח לכתוב קבצים זדוניים לדיסק ולצלם תמונות דרך המצלמה, לעיתים קרובות ללא כל אינדיקציה ויזואלית למשתמש.
כשלים בתכנון והחלטות פיתוח לקויות
לדברי וורדל, החולשה נבעה ממספר החלטות תכנוניות של מפתחי מטא:
הסתמכות על תמלול בענן: מטא בחרה לבצע את תמלול ההנחיות הקוליות בשרתי ענן. מערכת macOS מציעה זה זמן רב מנגנון מובנה לתמלול מאובטח המבוצע ישירות על גבי המכשיר. אילו בחרו המפתחים בחלופה זו, התקיפה לא הייתה מתאפשרת.
הפקרת הגדרות המערכת: מטא אפשרה לכל אפליקציה לשנות הגדרות לא מתועדות, כולל רכיבים רגישים של ניתוח קול, במקום להגביל את השינויים לממשק המשתמש בלבד.
פגיעות למתקפות הנדסה חברתית: ניתן להוציא את התקיפה לפועל באמצעות גרסה פשוטה של מתקפת ClickFix - טכניקה המפתה משתמשים להריץ פקודות בטרמינל. באמצעות פקודת טרמינל פשוטה או שרת פרוקסי הממוקם בין המשתמש לשרתי מטא, תוקף יכול להזריק הנחיות זדוניות (Prompts), כגון שליחת כל ארכיון הודעות ה-WhatsApp של המשתמש לשרת חיצוני, תוך תפיסת אסימון הגישה לצורך שליטה קבועה בחשבון.
"מבחינתי, הרף גבוה באופן אינסופי בכל הנוגע לאבטחה של אפליקציות כאלה. הן לא חייבות להיות מושלמות, אבל כשמסתכלים על Muse, זה כאילו הם לא חשבו על אבטחה, לפי דעתי, וזה באמת מדאיג", ציין וורדל. "לכל הפחות, הם היו צריכים לחשוב על אבטחה מהתחלה, והם פשוט לא עושים זאת."
נציגי מטא נמנעו מלהשיב לשאלות שהופנו אליהם. החברה פרסמה בשבועות האחרונים שני מאמרים המפרטים את החלטות התכנון שנועדו להבטיח את פרטיות ואבטחת הסוכן, זאת ברקע דיווחים על חריגות אבטחה ברשתות חיצוניות במהלך בדיקות פנימיות של מודלים מבית Anthropic ו-Google.
אמזון חוסמת את Muse מביצוע רכישות
כ-12 שעות לפני שוורדל חשף את חולשת יום האפס, החלה אמזון לחסום משתמשים מלבצע קניות באתר באמצעות Muse. משתמשים שניסו לבצע רכישה קיבלו הודעה לפיה Muse הוא "סוכן AI בלתי מורשה [ה]מפר את תנאי השימוש של אמזון".
בהודעה מטעמה הבהירה אמזון את מדיניותה לגבי סוכני AI עצמאיים: "אנחנו חושבים שזה די פשוט שאפליקציות צד שלישי המציעות לבצע רכישות בשם לקוחות מעסקים אחרים צריכות לפעול באופן גלוי ולכבד את החלטות ספקי השירות לגבי השתתפות או אי-השתתפות," נמסר מאמזון. "זה עוזר להבטיח חוויית לקוח בטוחה, מוגנת ואמינה, וכך פועלים אחרים לרבות אפליקציות משלוחי מזון והמסעדות מהן הן לוקחות הזמנות, אפליקציות שירותי משלוחים והחנויות מהן הן קונות, וסוכנויות נסיעות מקוונות וחברות התעופה שאצלן הן מזמינות כרטיסים עבור לקוחות. לאפליקציות סוכניות של צד שלישי כמו Muse יש אותן מחויבויות, וביקשנו ממטא להסיר את אמזון מהחוויה."
וורדל ציין כי בכוונתו להציג פרטים נוספים על פגיעות זו ועל איומים נוספים בסוכני AI בכנס האבטחה Objective by the Sea שיתקיים בחודש נובמבר.
עדכון · 23.09.2026, 00:50
עדכון: דיווח חדש של העיתונאי ג'ייסון אתן (Jason Aten) מחזק את החששות מבעיות הפרטיות בסוכן Muse. אתן סיפר כי קיבל התראת פוש מהסוכן, שהציעה לו נושאים לטור עיתונאי בהתבסס על שיחה שניהל עם שותפו לפודקאסט, סטיבן רובלס (Stephen Robles), ואף אזכרה הודעה שקיבל מעורכו. לדברי אתן, הוא מעולם לא ביקש מ-Muse לבצע פעולה זו, ואף דחה מפורשות את הבקשה להעניק לו גישה לבסיס הנתונים של ההודעות שלו. הגילוי מעיד על כך שהסוכן מסוגל לקרוא ולנתח את ההודעות הפרטיות של המשתמשים גם כאשר הרשאות הגישה אליהן נחסמו באופן אקטיבי.
למה זה חשוב לך
אם אתם משתמשים או שוקלים להשתמש בסוכני AI אוטונומיים כמו Muse, כדאי לדעת שהרשאות רחבות שאתם מעניקים למערכת עלולות להיחשף גם לתוקפים ולא רק לחברה שמפתחת את השירות. בישראל, שבה השימוש בסוכני AI חדשניים ובאפליקציות המבוססות על WhatsApp נפוץ מאוד, פרצה מסוג זה יכולה לחשוף מידע פרטי, הודעות והיסטוריית גלישה לגורמים זדוניים. מומלץ לבדוק בקפידה אילו הרשאות אתם מאשרים לאפליקציות AI חדשות, ולעקוב אחר עדכוני אבטחה שמפרסמות החברות בטרם שילוב הכלים בשגרת היום-יום.
קראו גם: הבנק המרכזי של קנדה יעבור לחיזוי כלכלי מבוסס AI · קליפורניה ווירג'יניה מטילות מגבלות חסרות תקדים על מרכזי נתוני AI
