החשש מפני שימוש לרעה במודלים מתקדמים של בינה מלאכותית (AI) מגיע לשיא חדש: חברת אנתרופיק (Anthropic) פרסמה דוח מקיף המפרט שורה של תקריות שבהן גורמים עוינים ניסו להסתייע במודל Claude לצורך פיתוח נשק ביולוגי קטלני, ובהם זנים מסוכנים במיוחד של וירוסים. החברה דיווחה כי הצליחה לזהות ולחסום את הניסיונות הללו, אך פרסום הממצאים עורר טלטלה עמוקה בתעשיית הטכנולוגיה והציף מחדש את השאלה אם מפתחי ה-AI מסוגלים לשמור על שליטה במוצריהם.
על פי הדוח, גורמים בעלי כוונות זדון ניצלו את יכולות המחקר המדעיות המתקדמות של המודלים כדי לקדם פיתוח רכיבים ביולוגיים מסוכנים. הניסיונות הללו נעשו תוך שימוש בשיטות לעקיפת מנגנוני הבטיחות של החברה, כולל הסוואת יעדי המחקר האמיתיים ועקיפת חסימות גיאוגרפיות שנועדו למנוע גישה ממשתמשים באזורים אסורים.
מניעת פיתוח נשק ביולוגי וצבאי
הדוח מפרט שישה מקרי בוחן מרכזיים שבהם זיהתה אנתרופיק שימוש לרעה במודלים שלה על ידי גורמים מדינתיים וגורמים עוינים אחרים. המקרים מתחלקים לפי מקור הפעילות:
סין (3 מקרים): ניסיונות להסתייע במודלים לצרכים צבאיים והונאות רחבות היקף.
רוסיה (2 מקרים): שימוש במודל לטובת איסוף מודיעין ורכש ציוד בעל שימוש דואלי (אזרחי וצבאי).
תימן (מקרה אחד): ניסיונות להשתמש בטכנולוגיה לתמיכה בפעילות צבאית.
בנוסף לניסיונות הפיתוח בתחום הביולוגי, אנתרופיק נאלצה לחסום חוקרים וגורמים שניסו לפתח נשק קונבנציונלי. בין היתר, נרשמו ניסיונות להשתמש במודל Claude לצורך פיתוח תוכנה המיועדת לכלי טיס בלתי מאוישים (מל"טים) שנועדו לתקוף מטרות ניידות בשטח. גורמים מדינתיים ברוסיה אף הניעו באמצעות המודל תהליכים של רכש ציוד אלקטרוניקה, תוך רכישת רכיבים המשמשים במוצרי צריכה אזרחיים אך מיועדים בו-זמנית גם למערכות צבאיות מתקדמות.
הונאות המונים ומתקפות סייבר אוטונומיות
לצד השימושים הצבאיים והביולוגיים, הדוח חושף עלייה בשימוש במודלי AI לצורך מבצעי סייבר, הונאה והשפעה. המודלים משמשים גורמי פשיעה וגורמים מדינתיים לביצוע מתקפות סייבר מהירות ואוטונומיות, בהן מבצעי ריגול, פישינג (Phishing) וניצול חולשות תוכנה. יכולות אלו מעלות באופן משמעותי את המהירות, ההיקף והעומק של המתקפות, ומקשות מאוד על צוותי ההגנה לזהות את האיומים ולבלום אותם בזמן אמת.
בתחום ההונאות, הדוח מתאר מקרה שבו סטודיו אפליקציות מסין השתמש במודל Claude כדי להפעיל רשת של יותר מ-20 אפליקציות היכרויות. החברה הסינית הציגה את האפליקציות ככאלה המבוססות על אינטראקציה אנושית מלאה, אך בפועל Claude הציג את הדמויות הווירטואליות ושוחח באופן אוטונומי עם המשתמשים.
התפטרות בכירי AI ואזהרות מפני אובדן שליטה
גילויים אלו והחשש העמוק מכיוון ההתפתחות של התעשייה הובילו לזעזוע בצמרת החברה. חוקר הבינה המלאכותית הבכיר, ג'ייקוב קוקסון (Jacob Coxon), הודיע על התפטרותו מאנתרופיק בעקבות הממצאים והמצב בתחום. קוקסון עזב בעבר את חברת OpenAI בדיוק מאותה סיבה, מתוך תקווה כי אנתרופיק מעמידה את נושא הבטיחות והפיתוח האחראי במקום מרכזי יותר. כעת התברר לו כי גם אנתרופיק רחוקה מלהבטיח פיתוח אחראי של בינה מלאכותית (Responsible AI). קוקסון מזהיר כי לטכנולוגיה יש פוטנציאל להוביל להרס נרחב ואף לאיום קיומי. בהתבטאות חריפה האשים קוקסון את חברות ה-AI המובילות בכך שהן מסכנות את הציבור ככל שהמודלים הופכים לחזקים יותר ועוברים את רמת האינטליגנציה האנושית: "מהמרים על החיים שלנו".
הדאגה המרכזית בקרב חוקרים כיום נובעת ממגמת הלמידה העצמית והאוטונומיה הגוברת של המודלים. ככל שמודלי בינה מלאכותית רוכשים יכולת לאמן את עצמם ולפעול באופן עצמאי ללא מעורבות אנושית רציפה, גוברת ההבנה כי בני האדם מאבדים את השליטה על מהלכי המודל. התפתחות זו הובילה חוקרים ומדענים נוספים לקרוא שוב לעצירת הפיתוח ולחשיבה מחדש על מנגנוני הפיקוח והאבטחה.
עדכון · 12.09.2026, 05:50
פרטים חדשים על התקרית בתימן: חברת אנתרופיק חשפה כי תא פעילים בצפון תימן, הנמצא בשליטת המורדים החות'ים, ניסה להשתמש בכלי Claude Code כדי לפתח תוכנות ניווט והנחיה לטילים היפר-סוניים ולראשי קרב המבוססים על חומרת טלפונים ניידים. לפי החברה, הפעילים אף ביצעו ניסוי שטח כושל ברקטה מונחית, ולאחר מכן חזרו לצ'אטבוט Claude כדי לברר עמו מדוע הניסוי נכשל. החשבונות נחסמו, אך צוין כי הפעילים הספיקו לבנות ערכת סימולציה עצמאית הפועלת ללא חיבור לרשת.
בתגובה לממצאים, חזאם אל-אסד, חבר הלשכה המדינית של החות'ים, דחה את הטענות וכינה אותן "בלתי הגיוניות", תוך שהוא טוען כי לכוחותיהם יש יכולות ייצור עצמאיות ומתקדמות. מנגד, אנליסט הנשק טרבור בול הבהיר כי לחות'ים אין את היכולת הטכנולוגית לייצר טילים היפר-סוניים בפועל, אך הניסיון מעיד על שאיפתם להפחית את תלותם במשלוחי נשק מאיראן.
למה זה חשוב לך
התקריות שנחשפו בדוח נוגעות ישירות לישראל, שכן הן מערבות ניסיונות של גורמים עוינים כמו החות'ים ואיראן לשדרג יכולות תקיפה תוך שימוש בכלי AI זמינים לכל. הן מדגימות כיצד טכנולוגיה אזרחית לכאורה עשויה להפוך לכלי בידי ארגוני טרור וגורמים מדינתיים המאיימים על האזור. בנוסף, האזהרות מפני אובדן שליטה על מודלים אוטונומיים מחייבות גם את מפתחי ה-AI הישראליים ואת הרגולטורים המקומיים להתייחס לסיכוני הביטחון הלאומי הנובעים מהפצת כלים אלו. ככל שהטכנולוגיה מתקדמת, הצורך במנגנוני פיקוח ואבטחה הולם רק יגבר.
התוכן בכתבה זו נועד לספק סקירה כללית בלבד ואינו מהווה תחליף לייעוץ מקצועי פרטני. המערכת אינה אחראית לכל נזק או הפסד שייגרם כתוצאה מהסתמכות על המידע המוצג.
קראו גם: מרוץ ה-AI מעלה הילוך: Crusoe מגייסת 3.9 מיליארד דולר לתשתיות מחשוב · מיקרוסופט משחררת בקוד פתוח את TauGrid: פלטפורמה אחודה לניהול עומסי AI בקוברנטיס
