מנכ"ל ומייסד-שותף של חברת אנתרופיק (Anthropic), דאריו אמודיי, פרסם מאמר עמדה מקיף באורך של 3,800 מילים, שבו קרא להאטה גלובלית ומבוקרת בקצב הפיתוח של טכנולוגיית בינה מלאכותית (AI). אמודיי, שהקים את אנתרופיק במטרה להתמקד בפיתוח בטוח וזהיר של מודלים מתקדמים, הבהיר כי קצב התקדמות היכולות הטכנולוגיות מהיר מדי כיום מכדי שחוקרי הבטיחות יוכלו להבטיח שליטה מלאה במערכות. הקריאה מגיעה ימים ספורים בלבד לאחר שעובד בחברה הגיש את התפטרותו על רקע חששות מסיכוני הבטיחות של הטכנולוגיה, ומהווה תזכורת ליזמים ולמפתחים בענף בדבר האתגרים הכרוכים בריצה המהירה של התעשייה.
הקריאה לוויסות הקצב ולמנגנוני פיקוח חיצוניים
במאמרו מציין אמודיי כי אף על פי שהוא מוסיף להאמין בפוטנציאל של הבינה המלאכותית להביא תועלת אדירה לאנושות, כגון ריפוי מחלות והאצת הצמיחה הכלכלית, הסיכונים הכרוכים בפיתוח לא מבוקר הפכו למוחשיים ודחופים יותר מאי פעם. לדבריו, הניסיון להסתפק בהשקעה במניעת סיכונים במקביל לפיתוח מואץ אינו מספיק עוד, ויש צורך פעיל בהאטת קצב השדרוג של מודלי הקצה.
"במהלך החודשים האחרונים הפכתי למשוכנע כי טיפול מלא בסיכונים דורש זהירות רבה אף יותר - לא רק השקעה במניעת סיכונים, אלא ויסות קצב התקדמות היכולות כך שלמניעת הסיכונים יהיה זמן להדביק את הקצב", כתב אמודיי. "עלינו להאט את הקצב שבו אנו משפרים את היכולות של מודלי AI. ההתקדמות עדיין תיראה מהירה, ועלינו לעשות שימוש מושכל בזמן שנרוויח."
כדי לממש את ההאטה המבוקשת בפועל, מציע מנכ"ל אנתרופיק מודל פיקוח חדש לתעשייה. במסגרת ההצעה, כל מעבדות הבינה המלאכותית המובילות יסכימו להכניס לשורותיהן "מעריכים מוטמעים" - מומחים חיצוניים ובלתי תלויים שיבחנו את הטכנולוגיה ויאשרו כי החברות אכן עומדות בנהלי הבטיחות המחמירים ביותר.
מסטנדרטים דמוקרטיים ועד שיתוף פעולה עם משטרים אוטוריטריים
לפי אמודיי, פתרון פנימי בתוך שוק ההייטק אינו מספיק, ונדרשת התערבות רגולטורית מקיפה ומתואמת. הוא קורא למדינות בעלות מערכות ממשל דמוקרטיות לאחד כוחות וליצור תקני בטיחות מחייבים, שיוכלו לקבל תוקף של חוקים ורגולציות. עם זאת, אמודיי מדגיש כי האטה חצי-גלובלית לא תועיל אם מדינות אחרות ימשיכו בפיתוח ללא סייג. על כן, להערכתו יידרש מאמץ בינלאומי רחב היקף, שיכלול גם שיתוף פעולה ותיאום הדוקים עם מדינות בעלות משטרים אוטוריטריים.
אמודיי מזהיר במאמרו מפני התרחיש שבו היכולות ימשיכו להתפתח ללא בלמים: "אם תותר ללא פיקוח, היא עלולה לעקוף את היכולת שלנו להבין ולשלוט במערכות אלו, ולכן יש לקדם אותה בזהירות רבה, אם בכלל."
טלטלה בתעשייה: התפטרויות ומסר מקביל מ-OpenAI
העיתוי של מאמר העמדה אינו מקרי. ימים ספורים לפני פרסומו, עזב את אנתרופיק עובד בחברה במחאה על אופן התנהלותה בסוגיות בטיחות הטכנולוגיה - אירוע שהגביר את הלחץ הציבורי והפנימי על הנהלת החברה. במקביל, המסר בדבר הצורך בהאטה אינו מוגבל רק לאנתרופיק. מנכ"ל OpenAI, סאם אלטמן, מסר לאחרונה לעובדיו כי החברה פתוחה אף היא להאטת קצב פיתוח הבינה המלאכותית על רקע חששות בטיחותיים דומים.
המגמה המסתמנת בקרב מובילות התחום מעמידה סימן שאלה מול המרוץ הטכנולוגי המהיר של השנים האחרונות, ומבהירה ליזמים, למפתחים ולמשקיעים כי שלב הפיתוח ללא גבולות עשוי לפנות את מקומו לעידן של רגולציה הדוקה, בדיקות עומק ופיקוח חיצוני.
אמודיי סיכם את מאמרו בהכרה בקשיים הצפויים מיישום המהלך: "הצעדים שאני מציע כדי לקדם את החזית בקצב בטוח לא יהיו קלים. אבל אני מאמין שאנו חייבים זאת לאנושות לנסות."
עיקרי ההצעה להאטת פיתוח ה-AI:
- האטת קצב השדרוג: ויסות התקדמות היכולות של המודלים כדי לאפשר למחקר הבטיחות להדביק את הפער.
- פיקוח חיצוני מוטמע: שילוב מומחים בלתי תלויים במעבדות הפיתוח לבחינת נהלי עבודה ובטיחות.
- תקנים רגולטוריים: יצירת מסגרת חוקית מחייבת במדינות בעלות משטר דמוקרטי.
- תיאום גלובלי: שיתוף פעולה בינלאומי רחב, הכולל גם מדינות בעלות משטרים אוטוריטריים.
עדכון · 14.09.2026, 00:50
הקריאות להאטה נתקלות כעת בהתנגדות הדרגים המדיניים הבכירים: נשיא ארה"ב דונלד טראמפ דחה את הקריאות להאטת הפיתוח והזהיר כי עיכוב יביא לאיבוד ההובלה האמריקאית לסין. "מי שמנצח בבינה המלאכותית - מנצח בכל", הבהיר טראמפ, והגדיר את אזהרות הבטיחות כחששות שמועלים על ידי "כוחות שליליים".
גם יו"ר בית הנבחרים, מייק ג'ונסון, התנגד להקפאת הפיתוח בעוד בייג'ינג ממשיכה להתקדם, כאשר במקביל הציע נשיא סין, שי ג'ינפינג, להקים "אזור AI בקוד פתוח" בין מדינות BRICS.
מנגד, דאריו אמודיי החריף את אזהרותיו וציין כי תוך 6-12 חודשים סוכני AI עוצמתיים עלולים להשתלט על האינטרנט. אנתרופיק אף חשפה כי בלמה שימוש במודל Claude בידי גורמים איראניים לאיסוף מידע על ספינות צי ארה"ב ולניסיונות פיתוח נשק ביולוגי.
על רקע סיכוני הבטיחות הללו, הצטרפו לקריאות להאטה ולפיקוח גם אילון מאסק ודמיס חסאביס, בעוד מנכ"ל OpenAI סאם אלטמן פסל הנפקה של החברה ב-2026 בשל בעיות הבטיחות הקיימות.
עדכון · 14.09.2026, 04:51
הוויכוח סביב האטת הפיתוח של הבינה המלאכותית מתרחב ויוצר חזיתות חדשות בתעשייה ובממשל: בעוד שהקריאות הבולטות ביותר לריסון הפיתוח מגיעות מצד מעבדות ה-AI עצמן המפתחות את הטכנולוגיה, ספקית השבבים אנבידיה (Nvidia), המוכרת להן את החומרה, מספקת את אחת התגובות החריפות ביותר נגדן. בחברה דוחים את אזהרות הבטיחות ומגדירים את הקריאות להאטה כלא יותר מאשר "תרגיל שיווקי". במקביל לתגובה החריפה מצד ענקית השבבים, הסוגיה מעוררת כעת התעוררות ופעילות מחודשת גם במסדרונות הקונגרס האמריקאי.
למה זה חשוב לך
הוויכוח על קצב פיתוח הבינה המלאכותית אינו עניין תיאורטי רחוק - הוא ישפיע ישירות על הכלים שבהם ישראלים משתמשים בעבודה, בלימודים ובחיי היומיום, ועל רמת הבטיחות והפיקוח שיחולו עליהם. חברות ישראליות רבות משלבות מודלים של אנתרופיק ו-OpenAI במוצריהן, כך שכל שינוי רגולטורי או האטה בפיתוח עלול להשפיע על הזמינות והעלויות של הטכנולוגיה בישראל. בנוסף, החשיפה בדבר ניסיונות שימוש לרעה במודלים על ידי גורמים עוינים מדגישה עד כמה שאלות הבטיחות רלוונטיות גם מבחינת ביטחון לאומי.
התוכן בכתבה זו נועד לספק סקירה כללית בלבד ואינו מהווה תחליף לייעוץ מקצועי פרטני. המערכת אינה אחראית לכל נזק או הפסד שייגרם כתוצאה מהסתמכות על המידע המוצג.
קראו גם: בכיר במיקרוסופט: אימון AI הוא "גניבת העבודה הגדולה בהיסטוריה" · בייג'ינג דוחה קריאות בלם מסיליקון ואלי: "ניסיון לבלום את סין"
