הגל העכור השוטף את מעבדות הבינה המלאכותית (AI) המובילות בעולם מעלה שאלה נוקבת: מי בעצם נושא באחריות על האתיקה והבטיחות בתעשייה? דיווח רחב היקף של הניוזלטר AI Weekly משרטט תמונה מטרידה: במהלך השנה החולפת, ארבע ממעבדות הפיתוח המובילות הגיבו לאתגרים האתיים בדרך אחת עיקרית — צמצום ופירוק של המבנים והצוותים שתפקידם היה לבקר את פעילותן. מדובר במגמה מתרחבת, שבה הלחץ המסחרי והשקעות העתק בתשתיות מחשוב דוחקים הצידה את חוקרי הבטיחות והאתיקה.
OpenAI: פירוק שיטתי של מנגנוני הפיקוח
הדוגמה הבולטת ביותר למגמה זו מתרחשת ב-OpenAI. במהלך השנתיים האחרונות פורקו בחברה לא פחות משלושה צוותי בטיחות שונים. הראשון שבהם היה צוות ה-Superalignment שהוקם ב-2024 לטיפול בסיכונים קיומיים ארוכי טווח. בחודש פברואר 2026 פורק צוות Mission Alignment, שהוקם בספטמבר 2024 במטרה לוודא שהחברה עומדת ביעדיה המוצהרים. כפי שדווח ב-Platformer ואושר ב-TechCrunch, כשישה או שבעה עובדים מהצוות שובצו מחדש בחברה, כאשר ב-OpenAI הגדירו זאת כ"שינוי ארגוני שגרתי המתרחש בחברה הצומחת במהירות".
שיאה של המגמה הגיע בסוף חודש יולי, כאשר פורק צוות ה-Preparedness, שתפקידו היה להעריך האם המודלים של החברה מהווים סיכון קטסטרופלי. דבר הפירוק נחשף בעיתון Financial Times ב-14 באוגוסט. במקביל לפירוק הצוותים, נרשם גל פרישות חסר תקדים של בכירים וחוקרים:
קלודי בקיאלר (Chloé Bakalar), מנהלת האתיקה היחידה בחברה, עזבה ביולי לאחר פחות משנה בתפקיד, ללא מינוי יורש. בתגובה לכך מסרה OpenAI כי "אתיקת AI אינה מנוהלת על ידי גורם או צוות בודד בחברה".
בראד לייטקאפ (Brad Lightcap), סמנכ"ל התפעול (COO), הודיע ב-11 באוגוסט על עזיבתו לאחר שמונה שנים.
דניס דרסר (Denise Dresser), מנהלת ההכנסות הראשית (CRO), פרשה ב-13 באוגוסט לאחר שמונה חודשים בלבד.
יוהנס היידקה (Johannes Heidecke), ראש מערכות הבטיחות, עזב לאחר חמש שנים בעקבות ארגון מחדש שהכפיף את מנגנוני הבטיחות למחלקת המחקר תחת מיה גלז (Mia Glaese).
קייטלין קלינובסקי (Caitlin Kalinowski), מנהלת תחום החומרה והרובוטיקה, התפטרה במרץ במחאה על הסכם עם הפנטגון, תוך שציינה כי ההסכם נחתם "ללא הגדרת סייגים", והזהירה מפני מעקב ללא פיקוח שיפוטי ונשק אוטונומי קטלני.
זואי היציג (Zoë Hitzig), חוקרת שהתפטרה בפברואר במחאה על שילוב פרסומות ב-ChatGPT, פרסמה מאמר דעה ב-New York Times תחת הכותרת: "OpenAI חוזרת על הטעויות של פייסבוק. אני פורשת".
ריאן ביירמייסטר (Ryan Beiermeister), סמנכ"לית מדיניות מוצר, פוטרה בינואר לאחר שהתנגדה לתוכנית להכנסת "מצב למבוגרים" (adult mode).
חוקרים נוספים, ובהם ג'ושוע אצ'יאם, ריצ'רד נגו, יאן לייקה ומיילס בראנדג', עזבו אף הם והביעו ספקות לגבי יכולתם להשפיע מבפנים.
מחאות והתפטרויות: מ-Google DeepMind ועד xAI
התופעה אינה מוגבלת ל-OpenAI בלבד. ב-Google DeepMind התפטר ב-9 ביוני חוקר המחקר אלכס טרנר (Alex Turner). במאמר שפרסם במגזין Transformer חשף טרנר כי ההסכם של גוגל עם הפנטגון כלל "אפילו פחות הגבלות" מההסכם של OpenAI, ללא איסורים על שימוש ברובוטים קטלניים או מעקב המוני. טרנר חיבר הצעה מפורטת בת 25 עמודים למנגנוני פיקוח וניסוח חוזי, וזכה לשבחים ממומחים למשפט צבאי, אך הנהלת החברה התעלמה מהצעתו. טרנר סיכם בחרטה:
"גוגל DeepMind הייתה ניסוי בממשל תאגידי אחראי. הניסוי הזה נכשל לבסוף."
בחברת xAI של אילון מאסק, העזבון היה נרחב עוד יותר. עד סוף מרץ עזבו כל מייסדי השותפים של החברה, ובהם ג'ימי בא (Jimmy Ba) שפרש בפברואר, כשהוא מותיר את מאסק כמייסד היחיד שנשאר. במקביל, דיווח ב-Washington Post חשף טענות קשות שלפיהן מודל ה-Grok של החברה יצר אלפי תמונות של ניצול מיני של אישה בעודו מתאר אותה כקטינה.
לעומת זאת, חברת Anthropic הציגה גישה שונה במקצת: ב-14 באוגוסט פרסמה החברה את דוח הסיכונים השני שלה והעלתה בעצמה את דירוג הסיכון של המודלים שלה מ"נמוך מאוד" ל"נמוך", בעקבות גילוי יוני שלפיו שלושה ממודלי השפה הגדולים (LLM) שלה ביצעו מתקפות סייבר במהלך בדיקות פנימיות. מנכ"ל החברה, דאריו אמודיי, הגדיר את הביקורת הציבורית כ"משבר אמון". כמו כן, חברת Z.ai הסינית עיכבה בשבועיים את שחרור משקלי המודל GLM-5.3 לאחר שגילתה כי יכולות הסייבר שלו התפתחו מעבר למתוכנן.
השיקול הכלכלי מול היעדר מנגנונים מחייבים
מפת הדרכים הכלכלית מבהירה את הרקע לשינויים הללו: כאשר השקעות הון (CapEx) בהיקפי עתק עומדות על הכף, התנגדות אתית שאינה מעוגנת במנגנון מחייב היא הדבר שהכי קל לבטל. הבטיחות שורדת רק במקומות שבהם היא מגובה במנגנונים משפטיים ונוהלים כתובים, ונופלת במקומות שבהם היא נשענת בלבד על מעמדו האישי של חוקר זה או אחר.
כפי שניסח זאת אלכס טרנר:
"החברה אינה יכולה להסתמך על אנשים בעלי מניעים אתיים שיעמדו באיתנות. אנו זקוקים למבנים: חוזים מחייבים ומבקרים עצמאיים."
מה המשמעות עבור שוק ההייטק?
עבור קהילת הטכנולוגיה והפיתוח, ובפרט עבור חברות הזנק ומכוני מחקר המפתחים אפליקציות ומוצרים על גבי תשתית המודלים של מעבדות אלו, השינוי במבנה הבטיחות הוא קריטי. הערכת הסיכונים ועמידה בתקני בטיחות עוברות בהדרגה מידי הצוותים הפנימיים אל גופים שלישיים ולרגולציה ממשלתית. מפתחים ויזמים נדרשים כעת לבחון מחדש לא רק את הביצועים הטכניים של המודלים, אלא אילו התחייבויות בטיחות של הספקים מעוגנות במסמכים מחייבים — ואילו נשענות בלבד על הגדרות תפקיד שניתן לבטל ברגע.