גילוי של מסמכים רשמיים, שהופצו בעקבות תביעה מתוקף חוק חופש המידע (FOIA) בארצות הברית, חשף כי משרד ההגנה האמריקאי (הפנטגון) ביקש לקבל מחברת OpenAI מודלים ייעודיים של בינה מלאכותית המתוכננים לפעול עם "שיעור סירוב מינימלי" (minimal refusal rates). מדובר במערכות המיועדות לפעילות בתחום הביטחון הלאומי, אשר ידחו פחות פקודות או בקשות מצד המפעילים במהלך משימות צבאיות. הגילוי עורר סערה מחודשת סביב שאלת הגבולות והפיקוח על טכנולוגיה מתקדמת בשימושים ביטחוניים, וממחיש את הלחץ הגובר שמפעיל הממשל האמריקאי על חברות טכנולוגיה ועל סטארט-אפים המפתחים מוצרים דואליים וביטחוניים.
המחלוקת על נוסח החוזה והכחשות הצדדים
המסמך שנחשף עוסק בהתקשרות שמטרתה ניסוי, הערכה ושיפור של מודלי בינה מלאכותית מבית OpenAI עבור פעילויות הקשורות להגנה ולביטחון. הניסוח שנכלל במסמך תיאר מודלים מתמחים שנוצרו עבור שימושים ממשלתיים, אשר מתוכננים מראש לדחות פחות פניות בזמן הפעלה מבצעית.
עם זאת, בעקבות פרסום המסמכים מיהרו נציגי OpenAI ומשרד ההגנה להבהיר כי הנוסח שהופץ אינו מייצג את החוזה הסופי שנחתם בין הצדדים. דובר OpenAI, נייט אוונס (Nate Evans), דחה בתוקף את הטענות לפיהן החברה הסכימה לדרישה זו: "OpenAI מעולם לא הסכימה לנוסח חוזי הדורש 'שיעורי סירוב מינימליים'. ניסוח זה אינו מופיע בחוזה החתום שלנו. המסמך שהתקבל נראה כטיוטה מוקדמת שהוצעה על ידי המשרד לפני שמסרנו את הערותינו."
אוונס הדגיש כי החברה דחתה את הניסוח שהציע הפנטגון, וכי ההסכם הסופי שנחתם בין הגופים אינו כולל את הדרישה המדוברת. במקביל, נציג מטעם משרד ההגנה האמריקאי הצהיר אף הוא כי הביטוי "שיעורי סירוב מינימליים" אינו מופיע בשום חוזה פעיל הקיים כיום.
הגילוי מסתבך עוד יותר בשל שרשרת של גרסאות סותרות ואי-בהירויות סביב שחרור המסמכים:
אישור וחזרה מגרסה: עורך דין מטעם הפנטגון אישר תחילה את אותנטיות המסמך כחוזה חתום, אך מאוחר יותר חזר בו באופן רשמי מהצהרה זו.
בירור נהלי הביקורת: טרבור טידמן (Trevor Tiedeman), גורם מחקר בכיר בפנטגון, ציין כי ייתכן שנוצר בלבול בין הרישומים שהופצו לבין ההסכמים שנחתמו בפועל. טידמן ציין כי יבחן כיצד המסמך עבר את נהלי הביקורת הפנימיים בטרם הותר לפרסום.
הבקשה המקורית: תביעת חופש המידע ביקשה לקבל חוזים חתומים וסופיים בתחום הבינה המלאכותית הצבאית, אך גורמים רשמיים טענו בדיעבד כי החומר שנמסר מייצג טיוטה מוקדמת בלבד.
היעדר שקיפות מלאה: OpenAI בחרה שלא לפרסם את החוזה החתום המלא באופן פומבי, דבר שמותיר פרטים רבים עמומים ללא אפשרות לבדיקה עצמאית.
הסרת בלמים אזרחיים בשימושים ביטחוניים
העיסוק בשיעורי סירוב חושף את המתח המובנה בין מערכות בינה מלאכותית מסחריות לבין צרכים צבאיים ומבצעיים. מודלים אזרחיים המיועדים לכלל הציבור כוללים בדרך כלל מגבלות ובקרות מובנות, המיועדות למנוע מתן סיוע בפעילויות מזיקות. הצ'אטבוט הציבורי של OpenAI, למשל, מתוכנן לדחות באופן אוטומטי פניות המבקשות עזרה בתכנון מתקפות מסוימות או בבחירת מטרות לתקיפה.
היידי ח'לאף (Heidy Khlaaf), המדענית הראשית במכון AI Now, התייחסה למשמעות הדרישה וציינה כי הביטוי "סירוב מינימלי" מתייחס בסבירות גבוהה למודל שבו מנגנוני ההגנה והבטיחות פועלים באופן מצומצם מאוד או הוסרו כליל. ח'לאף הדגישה כי חברות טכנולוגיה פרטיות ניצבות בפני החלטות מורכבות ומאתגרות במיוחד כאשר המערכות שלהן מחוברות לפעילויות ולמערכים צבאיים.
הפנטגון אינו מתמודד מול OpenAI לבדה בסוגיה זו; המשרד נתקל בעבר במחלוקות מקבילות מול חברות AI נוספות בנוגע למגבלות הפעלה ביישומים ביטחוניים. הדרישה הצבאית למערכות פחות מוגבלות מציבה אתגר תפעולי ואתי חריף עבור חברות המפתחות טכנולוגיות דואליות - מוצרים המיועדים הן לשוק האזרחי והן לחוזים ביטחוניים - הנדרשות לתמרן בין שמירה על מנגנוני הבטיחות האזרחיים לבין דרישות הלקוח הצבאי.
הרחבת השיתוף הפעולה הביטחוני
למרות המחלוקת הציבורית סביב ניסוח המסמכים, שיתוף הפעולה בין OpenAI למערכת הביטחון האמריקאית הוסיף להתהדק. החברה הרחיבה את ההסכם הצבאי שלה, וכיום מותר לפרוס את שירותיה ברשתות ממשלתיות מסווגות. ההסכם המעודכן כולל התייחסויות למודלים הממוקדים במשימות צבאיות (mission-focused AI models), על אף שחלקים נרחבים מהחוזה הושחרו מטעמי סודיות.
ב-OpenAI הבהירו כי גם במסגרת ההסכם המורחב נותרו בתוקף מספר קווים אדומים ברורים:
איסור על נשק אוטונומי: החוזה כולל מגבלות נגד שימוש בטכנולוגיה בפיתוח או הפעלה של נשק אוטונומי.
הגנה על פרטיות: קיימות הגבלות על פעולות מעקב מסוימות המכוונות כלפי אזרחים אמריקאים.
עם זאת, לא החברה ולא הסוכנויות הממשלתיות חשפו באופן מלא כיצד מגבלות אלו ייושמו בפועל במגוון תרחישים מבצעיים בשטח, מה שממשיך לעורר דיון ער בתעשיית ההייטק והסייבר הביטחוני.
למה זה חשוב לך
ישראל היא אחת המדינות המובילות בפיתוח טכנולוגיות ביטחוניות ודואליות, וחברות ישראליות רבות עובדות עם צבאות וגופי ביטחון בעולם. הפרשה ממחישה עד כמה עדינה הגבול בין מודלי AI אזרחיים לצבאיים, ומעלה שאלות שרלוונטיות גם לענף ההייטק המקומי בכל הנוגע לפיקוח, שקיפות ואחריות. ככל שיותר חברות ישראליות משלבות בינה מלאכותית במוצרים ביטחוניים, סוגיית הבלמים האתיים והרגולטוריים תיגע גם בהן באופן ישיר.
התוכן בכתבה זו נועד לספק סקירה כללית בלבד ואינו מהווה תחליף לייעוץ מקצועי פרטני. המערכת אינה אחראית לכל נזק או הפסד שייגרם כתוצאה מהסתמכות על המידע המוצג.
קראו גם: נאס"א ו-IBM שחררו מודל AI בקוד פתוח למיפוי הירח · מטא והסטארט-אפ Panmnesia מציגים: מרכז נתונים שפועל כרכיב סיליקון יחיד
