בסוגיית זכויות היוצרים בעידן הבינה המלאכותית היוצרת (Generative AI), אחת השאלות המרכזיות בדיונים משפטיים וברגולציה בעולם היא ממי הועתקה תמונה מסוימת ובאילו יצירות נעשה שימוש כדי ליצור אותה. אולם מחקר חדש שפרסמו חוקרים ממעבדת המחשב והבינה המלאכותית של המכון הטכנולוגי של מסצ'וסטס (MIT CSAIL) בכתב העת Nature Communications, קובע כי ככל שמודלי בינה מלאכותית גדלים, הקשר בין התמונות שהם מייצרים לבין נתוני האימון המקוריים פשוט נעלם.
על פי הדיווח ב-MIT News, החוקרים גילו תופעה שהם מכנים "דעיכת ייחוס" (Attribution Decay). ככל שמודל מאומן על נפח נתונים גדול יותר, כך יורדת השפעתו של כל פריט מידע בודד על התוצר הסופי, עד שהיא הופכת לבלתי מורגשת לחלוטין. במודלים בקנה מידה גדול, ניתן להסיר מנתוני האימון תמונה בודדת, את כל היצירות של אמנית מסוימת או את כל הצילומים של אדם מסוים - והתמונה שהמודל יפיק לא תשתנה באופן ניכר.
"אם לוקחים פיסת מידע והתוצר של המודל אינו משתנה, הרי שפיסת המידע הזו לא השפיעה על התוצר," מסביר ד"ר זנג דאי, חוקר לשעבר ב-MIT CSAIL והמחבר הראשי של המאמר. "לכן אין משמעות לייחוס התוצר לאותה פיסת מידע. ואם עושים זאת בזה אחר זה עבור כל פיסת מידע אחרת ומגלים שהתוצר לא משתנה עבור אף אחת מהן, לא ניתן לייחס את התוצר לאף אחד מהנתונים."
הארכיטקטורה שחשפה את הקשר שנפרם
במחקרים קודמים בתחום ייחוס הנתונים, מדענים נאלצו להשתמש בהערכות מקורבות בלבד. כדי לבדוק באופן מוחלט מה היה מייצר מודל אילו לא נחשף לתמונה מסוימת, היה צורך לאמן את המודל מחדש מאפס בלעדיה - תהליך שחישובית אינו אפשרי כשמדובר במיליוני דוגמאות אימון.
כדי להתגבר על מכשול זה, חוקרי MIT פיתחו ארכיטקטורה חדשה בשם "אנסמבל דיפוזיה" (Diffusion Ensemble). במקום מודל אחוד אחד, הארכיטקטורה מורכבת מרכיבים קטנים רבים, שכל אחד מהם אומן על חלק אחר מהנתונים. כדי לבחון מודל ללא תמונה מסוימת, החוקרים פשוט כיבו את הרכיבים שחשופים אליה, וכך קיבלו מודל נגדי מוחלט ללא צורך באימון מחדש או בהערכות מקורבות.
החוקרים השוו את ביצועי האנסמבלים מול 24 מודלי דיפוזיה (Diffusion Models) קלאסיים שאומנו על אותם הנתונים בדיוק, וגילו כי איכות התמונות שנוצרו הייתה שקולה. יותר מכך - ככל שנפח הנתונים גדל, האנסמבלים הציגו יעילות גבוהה יותר בהשוואה למודלים הרגילים.
| מדד / רכיב במחקר | פירוט הניסוי והממצאים |
|---|---|
| הארכיטקטורה שנבחנה | אנסמבל דיפוזיה (Diffusion Ensemble) מול 24 מודלים קלאסיים |
| היקף מאגרי הנתונים | מ-256 עד יותר מ-160,000 תמונות מ-7 מאגרים ציבוריים |
| המנגנון המתמטי | כיווץ "הרדיוס הקונטרפקטואלי" לפי חוק חזקה הפוך (Inverse Power Law) |
| בדיקות עמידות | אימון 1,282 מודלים נפרדים לאימות התופעה בשיטות פתרון ישירות |
רדיוס השפעה שהולך ונעלם
כדי למדוד את מידת ההשפעה של מידע בודד, החוקרים הגדירו את "היקום הקונטרפקטואלי" של תמונה - אוסף כל הגרסאות החלופיות שלה שיוצר המודל כאשר מסירים פיסת מידע בודדת. המרחק המרבי בין התמונה המקורית לגרסה השונה ביותר נקרא "הרדיוס הקונטרפקטואלי" (Counterfactual Radius).
הצוות אימן 24 אנסמבלים על מאגרי נתונים בגדלים שונים - החל מ-256 תמונות ועד ליותר מ-160,000 תמונות, מתוך שבעה מאגרים ציבוריים מוכרים כמו CIFAR-10, CelebA, MetFaces ו-ArtBench. התוצאות הראו דפוס עקבי: ככל שמאגר האימון גדל, הרדיוס הקונטרפקטואלי התכווץ בהתאם לחוק חזקה הפוך. הדבר הוכח כנכון הן במדידה ברמת הפיקסל והן ברמה הסמנטית.
כדי לוודא שהתוצאה אינה תופעת לוואי של השיטה, החוקרים ביצעו בדיקות עמידות נרחבות, כולל אימון ישיר של 1,282 מודלים נפרדים בקנה מידה קטן, בחינת מודלים המופעלים על ידי טקסט (Text-prompted Models), ומדדי דמיון שונים. התופעה נשארה יציבה בכל המצבים.
השלכות משפטיות ומשמעות להייטק הישראלי
הממצאים מעלים שאלות נוקבות לגבי המעמד המשפטי של תוצרי AI, סוגיית ה"שימוש ההוגן" (Fair Use), והשאלה האם תוצרים אלו נחשבים ליצירות נגזרות המפרות זכויות יוצרים.
"אחת הדרכים לחשוב על זה היא שהמודלים הללו יצירתיים," אומר פרופ' דייוויד גיפורד מ-MIT, מנהל מעבדה ב-CSAIL. "הם לא סתם מעתיקים את מה שהוזן אליהם, אלא יוצרים תוצרים חדשים לחלוטין. אם לתוצרים הללו אין שום קשר למידע אימון פרטני, הדבר מעלה שאלות לגבי זכויות יוצרים וכיצד פיצוי אמור לעבוד כאשר מה שיוצא מהמודל אינו מיוחס לשום דבר ספציפי באינטרנט."
פרופ' ג'יימס גרימלמן, מומחה למשפט מבית הספר למשפטים באוניברסיטת קורנל וקורנל טק, ציין בעקבות המחקר:
"אם ייחוס היה עובד, הוא היה יכול לומר לנו בוודאות אם דמיון בין תוצר המודל ליצירה מוגנת נובע מהעתקה או ממקריות. אך הנייר הזה מספק סיבה לחשוב שייחוס ייכשל במודלים מעניינים, והמשפטנים ובתי המשפט ייאלצו להסתמך על שיטות אחרות כדי להעריך העתקה."
עבור שוק ההייטק הישראלי, שבו פועלות חברות הזנק ומכוני מחקר רבים המפתחים ומאמנים מודלי בינה מלאכותית, למחקר זה משמעות מעשית דרמטית. חברות המפתחות מודלים יוצרים בתחומי התמונה, הווידאו והמדיה (וכן ביישומים מדעיים כמו ניתוח מבנה חלבונים) יוכלו להשתמש בארכיטקטורות מסוג זה כדי להוכיח כי התוצרים שלהן אינם מפרים זכויות יוצרים של אמנים או מצולמים פרטניים. עם זאת, המחקר עדיין השאיר פתוחה את השאלה האם תופעת דעיכת הייחוס מתקיימת באותו אופן גם במודלי שפה גדולים (LLM), העומדים כיום במרכזן של התביעות המשפטיות הבולטות בעולם.
התוכן בכתבה זו נועד לספק סקירה כללית בלבד ואינו מהווה תחליף לייעוץ מקצועי פרטני. המערכת אינה אחראית לכל נזק או הפסד שייגרם כתוצאה מהסתמכות על המידע המוצג.