ארבע שעות בלבד לאחר שחברת אנתרופיק (Anthropic) אישרה כי תטמיע סימני מים סמויים בכל טקסט שנוצר על ידי מודלי הבינה המלאכותית מסדרת Claude, מפתחים ברחבי העולם כבר מצאו דרכים יעילות לעקוף את המנגנון. המהלך של אנתרופיק נועד להבטיח עמידה בתקנות חוק הבינה המלאכותית של האיחוד האירופי (EU AI Act), שנכנסו לתוקף מוקדם יותר החודש, אך תגובת הנגד מצד קהילת הקוד הפתוח הייתה כמעט מיידית.
הקוד שהפך ויראלי תוך שעות
המפתח גיום מאייר (Guillaume Meyer) היה הראשון לפרסם קוד שמסיר את סימני המים מתוצרי טקסט של Claude. תוך יממה אחת בלבד, הכלי שפיתח הפך לויראלי בפלטפורמת GitHub, זכה ליותר מ-20,000 שמירות ברשת החברתית X (לשעבר טוויטר), ומשך אליו למעלה מ-100 תורמים שהשתלבו בפרויקט או שילבו את הטכנולוגיה במוצריהם.
מאייר הסביר בשיחה עם WIRED כי חלק מהמפתחים מנסים לעקוף את הסימון מתוך התנגדות עקרונית לתיוג גורף של תוכן נוצר-AI, בעוד שאחרים — והוא ביניהם — פשוט נהנים מהאתגר הטכנולוגי. בנוסף, כותבי תוכן עצמאיים ומנהלי מדיה חברתית כבר פנו אליו בבקשת עזרה ביישום הקוד.
"אינני נגד שקיפות ואני בעד לייחס תוכן למקורו. אני פשוט חושב שסימון מים כשלעצמו הוא פתרון גרוע מאוד, מכיוון שיש לו חסרונות וסיכונים משמעותיים."
מאייר מביע חשש בעיקר מאישומים שגויים (False Positives) ומחוסר היכולת של המנגנון להבדיל בין שימוש קל לשימוש כבד ב-AI. כדובר צרפתית כשפת אם, הוא נעזר לעיתים קרובות בכלים כמו Claude ו-Grammarly לעריכת טקסטים. הסתמכות על סימני מים כראיה חותכת עלולה, לדבריו, להוביל לפסילת מועמדים לעבודה או להאשמות שווא נגד חוקרים.
איך עובדים סימני המים – וכיצד עוקפים אותם?
מנגנון סימון המים של אנתרופיק אינו נראה לעין האנושית. הוא מבוסס על שתילת דפוסים ייחודיים בבחירת המילים והניסוחים של Claude, שניתנים לזיהוי באמצעות אלגוריתם ייעודי. השיטה מבוססת על טכנולוגיית SynthID, שפותחה על ידי גוגל ומשמשת אותה מ-2023. מדען המחשב סקוט אהרונסון הציע שיטה דומה במהלך עבודתו ב-OpenAI, אך החברה נמנעה מיישומה מחשש שזה ירחיק לקוחות.
מפתחים ברחבי העולם הציגו מגוון דרכים לנטרול התיוג:
- שכפול באמצעות מודל חלופי: הכלי של מאייר משתמש במודל שפה גדול (LLM) שלא מטמיע סימני מים כדי לשכתב את הטקסט, להחליף מילים בנרדפות ולשנות קלות את المבנה.
- ניקוי תווים ושינוי מבני: מהנדס התוכנה אריק יוז (Erik Hughes) פיתח תוך 15 דקות כלי שמסיר תווים בלתי נראים, משנה את סדר המשפטים בפסקאות ומחליף מילים.
- תרגום מרובה שלבים: ליאון שלון (Leon Chlon), עמית אורח באוניברסיטת אוקספורד, הסביר כי ניתן להעלים את הסימן על ידי תרגום הטקסט לשפה בעלת במבנה סמנטי שונה (כמו ערבית) וחזרה לאנגלית.
| שיטת העקיפה | מפתח / חוקר | אופן הפעולה |
|---|---|---|
| שרשור מודל חלופי | גיום מאייר | שימוש במודל שפה נוסף לשכתוב והחלפת מילים |
| ניקוי תווים וארגון מחדש | אריק יוז | הסרת תווים סמויים ושינוי סדר משפטים |
| תרגום קודם-חזור | ליאון שלון | תרגום לשפה בעלת מבנה שונה והחזרה לשפת המקור |
אפילו אנתרופיק עצמה הודתה כי תוכן שעבר עריכה מסיבית, ניסוח מחדש או תרגום עשוי לאבד את סימן המים.
הרגולציה האירופית מציבה אולטימטום לתעשייה
התקנות החדשות של האיחוד האירופי מחייבות ספקיות מודלים כמו אנתרופיק ו-OpenAI לסמן תוכן סינתטי — בטקסט, אודיו, תמונה או וידאו — כך שניתן יהיה לזהותו באופן ממוחשב. חברות שלא יעמדו בדרישות צפויות לקנסות של עד 3% מהמחזור השנתי שלהן. החוק אוסר על החברות לשווק כלי עקיפה, אך אינו מטיל מגבלה חוקית על כלים עצמאיים המפותחים על ידי צד שלישי.
כל המודלים החדשים שיושקו החל מאוגוסט מחויבים כוללים סימני מים, ואילו מודלים קיימים יידרשו לשלבם עד דצמבר. כ-190 ארגונים, בהם OpenAI, מיקרוסופט ו-Meta, כבר חתמו על קוד ההתנהגות השקוף של האיחוד.
דובר מטעם אנתרופיק מסר בתגובה ל-WIRED:
"אנו מוסיפים סימון לתוצרי Claude כדי לעמוד בדרישות חוק ה-AI של האיחוד האירופי, ומעבדות אחרות נוקטות צעדים דומים. קשה לזהות טקסט שנוצר על ידי AI, וזה מעניק לאנשים כלים טובים יותר לזיהוי. טקסט ממודלי Claude נתמכים, כולל Claude Code, יישא סימן מים בלתי נראה שלא ישנה את המשמעות, האיכות או הקריאות. אנו מתכננים לשחרר בקרוב גם API לזיהוי טקסט."
השלכות על חברות והייטק ישראלי
עבור מפתחים וחברות הזנק (Startups) ישראליות המפתחות מוצרים המבוססים על ממשקי API של Claude, השינוי מציב דילמה טכנולוגית ועסקית. חברות המייצאות לשוק האירופי מחויבות לעמוד בדרישות השקיפות של חוק ה-AI, אך השילוב של סימני מים סמויים בתוך טקסטים עלול להשפיע על מערכות עיבוד שפה טבעית (NLP) וצינורות פיתוח פנימיים.
וויין פאן (Wayne Pan), סמנכ"ל טכנולוגיות ומייסד-שותף בחברת הבינה המלאכותית Haimaker מעמק הסיליקון, כבר שילב את הכלי של מאייר בפלטפורמה שלו. להערכתו, ניסיונות הסימון של החברות נועדו בעיקר להפגין תום לב כלפי הרגולטורים: "אני לא מאמין שאי פעם יהיה סימן מים שיוכל לעמוד בפני הכל".