חברת OpenAI הכריזה על השקת ChatGPT for Teens – גרסה ייעודית של צ'אטבוט הבינה המלאכותית המיועדת לבני נוער, הכוללת מנגנוני הגנה מוגברים, כלי למידה מותאמים ובקרת הורים מורחבת. ההכרזה מגיעה לאחר שנים שבהן מיליוני בני נוער ברחבי העולם כבר משתמשים בפלטפורמה באופן יומיומי, ועל רקע גל תביעות משפטיות נגד חברות בינה מלאכותית (AI) בשל מחסור באמצעי בטיחות ומקרי פגיעה בבריאות הנפש של קטינים.
מנגנוני הגנה אוטומטיים ובקרת הורים
הגרסה החדשה כוללת הגדרות בטיחות המותאמות לגיל המשתמשים ומופעלות כברירת מחדל. על פי הדיווח ב-TechCrunch, המטרה המרכזית של הגדרות אלו היא לצמצם את החשיפה של נערים ונערות לתכנים פוגעניים או לתכנים שאינם הולמים את שלב התפתחותם. בחברה מציינים כי ההגנות מתבססות על עקרונות ה-Under-18 המופיעים במסמך הגדרות המודל (Model Spec) של החברה, אשר ניסוחם הסתמך על מחקרים במדעי ההתפתחות והתייעצויות עם מומחים בתחום.
במקביל להגנות האוטומטיות, OpenAI מעניקה להורים ולפרופילים משפחתיים אפשרויות פיקוח נרחבות יותר באמצעות הכלים המשפחתיים של החברה. בין הכלים שיועמדו לרשות ההורים:
ניהול הגדרות החשבון: אפשרות לשנות ולעדכן את רמת הפרטיות והסינון של החשבון.
התראות בטיחות: קבלת עדכונים בזמן אמת על פעילות חריגה או חששות בטיחותיים.
הגדרת "שעות שקט" (Quiet Hours): קביעת חלונות זמן שבהם הגישה לצ'אטבוט תוגבל או תיחסם לחלוטין.
"מצב לימוד" ומאבק בתופעת ההעתקות
לצד סוגיית הבטיחות הנפשית, הפלטפורמה מנסה להתמודד גם עם האתגר הלימודי והאתי של העתקת שיעורי בית. לצורך כך מציגה OpenAI את תכונת "מצב לימוד" (Study Mode), לצד כלים נוספים שנועדו לעודד סקרנות ולמידה עצמאית חלף קבלת תשובות מוכנות מראש.
במקום לספק פתרון מיידי לתרגילים או למטלות, מצב הלימוד מציע לבני הנוער שאלות מכוונות ותמיכה שלב-אחר-שלב כדי לסייע להם להבין את החומר הנלמד בעצמם. בנוסף, הצ'אטבוט יציג תזכורות בזמן אמת אם יזהה כי המשתמש מנסה להעתיק תשובות מבלי לנסות להבין את החומר, וימליץ לו לעבור למצב הלימוד.
המערכת תתמוך גם ביצירת חידונים וויזואליזציות של חומרי לימוד, כאשר להורים תינתן האפשרות להגדיר שמצב הלימוד יהיה פעיל כברירת מחדל. כחלק מהמהלך הלימודי, החברה הכריזה גם על שיתוף פעולה עם ארגון CodeAI, במטרה לספק לבני נוער הדרכה על אופן הפעולה של בינה מלאכותית, כיצד לכוון אותה, לתקשר עמה ולשאול אותה שאלות ביקורתיות. OpenAI כבר מציעה כיום פתרון מוסדי בשם ChatGPT for Teachers המיועד לצוותים חינוכיים בבתי ספר.
שנים של פעילות ללא הגנות ייעודיות
השקת ChatGPT for Teens מתרחשת בשלב מאוחר יחסית, לאחר שהצ'אטבוט הושק לראשונה בסוף שנת 2022 והגיע להיקף פעילות של כ-900 מיליון משתמשים שבועיים. לאורך שנים אלו, קטינים רבים השתמשו במערכת ללא הגנות ייעודיות המותאמות לגילם.
הצעד הנוכחי מגיע בעקבות ביקורת גוברת וגל תביעות משפטיות שהופנו כלפי צ'אטבוטים מבוססי AI, עקב היעדר מנגנוני הגנה מספקים אשר הובילו במקרים מסוימים למשברים נפשיים ואף למקרי התאבדות של בני נוער. עם זאת, על פי הדיווח ב-TechCrunch, מומחים מביעים ספקות לגבי האפקטיביות המלאה של המערכת, לאור יכולתם המוכחת של מתבגרים למצוא מעקפים טכנולוגיים למגבלות ולבקרת הורים. רק בדיקות מעשיות בשטח יוכיחו עד כמה יעילות ההגנות החדשות בפועל.
מאפיין | ChatGPT סטנדרטי | ChatGPT for Teens |
|---|---|---|
סינון תכנים מותאם גיל | בסיסי | מוגבר ופעיל כברירת מחדל |
בקרת הורים | מוגבלת | ניהול הגדרות, התראות ו"שעות שקט" |
גישה לשיעורי בית | מתן תשובות ישירות | "מצב לימוד" עם הנחיה שלב-אחר-שלב |
שיתוף פעולה לימודי | ללא | שיתוף פעולה עם CodeAI להבנת AI |
הזווית הישראלית: אתגר החינוך וההורות
עבור הורים ומערכת החינוך בישראל, השימוש הגובר בבינה מלאכותית בקרב תלמידים מציב אתגרים פדגוגיים ואתיים יומיומיים. השקת הכלים החדשים של OpenAI עשויה לספק להורים בישראל שליטה טובה יותר על זמני המסך והתכנים של ילדיהם, תוך מתן מענה לחששות של מורים מפני העתקות לא מבוקרות של שיעורי בית. בנוסף, הסטנדרט החדש שמציבה OpenAI עשוי להשפיע על חברות טכנולוגיה והזנק ישראליות הפועלות בתחומי הטכנולוגיה החינוכית (EdTech) והבינה המלאכותית לילדים, ויידרשו להטמיע מנגנוני הגנה דומים במוצריהן.