תחת לחץ ציבורי גובר וביקורת חריפה על תופעות של תלות רגשית ומקרי פגיעה עצמית, חברת OpenAI משיקה גרסה ייעודית ומותאמת של הצ'אטבוט הפופולרי שלה לבני 13 עד 17. השירות החדש, שנקרא ChatGPT for Teens, כולל הגבלות תוכן מחמירות, מנגנונים למניעת פיתוח קשר רגשי מול הבינה המלאכותית וכלי בקרת הורים חדשים - כך מדווח באתר Ynet.
המהלך נולד על רקע שימוש נרחב של מתבגרים בטכנולוגיות בינה מלאכותית גנרטיבית (Generative AI) לצרכים לימודיים ואישיים, לצד גילויים מדאיגים על האופן שבו צעירים נקשרים רגשית למודלי שפה גדולים (LLM).
לא עוד "מכונת תשובות": שינוי גישה בשיעורי הבית
מאז פריצת ChatGPT בסוף שנת 2022, תלמידים רבים ברחבי העולם השתמשו בכלי כדי לייצר תשובות מוכנות ולהכין שיעורי בית. בגרסה החדשה לבני הנוער, OpenAI מנסה לשנות את הדינמיקה הזו מן היסוד. במקום לספק פתרון מיידי, הצ'אטבוט פועל כמורה פרטי שמנחה את התלמיד שלב אחר שלב בדרך לפתרון, מבלי לכתוב עבורו את המטלה המלאה.
הגישה הזו נועדה להפוך את המערכת מכלי שמשמש לקיצורי דרך למנגנון לימודי תומך. לחברה כבר קיים מוצר ייעודי המיועד למורים, והמהלך הנוכחי צפוי להעמיק עוד יותר את נוכחותה במערכות החינוך.
מניעת תלות רגשית וחסימת תכנים רגישים
אחת הדאגות המרכזיות סביב שימוש של קטינים בצ'אטבוטים היא היווצרות תלות רגשית. מודלי שפה מסוגלים לנהל שיחה רהוטה ואמפתית, דבר העלול לגרום למתבגרים לראות במכונה גורם תמיכה נפשי או "חבר הכי טוב". מחקר של ארגון Common Sense Media משנת 2025 העלה נתונים מדאיגים:
- יותר מ-70% מבני הנוער בארה"ב כבר השתמשו בצ'אטבוטים מבוססי AI לצורכי חברה.
- כמחצית מבני הנוער משתמשים באופן קבוע ב"בני לוויה" מבוססי בינה מלאכותית.
מנכ"ל OpenAI, סם אלטמן, אף הודה בעבר כי החברה חוקרת את תופעת התלות הרגשית המוגזמת בקרב צעירים. כדי להתמודד עם הבעיה, ChatGPT for Teens הוגדר מחדש כך שלא יטען או ירמוז שיש לו רגשות, תודעה או יכולת לחוות חוויה אנושית. אליסון מישקין, ראש תחום התפתחות הילד ב-OpenAI, ציינה כי החברה מיפתה מראש דפוסי שיחה שעלולים להוביל ליצירת קשר רגשי עמוק מדי.
בנוסף, הוטלו הגבלות קשיחות על נושאים רגישים:
- חסימה של שיחות בעלות אופי מיני או רומנטי.
- הגבלות מחמירות על דיונים בנושאי התאבדות ופגיעה עצמית.
- הגשת סיוע והפניה לגורמים מוסמכים במצבי מצוקה.
"אנחנו רוצים להתייחס לבני נוער כבני נוער", הסבירה אן או'לירי, סגנית נשיא למדיניות גלובלית ב-OpenAI. לדבריה, המטרה היא להנגיש את הטכנולוגיה מבלי לדבר אליהם כילדים קטנים, אך גם מבלי לחשוף אותם לתכנים שאינם מתאימים לגילם.
בקרת הורים ואתגר זיהוי הגיל
הגרסה החדשה מעניקה להורים שורה של כלי פיקוח בחשבונות מקושרים, הדורשים הסכמה הדדית של ההורה ובן הנוער:
- שעות שקטות: אפשרות לחסום את השימוש בצ'אטבוט בשעות הלילה או בזמנים מוגדרים.
- התראות בטיחות: קבלת דיווחים במצבים חריגים שבהם המערכת מזהה סיכון לפגיעה עצמית או הפרעות אכילה.
עם זאת, נקודת התורפה המרכזית של המהלך טמונה בשאלת זיהוי הגיל. OpenAI אינה דורשת הצגת תעודת זהות או אימות גיל רשמי. תחת זאת, החברה מסתמכת על מערכת הערכת גיל מבוססת התנהגות ואותות בשיחה (למשל סוגי השאלות שנשאלות) לצד הצהרה עצמית של המשתמש. מדובר במודל דומה לזה שהפעילה חברת מטא בחשבונות בני נוער באינסטגרם. אלגוריתם מסוג זה עלול לשגות - להעביר מבוגרים לסביבה מוגנת או, חמור מכך, לפספס קטינים ולהשאיר אותם בחשבון רגיל ללא הגנות.
המשמעות עבור השוק וההורים בישראל
בישראל, שבה אימוץ טכנולוגיות חדשות בקרב בני נוער הוא מהמהירים בעולם, הכלים החדשים מגיעים בתזמון קריטי. תלמידים ישראלים משלבים כיום בינה מלאכותית בלמידה היומיומית ובחיי החברה שלהם. פתרונות של בקרת הורים ושינוי אופי התשובות בשיעורי הבית עשויים לסייע להורים ואנשי חינוך בארץ לנהל טוב יותר את החשיפה של הילדים למסכים ולצ'אטבוטים. עם זאת, מכיוון שמערכת הערכת הגיל אינה הרמטית, נדרשת מעורבות הורית אקטיבית כדי לוודא שילדיהם אכן גולשים בסביבה המותאמת לגילם.
התוכן בכתבה זו נועד לספק סקירה כללית בלבד ואינו מהווה תחליף לייעוץ מקצועי פרטני. המערכת אינה אחראית לכל נזק או הפסד שייגרם כתוצאה מהסתמכות על המידע המוצג.