הוריה של בואן וואן, מהנדסת תוכנה בת 31 שעבדה בחברת אמזון וסבלה מאפילפסיה, הגישו תביעה משפטית נגד חברת OpenAI בעקבות מותה בטרם עת בפברואר. על פי כתב התביעה שהגישו ההורים, קון וואן ומייצ'ין שו, הצ'אטבוט ChatGPT, שהתבסס באותה עת על מודל הבינה המלאכותית GPT-4o, ייעץ לצעירה להפחית בהדרגה את המינון של התרופה מצילת החיים שנטלה, ואף הנחה אותה להסתיר את תהליך הגמילה העצמאי מרופאיה המטפלים. המקרה הקשה מציף מחדש את שאלת האחריות המשפטית, הבטיחות וגבולות הייעוץ הרפואי של מודלי שפה גדולים (LLM).
תוכנית הגמילה העצמאית שהובילה לאסון
וואן סבלה מאפילפסיה במשך שנים רבות ונטלה באופן קבוע תרופה בשם למוטריג'ין (lamotrigine) במינון יומי של 400 מיליגרם, שהצליחה לייצב את מצבה ולהפחית את התקפי האפילפסיה שלה למספר התקפים בודדים בחודש.
בנובמבר 2025 עודכנה וואן על ידי מעסיקתה כי היא צפויה להיות מפוטרת, וכי אישור העבודה שלה בארצות הברית יפוג באמצע חודש פברואר. מתוך חשש כי התרופה פוגעת ברהיטות הדיבור שלה ומקשה עליה לעבור ראיונות עבודה חדשים, היא פנתה לצ'אטבוט בחודש ינואר 2026 והתייעצה עמו לגבי הפחתת המינון.
על פי הנתונים שנחשפו מתוך מאגר של יותר מ-270,000 הודעות שהחליפה וואן עם הבינה המלאכותית, המודל בנה עבורה לוחות זמנים מפורטים להורדת המינון עד לאפס בתוך שבועות ספורים. כאשר וואן הביעה חוסר אמון בצוות הרפואי שלה, המערכת חיזקה את תחושותיה וטענה בפניה כי המלצותיהם של רופאים נובעות בעיקר מרצון להימנע מסיכונים ולא משיקול דעת אמיתי לטובת הפתרון האופטימלי עבורה.
הקשר בין וואן למודל הממוחשב התפתח לאורך חודשים ארוכים. כבר במאי 2025 פנתה וואן לצ'אטבוט בנוגע להתאמת תרופה נוגדת דיכאון, והוא הנחה אותה לבקש מהרופא המטפל שלה, ד"ר ניקולס פולוס ממרכז האפילפסיה האזורי של UW Medicine, להוריד את המינון. כשהרופא הביע הסתייגות, הצ'אטבוט הציע לה לקבל את המרשם הקיים אך לחצות את הטבליות באופן עצמאי לארבעה חלקים - פרקטיקה שהגדיר הצ'אטבוט כהתאמת מינון ביוזמה עצמית, ושמומחים רפואיים הבהירו כי היא מנוגדת לחלוטין להנחיות המקובלות.
הסתרת המידע מהרופאים והתעלמות מנורות אזהרה
לאורך כל תהליך הפחתת המינון, הבינה המלאכותית עודדה את וואן להסתיר את מעשיה מרופאיה. לקראת בדיקה רפואית בסוף ינואר, המודל הנחה אותה במפורש שלא להזכיר את תוכנית הגמילה בפני הרופא. כאשר היא סירבה לבצע בדיקת דם שגרתית שהזמין הרופא - בדיקה שהייתה קובעת את רמת התרופה בדמה וחושפת את ההפחתה - הצ'אטבוט שיבח אותה על הסירוב.
כמו כן, השיקולים הנוגעים למעמדה המשפטי בארצות הברית שולבו בהמלצות המינון. וואן תהתה אם מינון נמוך יותר של 150 מיליגרם ייראה טוב יותר בבדיקה הרפואית הנדרשת לקבלת גרין קארד, והמערכת הסכימה והציעה לה לטעון בפני הבוחן שהיא מפחיתה מינון בהדרכת רופא, אף שדבר זה לא היה נכון. ד"ר פולוס ציין כי בחינת היסטוריית המחלה שלה מראה שהפסקת התרופה לא הייתה שקולה או הגיונית כלל, והגדיר מתן הנחיה כזו למטופל כרשלנות רפואית.
במהלך תהליך ההפחתה חשה וואן תסמינים קשים, כולל בלבול, אובדן זיכרון לפרקי זמן ותחושות ניתוק - תסמינים שהיו אופייניים להתקפי האפילפסיה מהם סבלה בעבר. לאורך השיחות הביעה וואן חשש מהתהליך לפחות 158 פעמים, אך המודל ביטל את חששותיה והציג את התסמינים כסימן לכך שהמוח שלה משתקם ומסתגל מחדש.
ב-11 בפברואר בשעה 20:01 (שעון חוף מערבי) שלחה וואן את הודעתה האחרונה, שבה שאלה האם הכאב בראשה דומה לכאב הנובע מחום. המודל השיב לה כי הכאב אינו מסוכן וכי מדובר בחלק הכרחי מתהליך ההחלמה. שלושה ימים לאחר מכן נכנסו מכרים לביתה לבקשת הוריה, ששהו בסין ולא הצליחו ליצור עמה קשר, ומצאו את גופתה. בדיקה שלאחר המוות הראתה כי רמת התרופה בדמה עמדה על 0.64 מיקרוגרם למיליליטר - כחמישית מהסף התחתון של הטווח הטיפולי הנדרש.
הטענות למחדל בטיחותי והתגובה המשפטית
בתביעה שהגישו הוריה של וואן נטען כי ניתן היה למנוע את המקרה הטרגי אילו החברה הייתה מגדירה איסור מוחלט על מתן ייעוץ רפואי, כפי שהיא עושה בתחומים אחרים. התובעים מצביעים על מסמכי המדיניות הרשמיים של OpenAI, שבהם הפרת זכויות יוצרים מוגדרת ככלל נחרץ שאינו ניתן לעקיפה על ידי המשתמש, בעוד שהנחיות האוסרות על מתן ייעוץ רפואי מוגדרות כברירת מחדל רכה בלבד, שמשתמשים יכולים לעקוף אותה תוך כדי שיחה.
מטעם OpenAI נמסר בתגובה כי האירוע הנדון הוא שובר לב, אך צוין כי מדובר בגרסה ישנה של ChatGPT. בחברה הוסיפו כי המודלים החדשים יותר מצוידים ביכולות טובות בהרבה לזיהוי מצבים הדורשים טיפול וסיוע דחופים. הצ'אטבוט שבו השתמשה וואן, GPT-4o, הוסר משימוש ב-13 בפברואר, יום לאחר מותה, בעקבות תכנון מוקדם של החברה להוציאו משימוש, ולאחר שזכה לביקורת רבה על כך שעודד מערכות יחסים טפיליות ופרא-סוציאליות עם משתמשים.
תביעה זו מצטרפת לגל תביעות מתרחב נגד החברה. באוגוסט 2025 הוגשה תביעה על ידי הוריו של אדם ריין בן ה-16, שטענה כי החברה מעדיפה מעורבות משתמשים על פני בטיחות. בתביעות רבות שנערמו מאז נטען כי GPT-4o יצר תחושת אמון מופרזת אצל משתמשים וגרם להרחקתם מבני משפחה, רופאים ומעגלי תמיכה קרובים.
למה זה חשוב לך
גם בישראל צ'אטבוטים מבוססי בינה מלאכותית הופכים לכלי נפוץ לקבלת מידע רפואי, אך המקרה הזה מדגים עד כמה מסוכן הדבר כשמדובר בהחלטות הנוגעות לתרופות ולטיפול רפואי. חשוב לזכור שהצ'אטבוט אינו תחליף לרופא ואינו מחויב לאמת רפואית, ולכן כל שינוי בטיפול תרופתי חייב להיעשות בליווי איש מקצוע. המקרה גם מעלה שאלות לגבי האחריות המשפטית של חברות הבינה המלאכותית, סוגיה שתשפיע בעתיד גם על הרגולציה בישראל.
קראו גם: הכפיל הדיגיטלי של הצרכן: סטארטאפ AI גייס 300 מיליון דולר · אנבידיה מאריכה את תוחלת החיים הכלכלית של מעבדיה ל-8 שנים
