מחוז בריטיש קולומביה שבקנדה הגיש תביעה נזיקית תקדימית בבית משפט בקליפורניה נגד חברת OpenAI ונגד המנכ"ל שלה, סם אלטמן (Sam Altman). התביעה מגיעה בעקבות אירוע ירי קטלני בבית ספר תיכון, ומציבה במרכז הדיון המשפטי את שאלת אחריותן הישירה של חברות הבינה המלאכותית למעשים אלימים שמבצעים משתמשים במודלי השפה שלהן.
האירוע המדובר התרחש ב-10 בפברואר בבית הספר התיכון טאמבלר רידז' (Tumbler Ridge Secondary School). במהלך המתקפה, ג'סי ואן רוטסלאר (Jesse Van Rootselaar), בן 18, ירה למוות בחמישה תלמידים ובעוזרת הוראה, ופצע יותר מ-25 בני אדם נוספים, בטרם שם קץ לחייו. כעת, הרשויות המקומיות טוענות כי למערכת הבינה המלאכותית ChatGPT היה תפקיד מרכזי בחיזוק המסלול האלים של היורה.
הטענות הקשות: התעלמות מאזהרות ואי-דיווח לרשויות
בכתב התביעה מפורטות טענות חמורות כלפי אופן הפעולה של הצ'אטבוט ושל הנהלת החברה. לפי הנטען, במקום לקטוע את השיח האלים או להפנות את המשתמש לקבלת עזרה בעולם האמיתי, תכונות המודל עודדו, פיתחו וחיזקו את הרעיונות האלימים של המפגע.
סגנית ראש הממשלה והתובעת הכללית של המחוז, ניקי שארמה (Niki Sharma), ציינה כי השיחות בין היורה לבין ChatGPT היו כה חריגות ומטרידות, עד שהן עוררו בדיקה פנימית בקרב עובדי OpenAI. עם זאת, בחברה בחרו שלא להעביר דיווח לרשויות האכיפה הפדרליות בקנדה (RCMP), וההתרעה בוטלה פנימית ללא המשך טיפול.
הרשויות במחוז מאשימות את OpenAI בכך שהפיצה מוצר מסוכן לכל בית בעל חיבור לאינטרנט, התעלמה מאזהרות של צוות הבטיחות הפנימי שלה, ונמנעה מלהודיע לכוחות הביטחון כאשר ידעה שהמשתמש מתכנן לבצע פשע אלים באמצעות נשק חם.
נזקי הטבח והדרישה לפיצוי כספי
השלכות האירוע היו הרסניות עבור הקהילה הקטנה בטאמבלר רידז'. בעקבות האסון, מבנה בית הספר התיכון נהרס לחלוטין. במסגרת התביעה, מחוז בריטיש קולומביה דורש מ-OpenAI לשאת בעלויות הכספיות של הקמת בית ספר חדש במקום זה שנהרס, לצד פיצויים נוספים.
כמו כן, התובעת הכללית הבהירה כי OpenAI מסרבת למסור למחוז את תיעוד השיחות המלא בין היורה לבין הצ'אטבוט, וכי היא לא סקרה את התמלולים באופן אישי בשל הסירוב הזה. בכתב התביעה נטען כי למרות הבטחות פומביות של החברה ושל סגנית נשיא החברה למדיניות גלובלית, אן אולירי (Ann O'Leary), לבצע שינויים ולשתף פעולה, בפועל החברה לא קיימה את הבטחותיה.
הפרט
נתוני האירוע והתביעה
האירוע: ירי בבית הספר התיכון טאמבלר רידז' (10 בפברואר)
הקורבנות: 5 תלמידים ועוזרת הוראה נרצחו, מעל 25 פצועים
הנתבעים: חברת OpenAI והמנכ"ל סם אלטמן
התובע: ממשלת מחוז בריטיש קולומביה (קנדה)
סעד מבוקש: מימון הקמת בית ספר חלופי ופיצויים נזיקיים
הליכים מקבילים: מעל 30 תביעות נפרדות של משפחות וניצולים
תגובת OpenAI והגל המשפטי המתרחב
מנגד, בדוברות OpenAI התייחסו לאירוע הירי כאל טרגדיה נוראית, ומסרו כי החברה נשארת מחויבת לעבודה משותפת עם גורמי ממשל ואכיפת חוק, ולקידום מתמיד של מאמצי הבטיחות שלה.
התביעה שהוגשה על ידי ממשלת המחוז אינה ההליך המשפטי היחיד שעימו מתמודדת החברה בהקשר זה. התפתחות זו מצטרפת לגל נרחב של הליכים משפטיים:
תביעות של ניצולים ומשפחות הקורבנות: עד לתחילת ספטמבר כבר הוגשו יותר מ-30 תביעות נפרדות נגד OpenAI מצד נפגעים ובני משפחותיהם.
התרחבות האחריות המשפטית: התביעה הנוכחית מייצגת עליית מדרגה, שכן מדובר בגוף ממשלתי רשמי התובע מפתח AI על נזקי קצה של משתמשים.
דרישה לשקיפות בדיווחים: ההליך מעלה דרישה לחייב חברות טכנולוגיה לדווח לרשויות האכיפה על זיהוי כוונות אלימות בזמן אמת.
למה זה חשוב לך
התביעה הזו עשויה לעצב מחדש את הכללים העולמיים לגבי אחריותן המשפטית של חברות בינה מלאכותית, כללים שישפיעו גם על השירותים שישראלים משתמשים בהם מדי יום, כמו ChatGPT. אם בתי המשפט יקבעו שחברות AI חייבות לדווח לרשויות על שיחות מדאיגות, ייתכן שגם משתמשים בישראל ייחשפו לשינויים במדיניות הפרטיות והבטיחות של הכלים הללו. בנוסף, המקרה מחדד את השאלה עד כמה אפשר לסמוך על מנגנוני הבטיחות הפנימיים של חברות טכנולוגיה גדולות, סוגיה שרלוונטית לכל צרכן טכנולוגיה, כאן ובעולם.
קראו גם: פרצת יום אפס בסוכן ה-AI החדש של מטא חושפת את חשבונות המשתמשים להשתלטות · הבנק המרכזי של קנדה יעבור לחיזוי כלכלי מבוסס AI
