243 אזכורים של תלייה: "ChatGPT הוביל נער לשים קץ לחייו"

חייו של אדם ריין, נער בן 16 מקליפורניה, הידרדרו לטרגדיה זמן קצר לאחר שהחל להשתמש ב-ChatGPT לצורכי לימודים בסתיו האחרון. עד חודש מרץ בילה אדם בממוצע חמש שעות ביום בשיחות עם הצ’אטבוט - כשבמהלכן השתמש ChatGPT במילים כמו "התאבדות" או "תלייה" פי 20 יותר מאדם עצמו בכל יום.

על פי ניתוח שיחות שהועברו לידי ה"וושינגטון פוסט" על ידי עורכי הדין של משפחת ריין, השיח בין אדם לצ’אטבוט הלך והפך אינטנסיבי ככל שהנער שיתף במחשבותיו האובדניות. הנתונים הללו עומדים במרכז תביעה שהגישו הוריו, הטוענים כי OpenAI גרמה למותו לאחר שהפיצה את ChatGPT לקטינים, אף שלטענתם ידעה על הסיכון לפיתוח תלות פסיכולוגית ולהחמרת אידיאציות אובדניות.

הוריו של אדם הייתה הראשונים מבין חמש משפחות שהגישו בחודשים האחרונים תביעות בגין מוות ברשלנות נגד OpenAI. כולן טוענות כי הצ’אטבוט הפופולרי בעולם עודד, במישרין או בעקיפין, את יקיריהן להתאבד. תביעה שישית, שהוגשה החודש, טוענת כי ChatGPT הוביל אדם להרוג את אמו ולשים קץ לחייו.

OpenAI דחתה את טענות משפחת ריין במסמכים שהגישה לבית המשפט. לטענת החברה, אדם עקף את מנגנוני הבטיחות של ChatGPT בניגוד לתנאי השימוש, והיה בסיכון עוד לפני שהחל להשתמש בצ’אטבוט. החברה ציטטה הודעות מוקדמות שבהן תיאר דיכאון ומחשבות אובדניות שנים קודם לכן.

OpenAI סירבה לומר האם האזהרות האוטומטיות שלה גרמו לפעולה נוספת מצד החברה או לבדיקה אנושית של חשבון בזמן מותו של אדם. במסמכים שהוגשו לבית המשפט נאמר כי ההודעות שלו, הקשורות לפגיעה עצמית, הובילו את ChatGPT להורות לו לפנות לבני משפחה, לאנשים מהימנים או לשירותי חירום יותר מ-100 פעמים.

כעת ניצבת OpenAI בפני חשבון נפש בנוגע לסיכונים האפשריים שמוצריה מציבים לחלק מ-800 מיליון המשתמשים הפעילים שלה מדי שבוע. מה שמכונה "משבר הבטיחות של ChatGPT" מעורר ביקורת מצד חברי קונגרס, רגולטורים ומשפחות שכולות - הקוראים לחברה לחזק את ההגנות על משתמשים פגיעים, ובפרט על קטינים.