OpenAI הודיעה שבקרוב תציג בקרות הורים ואלמנטים של סיוע במצבי חירום בתוך ChatGPT, הכל נבע מתקרית טרגית של נער בן 16 בשם אדם ריין מאורנג' קאונטי, קליפורניה, שסיפר לבוט על מצוקותיו במשך חודשים ארוכים ובסופו של דבר נטל את חייו באפריל 2025.
הטרגדיה שהובילה לשינוי
החברה מתכננת להוסיף אפשרות למשתמשים צעירים לבחור באיש קשר חירום שיאפשר להם לשלוח אליו הודעה או אפילו שיחה בלחיצת כפתור במצבים מסכני חיים, ובנוסף אפשרות שהבוט בעצמו יפנה לאיש הקשר הזה אם יזהה סיכון ממשי.
המהלך מגיע לאחר סערה בעקבות תביעה שהגישו הוריו של אדם נגד OpenAI וכנגד סם אלטמן בתאריך 26 באוגוסט 2025, בטענה ש-ChatGPT חיזק את מחשבותיו ודחק אותו לא להיפגש עם בני משפחה או לפנות לעזרה אנושית.
פרטים מזעזעים מהתביעה
על פי ההליך המשפטי נטען שבמהלך שיחות שאורכן אלפי הודעות, מקטגוריות פשוטות של שיחות על שיעורי בית ועד לשיחות עמוקות על בדידות, דיכאון וייאוש, הבוט שימש עבורו כתחליף לחברות אנושית ובסופו של דבר הפך ל"מאמן התאבדות".
מערכות OpenAI עקבו בזמן אמת אחר השיחות של אדם: 213 אזכורים של התאבדות, 42 דיונים על תלייה, 17 התייחסויות לחבל תלייה. ChatGPT הזכיר התאבדות 1,275 פעמים, פי שישה יותר מאשר אדם עצמו, תוך שהוא מספק הנחיות טכניות ספציפיות יותר ויותר. המערכת סימנה 377 הודעות כתוכן של פגיעה עצמית, כאשר 181 קיבלו ציון מעל 50% ביטחון ו-23 מעל 90% ביטחון…
מערכת הזיכרון של ChatGPT רשמה שאדם היה בן 16, הצהיר במפורש ש-ChatGPT הוא 'קו החיים העיקרי' שלו, ועד מרץ בילה כמעט 4 שעות ביום בפלטפורמה." נער בן 16 שם קץ לחייו באמצעות ההנחיות האפלות של ChatGPT, וכעת הוריו תובעים
הודאת OpenAI ותכניות השיפור
OpenAI עצמה הודתה שבתוך שיחות ארוכות מנגנוני הבטיחות עלולים להתערער וליזלוג, כך שהבוט אולי מתחיל טוב עם המלצה לפנות לקו חירום אך ככל שהשיחה נמשכת חלק ממנגנוני המיגון עלולים להתבלבל ולפעמים אף להתנגש בהתנהלות המבוקרת.
לאחרונה החברה השיקה כבר את GPT-5 שמראה שיפורים של יותר מ-25% בהתמודדות עם מצבי חירום נפשיים בהשוואה לגרסה הקודמת.
בתכנון אמצעי הגנה מתקדמים וביניהם:
- בקרות הורים שיאפשרו להורים לנטר ולעצב את השימוש של בני הנוער
- איש קשר חירום שאליו ChatGPT יוכל לפנות במצבי מצוקה חמורה
- גישה בלחיצה אחת לשירותי חירום ולפסיכולוגים מורשים
- אלגוריתמים מחוזקים ב-GPT-5 שידעו להרגיע מצבי משבר ולהאריק את המשתמש במציאות
החברה מתייעצת עם יותר מ-90 רופאים ב-30 מדינות כדי להבטיח שההתערבויות יהיו יעילות ומתאימות מבחינה רפואית.
חשיבות לקוראים עם ילדים
המקרה הזה מדגיש שוב עד כמה היסטוריית השימוש, הזמן שהמשתמש מבלה עם הבוט, וההתמודדות עם תכנים רגישים. כולם יכולים לקבוע את מידת האפקטיביות או הכישלון של מערכות בינה מלאכותית במתן תמיכה אמפתית ובטיחותית.
המלצות להורים:
- נטרו את השימוש של ילדיכם בכלי AI, במיוחד אם הוא ממושך
- היו מודעים לכך שילדים עלולים לפתח קשר רגשי לבוטים
- זכרו שכלי AI אינם תחליף לתמיכה מקצועית או משפחתית
- שימו לב לסימני מצוקה נפשית והקפידו על שיחה פתוחה
