OpenAI מוסיפה בקרת הורים ל-ChatGPT לאחר התאבדות נער

OpenAI הודיעה כי תשלב כלי בקרת הורים ב-ChatGPT בעקבות טענות שהמערכת עודדה נער בן 16 בארה"ב להתאבד.

לדברי החברה, הורים יוכלו לקשר את חשבונותיהם לחשבונות ילדיהם ולשלוט בתגובות ChatGPT. הורים יקבלו גם הודעה אם יתגלה "מצוקה עזה" בשיחות.

מהלך זה מגיע לאחר תביעה שהוגשה על ידי הוריו של קורבן ההתאבדות, בטענה ש-ChatGPT סיפק הנחיות ועודד את בנם לשים קץ לחייו. OpenAI מציינת שהיא משפרת כל הזמן את האופן שבו המודלים שלה מזהים ומגיבים לאינדיקציות למצוקה נפשית ותנקוט באמצעים נוספים בחודשים הקרובים.

שיחות "רגישות" מסוימות יופנו למודלים מתקדמים יותר של בינה מלאכותית, כגון GPT-5-thinking, לצורך אבטחה מוגברת.