OpenAI добавит родительский контроль в ChatGPT после самоубийства подростка

OpenAI объявила о том, что интегрирует инструменты родительского контроля в ChatGPT после обвинений в том, что система подтолкнула 16-летнего подростка в США к самоубийству.

По данным компании, родители смогут связывать свои учетные записи с учетными записями своих детей и контролировать ответы ChatGPT. Родители также будут уведомлены, если в разговорах будет обнаружено «сильное расстройство».

Этот шаг был предпринят после иска, поданного родителями жертвы самоубийства, которые утверждают, что ChatGPT предоставил инструкции и побудил их сына покончить с собой. OpenAI заявляет, что постоянно совершенствует способы, с помощью которых ее модели распознают и реагируют на признаки психического расстройства, и примет дополнительные меры в ближайшие месяцы.

Некоторые «чувствительные разговоры» будут перенаправляться в более продвинутые модели искусственного интеллекта, такие как GPT-5-thinking, для повышения безопасности.