OpenAI 在青少年自杀后为 ChatGPT 增加家长控制

在指控该系统鼓励美国一名 16 岁青少年自杀后，OpenAI 宣布将把家长控制工具集成到 ChatGPT 中。

该公司表示，家长可以将他们的帐户链接到孩子的帐户，并控制 ChatGPT 的回复。如果对话中检测到“强烈痛苦”，家长也会收到通知。

在此之前，自杀受害者的父母提起了诉讼，声称 ChatGPT 提供了指示并鼓励他们的儿子结束自己的生命。OpenAI 表示，它正在不断改进其模型识别和响应精神痛苦迹象的方式，并将在未来几个月内采取更多措施。

某些“敏感对话”将被推荐给更先进的人工智能模型，例如 GPT-5-thinking，以提高安全性。