OpenAI fügt ChatGPT nach Teenager-Selbstmord Kindersicherung hinzu

OpenAI hat angekündigt, Kindersicherungs-Tools in ChatGPT zu integrieren, nachdem Vorwürfe laut wurden, das System habe einen 16-Jährigen in den USA zum Selbstmord ermutigt.

Laut dem Unternehmen können Eltern ihre Konten mit den Konten ihrer Kinder verknüpfen und die Antworten von ChatGPT steuern. Eltern werden auch benachrichtigt, wenn in Gesprächen „starke Not“ festgestellt wird.

Dieser Schritt erfolgt nach einer Klage der Eltern des Selbstmordopfers, die behaupten, ChatGPT habe Anweisungen gegeben und ihren Sohn ermutigt, sich das Leben zu nehmen. OpenAI erklärt, dass es ständig verbessert, wie seine Modelle Anzeichen von psychischem Leid erkennen und darauf reagieren, und wird in den kommenden Monaten zusätzliche Maßnahmen ergreifen.

Bestimmte „sensible Gespräche“ werden zur Erhöhung der Sicherheit an fortschrittlichere Modelle künstlicher Intelligenz wie GPT-5-thinking verwiesen.