1週間に1万人以上の人がチャットの徴候をChatGPTで表示する

自殺のアイデアや関連相互作用の評価に加えて、OpenAIはまた、約650,000週のアクティブユーザーの約0.07%が精神病やマニアに関連する精神的健康の緊急事態の可能性を示すと述べた。

これらの会話が検出や測定が難しいと警告した投稿で、これが初期の解析でした。 OpenAIは、その既知の製品に関連した精神的健康上の問題に関するデータを公開しているように、同社は、ChatGPTに対する広範なコミットメントの後、自殺者の亡くなった十代の男の子の家族によるはるかに公開された指示に従って成長しているレビューに直面しています。

連邦貿易委員会はまた、彼らが子供やティーンエイジャーにマイナスの影響を測定する方法を見つけるために、OpenAIを含む人工知能チャットボットを確立する企業に広範な調査を開始しました。

OpenAIは、彼女の最近のGPT-5アップデートが、彼女の製品から望ましくない行動の数を減らし、1,000を超える自発および自殺を伴うモデル評価でユーザーの安全を向上させることを主張しました。