il y a un jourPlus d'un million de personnes chaque semaine montrent des indications troublantes de conversations avec ChatGPT
Periskopi(il y a 8 mois)
(il y a 8 mois)Chaque semaine, plus d'un million d'utilisateurs de ChatGPT envoient des messages indiquant clairement les cibles de suicide prévues ou possibles. La découverte, qui fait partie d'une mise à jour sur la façon dont le chatbot traite les conversations sensibles, est l'une des déclarations les plus directes du géant de l'intelligence artificielle sur l'échelle de la façon dont l'IA [...]
En plus de son évaluation des idées de suicide et des interactions connexes, l'OpenAI a également déclaré qu'environ 0,07% des utilisateurs actifs au cours d'une semaine particulière d'environ 650 000 de ses 800 millions d'utilisateurs hebdomadaires présentent des signes possibles d'urgences en santé mentale associées à la psychose ou à la manie.
Le post a averti que ces conversations étaient difficiles à détecter ou à mesurer, et qu'il s'agissait d'une analyse initiale. Alors qu'OpenAI publie des données sur les problèmes de santé mentale associés à son produit connu, l'entreprise fait l'objet d'un examen de plus en plus important suite à un acte d'accusation largement publié par la famille d'un adolescent décédé de suicide après un engagement généralisé envers ChatGPT.
La Commission fédérale du commerce a également lancé une vaste enquête sur les entreprises qui créent des chatbots d'intelligence artificielle, y compris OpenAI, pour déterminer comment ils mesurent les effets négatifs sur les enfants et les adolescents.
OpenAI a affirmé dans son post que sa récente mise à jour GPT-5 a réduit le nombre de comportements indésirables de son produit et amélioré la sécurité des utilisateurs dans une évaluation modèle impliquant plus de 1000 auto-lancement et suicide.
