fa un diaMés d'un milió de persones cada setmana mostren indicis inquietants de xat amb ChatGPT
Periskopi(fa 8 mesos)
(fa 8 mesos)Més d'un milió d'usuaris de xatGPT cada setmana envia missatges que inclouen indicis clars dels possibles objectius de suïcidi o possibles. El descobriment, part d'una actualització sobre com el xatbot porta converses sensibles, és una de les declaracions més directes del gegant de la intel·ligència artificial en l'escala de com IA [...]
A més de la seva avaluació d'idees suïcides i interaccions relacionades, l'OpenAI també va dir que al voltant de 0,7% d'usuaris actius en una setmana particular de 60.000 milions d'usuaris setmanals mostren possibles signes d'emergència de salut mental associades amb psicosi o mania.
L'article va advertir que aquestes converses eren difícils de detectar o mesurar, i que això era un anàlisi inicial. Com l'OpenAI publica dades en problemes de salut mental associats amb el seu producte conegut, l'empresa s'enfronta a una revisió creixent després d'una acusació molt greu per la família d'un jove adolescent que va morir de suïcidi després d'un compromís extens amb ChatGPT.
La Comissió Federal de Comerç també va llançar una investigació àmplia en empreses que estableixen xatbots de la intel·ligència artificial, incloent OpenAI, per esbrinar com mesuren efectes negatius en nens i adolescents.
ObreAI va reclamar al seu article que la seva recent actualització GPT-5 va reduir el nombre de comportaments no desitjats del seu producte i va millorar la seguretat de l'usuari en una avaluació d'un model que implicava més de 1.000 vegades auto-startups i suïcidis.
