acum o ziPeste un milion de persoane în fiecare săptămână prezintă indicii tulburătoare de chat cu ChatGPT
Periskopi(acum 8 luni)
(acum 8 luni)Mai mult de un milion de utilizatori ChatGPT în fiecare săptămână trimit mesaje care includ indicații clare cu privire la țintele de sinucidere planificate sau posibile. Descoperirea, parte a unei actualizări a modului în care chatbotul se ocupă de conversații sensibile, este una dintre cele mai directe declarații ale gigantului inteligență artificială pe scara de cum IA [...]
Pe lângă evaluarea ideilor suicidare şi a interacţiunilor asociate, OpenAI a mai afirmat că aproximativ 0,07% dintre utilizatorii activi într-o săptămână anume de aproximativ 650.000 din cei 800 de milioane de utilizatori săptămânali ai săi prezintă posibile semne de urgenţe de sănătate mintală asociate psihozei sau maniei.
Postul a avertizat că aceste conversaţii sunt greu de detectat sau măsurat şi că aceasta a fost o analiză iniţială. În timp ce OpenAI publică date privind problemele de sănătate mintală asociate cu produsul său cunoscut, compania se confruntă cu o revizuire în creștere în urma unei acuzații mult publicate de către familia unui adolescent care a murit de sinucidere după un angajament larg față de ChatGPT.
De asemenea, Comisia Federală pentru Comerţ a lansat o amplă anchetă asupra întreprinderilor care înfiinţează chatboţi artificiali de informaţii, inclusiv OpenAI, pentru a afla cum măsoară efectele negative asupra copiilor şi adolescenţilor.
OpenAI a susținut în post că recenta actualizare GPT-5 a redus numărul de comportamente nedorite din produsul său și a îmbunătățit siguranța utilizatorilor într-o evaluare model care implică mai mult de 1000 de auto-lansare și sinucidere.
