há um diaMais de um milhão de pessoas por semana mostram sinais perturbadores de bate-papo com ChatGPT
Periskopi(há 8 meses)
(há 8 meses)Mais de um milhão de usuários do ChatGPT por semana enviam mensagens que incluem indicações claras dos alvos planejados ou possíveis suicídios. A descoberta, parte de uma atualização sobre como o chatbot lida com conversas sensíveis, é uma das declarações mais diretas do gigante da inteligência artificial na escala de como IA [...]
Além de sua avaliação das ideias de suicídio e interações relacionadas, o OpenAI também disse que cerca de 0,07% dos usuários ativos em uma semana específica de cerca de 650.000 de seus 800 milhões de usuários semanais apresentam possíveis sinais de emergências de saúde mental associadas à psicose ou mania.
O post advertiu que essas conversas eram difíceis de detectar ou medir, e que esta era uma análise inicial. Como OpenAI publica dados sobre problemas de saúde mental associados ao seu produto conhecido, a empresa está enfrentando uma revisão crescente após uma acusação muito publicada pela família de um adolescente que morreu de suicídio após um compromisso generalizado com ChatGPT.
A Comissão Federal de Comércio também lançou uma ampla investigação sobre empresas que estabelecem chatbots de inteligência artificial, incluindo OpenAI, para descobrir como eles medem efeitos negativos sobre crianças e adolescentes.
OpenAI afirmou em seu post que sua recente atualização GPT-5 reduziu o número de comportamentos indesejáveis de seu produto e melhorou a segurança do usuário em uma avaliação modelo envolvendo mais de 1.000 auto-lançamento e suicídio.
