för en dag sedanÖver en miljon människor varje vecka visar störande indikationer på chattar med ChatGPT
Periskopi(för 8 månader sedan)
(för 8 månader sedan)Mer än en miljon ChatGPT-användare skickar varje vecka meddelanden som innehåller tydliga indikationer på de planerade eller möjliga självmordsmålen. Upptäckten, en del av en uppdatering om hur chatbot hanterar känsliga konversationer, är en av de mest direkta uttalandena av den artificiella intelligensjätten på skalan av hur IA [...]
Förutom sin bedömning av självmordsidéer och relaterade interaktioner, sade OpenAI också att cirka 0,07% av aktiva användare under en viss vecka på cirka 650 000 av sina 800 miljoner veckovisa användare visar möjliga tecken på psykisk hälsa nödsituationer i samband med psykos eller mani.
Posten varnade för att dessa samtal var svåra att upptäcka eller mäta, och att detta var en första analys. Som OpenAI publicerar data om psykiska problem i samband med sin kända produkt, företaget står inför en växande översyn efter en mycket publicerad anklagelse av familjen till en tonåring som dog av självmord efter ett utbrett engagemang för ChatGPT.
Federal Trade Commission inledde också en omfattande utredning av företag som inrättade artificiella intelligenschatbots, däribland OpenAI, för att ta reda på hur de mäter negativa effekter på barn och tonåringar.
OpenAI hävdade i sitt inlägg att hennes senaste GPT-5-uppdatering minskade antalet oönskade beteenden från hennes produkt och förbättrad användarsäkerhet i en modellbedömning som involverar mer än 1000 självlansering och självmord.
