Ponad milion osób co tydzień wykazuje niepokojące oznaki rozmów z ChatGPT

Oprócz oceny pomysłów samobójczych i powiązanych interakcji, OpenAI powiedział również, że około 0,07% aktywnych użytkowników w danym tygodniu około 650,000 z 800 milionów jego użytkowników tygodniowo wykazują możliwe oznaki stanu zagrożenia zdrowia psychicznego związanego z psychozą lub manią.

Poczta ostrzegła, że rozmowy te są trudne do wykrycia lub zmierzenia, i że była to wstępna analiza. Jak OpenAI publikuje dane na temat problemów zdrowotnych psychicznych związanych ze swoim znanym produktem, firma stoi w obliczu rosnącej recenzji po Much- opublikowane oskarżenia przez rodzinę nastolatka, który zmarł z samobójstwa po powszechnym zobowiązaniu do ChatGPT.

Federalna Komisja Handlu wszczęła również szeroko zakrojone dochodzenie w sprawie przedsiębiorstw, które zakładają sztandary sztucznej inteligencji, w tym OpenAI, w celu ustalenia, w jaki sposób mierzą one negatywne skutki dla dzieci i młodzieży.

OpenAI twierdziła w swoim poście, że jej najnowsza aktualizacja GPT- 5 zmniejszyła liczbę niepożądanych zachowań z jej produktu i poprawiła bezpieczeństwo użytkowników w ocenie modelu obejmującej ponad 1000 samowystrzelenia i samobójstwa.