před dnemVíce než jeden milion lidí každý týden ukazují znepokojivé náznaky chatů s ChatGPT
Periskopi(před 8 měsíci)
(před 8 měsíci)Více než jeden milion uživatelů ChatGPT každý týden zasílá zprávy, které obsahují jasné náznaky plánovaných nebo možných sebevražedných cílů. Objev, součást aktualizace o tom, jak chatbot zvládá citlivé konverzace, je jedním z nejpřímějších prohlášení umělého inteligenčního obra v rozsahu, jak IA [...]
Kromě svého hodnocení sebevražedných myšlenek a souvisejících interakcí OpenAI také uvedla, že přibližně 0,07% aktivních uživatelů v konkrétním týdnu kolem 650.000 ze svých 800 milionů týdenních uživatelů vykazuje možné známky psychiatrické pohotovosti spojené s psychózou nebo mánií.
Post varoval, že tyto rozhovory byly obtížné odhalit nebo měřit, a že to byla počáteční analýza. Vzhledem k tomu, že OpenAI zveřejňuje údaje o problémech duševního zdraví spojených s jejím známým produktem, společnost čelí rostoucímu přezkumu po mnoha publikovaných obvinění rodiny dospívajícího chlapce, který zemřel na sebevraždu po rozšířeném závazku ChatGPT.
Spolková obchodní komise také zahájila rozsáhlé šetření společností zřizujících chatboty umělé inteligence, včetně OpenAI, aby zjistila, jak měří negativní účinky na děti a dospívající.
OpenAI ve svém příspěvku uvedla, že její nedávná aktualizace GPT- 5 snížila počet nežádoucích chování z jejího výrobku a zlepšila bezpečnost uživatelů v modelovém hodnocení zahrnující více než 1000 self-start a sebevraždu.
