en dag sidenOver en million mennesker hver uge viser foruroligende tegn på chats med ChatGPT
Periskopi(8 måneder siden)
(8 måneder siden)Mere end en million ChatGPT-brugere sender hver uge beskeder, der indeholder klare indikationer af de planlagte eller mulige selvmordsmål. Opdagelsen, en del af en opdatering om, hvordan chatbot håndterer følsomme samtaler, er en af de mest direkte erklæringer fra den kunstige intelligens gigant på omfanget af, hvordan IA [...]
Ud over sin vurdering af selvmordsideer og relaterede interaktioner, OpenAI også sagde, at omkring 0,07% af aktive brugere i en bestemt uge på omkring 650.000 af sine 800 millioner ugentlige brugere viser mulige tegn på mental sundhed nødsituationer forbundet med psykose eller mani.
Post advarede om, at disse samtaler var vanskelige at opdage eller måle, og at dette var en indledende analyse. Som OpenAI offentliggør data om mentale sundhedsproblemer forbundet med sit kendte produkt, virksomheden står over for en stigende gennemgang efter en meget offentliggjort anklage af familien af en teenage dreng, der døde af selvmord efter en udbredt forpligtelse til ChatGPT.
Federal Trade Commission har også iværksat en bred undersøgelse af virksomheder, der opretter kunstig intelligens chatbots, herunder OpenAI, for at finde ud af, hvordan de måler negative virkninger på børn og teenagere.
OpenAI hævdede i hendes indlæg, at hendes seneste GPT- 5 opdatering reduceret antallet af uønskede adfærd fra hendes produkt og forbedret brugersikkerhed i en model vurdering involverer mere end 1.000 self-lancering og selvmord.
