un giorno faOltre un milione di persone ogni settimana mostrano indicazioni disturbanti di chat con ChatGPT
Periskopi(8 mesi fa)
(8 mesi fa)Più di un milione di utenti ChatGPT ogni settimana inviano messaggi che includono chiare indicazioni dei target di suicidio pianificati o possibili. La scoperta, parte di un aggiornamento su come il chatbot gestisce conversazioni sensibili, è una delle dichiarazioni più dirette dal gigante dell'intelligenza artificiale sulla scala di come IA [...]
Oltre alla sua valutazione delle idee suicidi e delle relative interazioni, l'OpenAI ha anche detto che circa lo 0,07% degli utenti attivi in una settimana particolare di circa 650.000 dei suoi 800 milioni di utenti settimanali mostrano possibili segni di emergenze di salute mentale associate a psicosi o mania.
Il post avvertì che queste conversazioni erano difficili da rilevare o misurare, e che questa era un'analisi iniziale. Come OpenAI pubblica i dati sui problemi di salute mentale associati al suo prodotto noto, l'azienda sta affrontando una crescente revisione a seguito di un'accusa molto pubblicata dalla famiglia di un ragazzo adolescente morto di suicidio dopo un impegno diffuso a ChatGPT.
La Federal Trade Commission ha anche lanciato un'ampia indagine sulle aziende che istituiscono chatbot di intelligenza artificiale, tra cui OpenAI, per scoprire come misurano gli effetti negativi su bambini e adolescenti.
OpenAI ha affermato nel suo post che il suo recente aggiornamento GPT-5 ha ridotto il numero di comportamenti indesiderati dal suo prodotto e migliorato la sicurezza dell'utente in una valutazione del modello che coinvolge più di 1.000 auto-lancio e suicidio.
