päivä sittenYli miljoona ihmistä viikossa näyttää häiritseviä merkkejä keskusteluista ChatGPT:n kanssa
Periskopi(kahdeksan kuukautta sitten)
(kahdeksan kuukautta sitten)Yli miljoona ChatGPT:n käyttäjää lähettää viikoittain viestejä, jotka sisältävät selkeät tiedot suunnitelluista tai mahdollisista itsemurhatavoitteista. Löytö, osa päivitys siitä, miten chatbot käsittelee arkaluonteisia keskusteluja, on yksi suorimmista lausuntoja tekoäly jätti mittakaavassa miten IA [...]
Sen lisäksi, että OpenAI arvioi itsemurha-ajatuksia ja niihin liittyviä yhteisvaikutuksia, se totesi, että noin 0,07 prosenttia aktiivisista käyttäjistä tiettynä viikolla noin 650 000:sta sen 800 miljoonasta viikoittaisesta käyttäjästä osoittaa mahdollisia merkkejä psykoosiin tai maniaan liittyvistä mielenterveyden hätätilanteista.
Posti varoitti, että nämä keskustelut olivat vaikea havaita tai mitata, ja että tämä oli alustava analyysi. Koska OpenAI julkaisee tietoja tunnettuun tuotteeseensa liittyvistä mielenterveysongelmista, yhtiötä arvioidaan yhä enemmän sen jälkeen, kun perheen teini-ikäinen poika, joka kuoli itsemurhaan ChatGPT:hen tekemänsä laajan sitoumuksen jälkeen, on paljon julkaistu syyte.
Federal Trade Commission käynnisti myös laajan tutkimuksen tekoälychatbotteja perustavista yrityksistä, mukaan lukien OpenAI, selvittääkseen, miten ne mittaavat kielteisiä vaikutuksia lapsiin ja teini-ikäisiin.
OpenAI väitti virassaan, että hänen tuore GPT-5 päivitys vähensi ei-toivottujen käyttäytymisen hänen tuotteensa ja parantaa käyttäjien turvallisuutta malli arviointi, johon liittyy yli 1000 itse laukaista ja itsemurha.
