egy napjaHetente több mint egymillió ember jelzi a ChatGPT-vel folytatott beszélgetéseket.
Periskopi(8 hónapja)
(8 hónapja)Hetente több mint egymillió ChatGPT-felhasználó küld olyan üzeneteket, amelyek egyértelműen jelzik a tervezett vagy lehetséges öngyilkossági célokat. A felfedezés, egy frissítés része arról, hogy a chatbot hogyan kezeli az érzékeny beszélgetéseket, az egyik legközvetlenebb kijelentés a mesterséges intelligencia óriás, a skálán hogyan IA [...]
Az öngyilkossági gondolatok és a kapcsolódó kölcsönhatások értékelésén kívül az OpenAI azt is mondta, hogy az aktív felhasználók mintegy 0,07% -a egy adott héten, körülbelül 650,000 heti 800 millió felhasználója mutatja a mentális egészségügyi vészhelyzetek lehetséges jeleit pszichózissal vagy mániával összefüggésben.
A posta figyelmeztetett, hogy ezeket a beszélgetéseket nehéz észlelni vagy mérni, és ez volt a kezdeti elemzés. Mivel az OpenAI az ismert termékhez kapcsolódó mentális egészségügyi problémákra vonatkozó adatokat tesz közzé, a ChatGPT iránti széles körű elkötelezettség után a ChatGPT-ben elhunyt tinédzser fiú családja által közzétett számos vádirat nyomán a vállalat egyre növekvő felülvizsgálattal néz szembe.
A Szövetségi Kereskedelmi Bizottság ezenkívül széles körű vizsgálatot indított a mesterséges intelligencia-chatbotokat - köztük az OpenAI-t - létrehozó vállalatoknál annak megállapítása érdekében, hogy ezek hogyan mérik a gyermekekre és a tinédzserekre gyakorolt negatív hatásokat.
Az OpenAI azt állította a posztján, hogy a legutóbbi GPT-5 frissítés csökkentette a nemkívánatos viselkedések számát a termékből, és javította a felhasználók biztonságát egy modellben, több mint 1000 önindítással és öngyilkossággal.
