pred enim dnemVeč kot milijon ljudi na teden kaže moteče znake pogovorov s ChatGPT
Periskopi(pred 8 meseci)
(pred 8 meseci)Več kot milijon uporabnikov ChatGPT vsak teden pošlje sporočila, ki vključujejo jasne znake načrtovanih ali možnih samomorilskih ciljev. Odkritje, del posodobitve o tem, kako chatbot obravnava občutljive pogovore, je ena izmed najbolj neposrednih izjav umetne inteligence velikan na lestvici, kako IA [...]
OpenAI je poleg svoje ocene samomorilnih idej in sorodnih interakcij dejal tudi, da okoli 0,07 % aktivnih uporabnikov v določenem tednu od približno 650.000 njegovih 800 milijonov tedenskih uporabnikov kaže možne znake izrednih duševnih razmer, povezanih s psihozo ali manijo.
Post je opozoril, da je te pogovore težko odkriti ali izmeriti, in da je to začetna analiza. Ker OpenAI objavlja podatke o problemih duševnega zdravja, povezanih z njegovim znanim izdelkom, se podjetje sooča z naraščajočim pregledom po veliko objavljeni obtožnici družine najstnika, ki je umrl zaradi samomora po razširjeni zavezanosti ChatGPT.
Zvezna komisija za trgovino je začela tudi obsežno preiskavo podjetij, ki ustanavljajo kramote umetne inteligence, vključno z OpenAI, da bi ugotovila, kako merijo negativne učinke na otroke in najstnike.
OpenAI je v svojem postu trdila, da je njena nedavna posodobitev GPT-5 zmanjšala število nezaželenih vedenj iz njenega izdelka in izboljšala varnost uporabnikov v oceni modela, ki vključuje več kot 1000 samozagon in samomor.
