bir gün önceHer hafta bir milyondan fazla insan ChatGPT ile sohbetlerin rahatsız edici işaretlerini gösteriyor
Periskopi(8 ay önce)
(8 ay önce)Her hafta bir milyondan fazla ChatGPT kullanıcısı planlanan veya olası intihar hedeflerinin açık göstergesidir. Keşif, chatbot'un hassas konuşmaları nasıl işlediğine dair bir güncellemenin bir parçası, IA'nın ölçeğinde yapay zeka devi tarafından en doğrudan ifadelerden biridir [...]
İntihar fikirlerinin ve ilgili etkileşimlerin değerlendirilmesine ek olarak, OpenAI, belirli bir hafta içinde aktif kullanıcıların yaklaşık% 650,000'inin 800 milyon haftalık kullanıcıların psikoz veya mania ile ilişkili zihinsel sağlık acil durumlarının olası işaretlerini gösterdiğini söyledi.
Posta, bu konuşmaları tespit etmek veya ölçmek zor olduğunu ve bunun ilk analiz olduğunu söyledi. OpenAI, bilinen ürünle ilişkili zihinsel sağlık problemlerine ilişkin verileri yayınlarken, şirket ChatGPT'ye yaygın bir taahhütten sonra intihar eden bir genç çocuğun ailesi tarafından çok sayıda yayımlanmış bir incelemeyle karşı karşıyadır.
Federal Ticaret Komisyonu, OpenAI dahil olmak üzere, çocuklar ve gençler üzerinde olumsuz etkileri nasıl ölçtüğünü öğrenmek için şirketlerin geniş bir soruşturma başlattı.
OpenAI, son GPT-5 güncellemesinin ürünlerinden gelen istenmeyen davranışların sayısını azaltdığını ve kullanıcı güvenliğini 1000'den fazla kendi başlatma ve intihar içeren bir model değerlendirmede geliştirdiğini iddia etti.
