πριν μία μέραΠάνω από ένα εκατομμύριο άνθρωποι κάθε εβδομάδα παρουσιάζουν ενοχλητικές ενδείξεις συνομιλίας με το ChatGPT
Periskopi(πριν 8 μήνες)
(πριν 8 μήνες)Περισσότεροι από ένα εκατομμύριο χρήστες ChatGPT κάθε εβδομάδα στέλνουν μηνύματα που περιλαμβάνουν σαφείς ενδείξεις των προγραμματισμένων ή πιθανών στόχων αυτοκτονίας. Η ανακάλυψη, μέρος μιας ενημέρωσης για το πώς το chatbot χειρίζεται ευαίσθητες συνομιλίες, είναι μια από τις πιο άμεσες δηλώσεις από τον γίγαντα τεχνητής νοημοσύνης στην κλίμακα του πώς IA [...]
Εκτός από την αξιολόγηση των ιδεών αυτοκτονίας και των σχετικών αλληλεπιδράσεων, το OpenAI ανέφερε επίσης ότι περίπου το 0,07% των ενεργών χρηστών σε μια συγκεκριμένη εβδομάδα περίπου 650.000 από τους 800 εκατομμύρια εβδομαδιαίους χρήστες του παρουσιάζουν πιθανά σημάδια έκτακτης ανάγκης ψυχικής υγείας που σχετίζεται με ψύχωση ή μανία.
Το άρθρο προειδοποίησε ότι αυτές οι συζητήσεις ήταν δύσκολο να ανιχνευθούν ή να μετρηθούν, και ότι αυτή ήταν μια αρχική ανάλυση. Καθώς το OpenAI δημοσιεύει στοιχεία για τα προβλήματα ψυχικής υγείας που σχετίζονται με το γνωστό προϊόν της, η εταιρεία αντιμετωπίζει μια αυξανόμενη αναθεώρηση μετά από μια πολύ-δημοσιευμένη κατηγορία από την οικογένεια ενός έφηβου αγοριού που πέθανε από αυτοκτονία μετά από μια ευρεία δέσμευση προς το ChatGPT.
Η Ομοσπονδιακή Επιτροπή Εμπορίου ξεκίνησε επίσης μια ευρεία έρευνα για τις εταιρείες που ιδρύουν τεχνητή νοημοσύνη chatbots, συμπεριλαμβανομένου του OpenAI, για να ανακαλύψει πώς μετρούν τις αρνητικές επιπτώσεις σε παιδιά και εφήβους.
Η OpenAI ισχυρίστηκε στη θέση της ότι η πρόσφατη ενημέρωση της GPT-5 μείωσε τον αριθμό ανεπιθύμητων συμπεριφορών από το προϊόν της και βελτίωσε την ασφάλεια του χρήστη σε μια αξιολόγηση μοντέλου που περιελάμβανε πάνω από 1.000 αυτοεκκίνηση και αυτοκτονία.
