hace un díaMás de un millón de personas cada semana muestran indicios inquietantes de charlas con ChatGPT
Periskopi(hace 8 meses)
(hace 8 meses)Más de un millón de usuarios de ChatGPT cada semana envían mensajes que incluyen indicaciones claras de los objetivos de suicidio previstos o posibles. El descubrimiento, parte de una actualización sobre cómo el chatbot maneja conversaciones sensibles, es una de las declaraciones más directas del gigante de inteligencia artificial en la escala de cómo IA [...]
Además de su evaluación de las ideas suicidas y las interacciones conexas, el OpenAI también dijo que alrededor del 0,07% de los usuarios activos en una semana determinada de aproximadamente 650.000 de sus 800 millones de usuarios semanales muestran posibles señales de emergencias de salud mental asociadas con psicosis o manía.
El post advirtió que estas conversaciones eran difíciles de detectar o medir, y que esto era un análisis inicial. A medida que OpenAI publica datos sobre problemas de salud mental asociados con su producto conocido, la empresa se enfrenta a una creciente revisión tras una acusación muy publicada por la familia de un adolescente que murió de suicidio después de un amplio compromiso con ChatGPT.
La Comisión Federal de Comercio también inició una amplia investigación sobre empresas que establecen chatbots de inteligencia artificial, incluyendo OpenAI, para averiguar cómo miden los efectos negativos sobre niños y adolescentes.
OpenAI afirmó en su puesto que su reciente actualización del GPT-5 redujo el número de comportamientos indeseables de su producto y mejoró la seguridad del usuario en una evaluación modelo que implica más de 1.000 autolanzamiento y suicidio.
