преди денНад един милион души всяка седмица показват обезпокоителни индикации за разговори с ChatGPT
Periskopi(преди 8 месеца)
(преди 8 месеца)Повече от един милион потребители на ChatGPT всяка седмица изпращат съобщения, които включват ясни индикации за планираните или възможни цели за самоубийство. Откритието, част от актуализацията на начина, по който чатботът се справя с чувствителните разговори, е едно от най-преките твърдения на изкуствения интелигентен гигант от мащаба на това как IA [...]
В допълнение към своята оценка на идеите за самоубийство и свързаните с тях взаимодействия, OpenAI също така заяви, че около 0,07% от активните потребители в определена седмица от около 650 000 от 800-те милиона седмично потребители показват възможни признаци на психични спешни случаи, свързани с психоза или мания.
Постът предупреди, че тези разговори са трудни за откриване или измерване и че това е първоначален анализ. Тъй като OpenAI публикува данни за психични проблеми, свързани с известния си продукт, компанията е изправена пред нарастващ преглед след много публикуван обвинителен акт от семейството на тийнейджър, който почина от самоубийство след широко разпространен ангажимент към ChatGPT.
Федералната търговска комисия започна също широко разследване на дружества за създаване на изкуствени разузнавателни чатботи, включително OpenAI, за да разбере как те измерват отрицателните ефекти върху децата и тийнейджърите.
OpenAI заяви в своя пост, че последната й актуализация на GPT-5 е намалила броя на нежеланите действия от продукта си и е подобрила безопасността на потребителите при оценка на модела, включваща повече от 1000 самонаблюдение и самоубийство.
