день назадБолее миллиона человек каждую неделю показывают тревожные признаки чатов с ChatGPT.
Periskopi(8 месяцев назад)
(8 месяцев назад)Более миллиона пользователей ChatGPT каждую неделю отправляют сообщения с четкими указаниями на запланированные или возможные цели самоубийства. Открытие, часть обновления о том, как чат-бот обрабатывает конфиденциальные разговоры, является одним из самых прямых заявлений гиганта искусственного интеллекта в масштабе того, как ИИ обрабатывает конфиденциальные разговоры.
В дополнение к своей оценке идей самоубийства и связанных с ними взаимодействий, OpenAI также сказал, что около 0,07% активных пользователей в течение конкретной недели из примерно 650 000 из 800 миллионов еженедельных пользователей показывают возможные признаки чрезвычайных ситуаций в области психического здоровья, связанных с психозом или манией.
Пост предупредил, что эти разговоры трудно обнаружить или измерить, и что это был первоначальный анализ. Поскольку OpenAI публикует данные о проблемах психического здоровья, связанных с его известным продуктом, компания сталкивается с растущим обзором после опубликованного обвинительного заключения семьи подростка, который умер от самоубийства после широко распространенной приверженности ChatGPT.
Федеральная торговая комиссия также начала широкое расследование в отношении компаний, создающих чат-боты с искусственным интеллектом, в том числе OpenAI, чтобы выяснить, как они измеряют негативные последствия для детей и подростков.
OpenAI заявила в своем посте, что ее недавнее обновление GPT-5 уменьшило количество нежелательных действий от ее продукта и улучшило безопасность пользователей в модели оценки, включающей более 1000 самозапусков и самоубийств.
