Каждую неделю свыше 1 млн человек в переписках с ChatGPT выражают суицидальные намерения. Об этом говорится в новом отчёте OpenAI. Порядка 560 тысяч человек из 800 млн активных пользователей еженедельно проявляют симптомы психических расстройств, таких как психоз или мания. Эти данные являются предварительными, поскольку точно выявить число подобных случаев сложно.
OpenAI начала публиковать данные о психическом состоянии пользователей после того, как семья подростка, совершившего суицид, подала судебный иск против компании. После смерти юноши его родители обнаружили переписку с чат-ботом, в которой подросток сообщал о своих намерениях, а ИИ давал ему советы. Параллельно Федеральная торговая комиссия США инициировала расследование в отношении OpenAI, чтобы оценить подход к безопасности детей и подростков.
В OpenAI сообщили, что в новой версии GPT-5 улучшена безопасность. По внутренним данным, 91% ответов модели соответствует необходимым стандартам поведения, в то время как в прошлой версии этот показатель был равен 77%. В чат добавлены напоминания о перерывах и ссылки на службы поддержки при кризисных ситуациях.
Для повышения качества и безопасности OpenAI привлекла 170 специалистов в области психического здоровья. Эксперты проанализировали более 1800 ответов ChatGPT, посвящённых теме суицида и самоповреждения.
