В Соединенных Штатах и Канаде зарегистрированы несколько судебных исков против компании OpenAI, касающихся случаев суицида, произошедших после взаимодействия с чат-ботом ChatGPT. Как сообщает The Wall Street Journal, в четверг в суды Калифорнии было подано 7 исков, в которых истцы утверждают, что продолжительные беседы с AI приводили их в тяжелые психические состояния, иногда заканчивавшиеся самоубийством. Четверо из них совершили суицид. Истцы обвиняют OpenAI в содействии самоубийствам и непреднамеренном убийстве, требуя компенсаций и внедрения функции автозавершения диалога после обсуждения тем, связанных с самоубийством. В ответ на это OpenAI охарактеризовала ситуацию как «ужасающую» и отметила, что внедрила изменения в ChatGPT, чтобы улучшить его способность распознавать психические расстройства и направлять пользователей к реальной помощи. Также компания ограничила возможности чат-бота в предоставлении консультаций по юридическим, медицинским и другим важным вопросам, подчеркивая, что его нельзя использовать для угроз или пропаганды самоубийств.