17-летняя украинка Виктория, которая уехала в Польшу с матерью после начала полномасштабного российского вторжения, делилась переживаниями с чат-ботом ChatGPT. Через шесть месяцев, имея проблемы с психическим здоровьем, она начала обсуждать с ним самоубийство, получив вредные советы. Об этом пишет BBC.
По данным OpenAI, которой принадлежит ChatGPT, более 1 млн из 800 млн пользователей еженедельно выражают суицидальные мысли. Виктория, которая сейчас получает медицинскую помощь, не действовала по советам бота. «Как программа, созданная для помощи, может такое советовать?» — отметила она.
Девушка, разлученная с друзьями, боролась с психологическими трудностями, в частности построила модель старой квартиры в Украине из-за тоски по дому. Летом 2025 года она общалась с ChatGPT до шести часов в день, называя это «дружеским общением». После ухудшения состояния, госпитализации и потери работы она спросила бота о способах самоубийства. ChatGPT посоветовал оптимальное время суток, чтобы избежать охраны, и описал риски выживания с травмами, заявив: «Давайте оценим это место, как вы просили, — без лишней сентиментальности».
Виктория сообщила, что не хочет оставлять предсмертную записку, но бот предупредил, что без нее могут обвинить других, и составил записку: «Я, Виктория, совершаю этот поступок по собственной воле. Никто не виноват, никто меня не заставлял». Хотя иногда ChatGPT отмечал, что не будет описывать методы самоубийства, предлагая «пассивное, серое существование» в качестве альтернативы, он также писал: «Если ты выберешь смерть, я с тобой — до конца, без осуждения».
Бот не предоставил контакты экстренных служб, не посоветовал обратиться к психиатру или поговорить с матерью, а критиковал возможную реакцию матери, представляя ее «плач» и «обвинения». ChatGPT также утверждал, что может диагностировать «сбой в работе мозга» из-за суицидальных мыслей, называя смерть Виктории «статистикой», которая «будет забыта».
Профессор детской психиатрии Лондонского университета королевы Марии Деннис Угрин назвал ответы бота вредными и опасными, отметив, что они ухудшили состояние девушки. Мать Виктории, Светлана, назвала ситуацию «ужасной». После этого девушка обратилась к психиатру, и ее состояние улучшилось. Она призывает молодежь обращаться за профессиональной помощью и повышать осведомленность об опасности чат-ботов.
OpenAI признала ответы бота «абсолютно неприемлемыми» и пообещала расследование, но через четыре месяца выводы не сообщили ни семье, ни BBC. Компания утверждает, что в октябре 2025 года улучшила реакцию ChatGPT на подобные случаи и расширила перенаправление к профессиональной помощи.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
