Примеры ответов ChatGPT. Источник: NY Times
По данным OpenAI, пользователи ChatGPT демонстрировали признаки эмоционального расстройства и психическим проблем в 0,01% разговоров с чат-ботом за «неделю наблюдений» (период не уточнили). За то же время 0,15% пользователей проявили суицидальные наклонности — по подсчётам Wired, это около 2,4 млн человек.
Компания объявила, что улучшила ответы ChatGPT для таких случаев. Теперь ChatGPT постарается не поддерживать пользователей, если те высказывают «бредовые» идеи. Чат-бот предложит перейти на «более безопасную» модель, посоветует упражнения «для снижения стресса» и попросит обратиться за профессиональной помощью. Для американских пользователей он предоставит контакты горячей линии поддержки.
Скорректировать поведение чат-бота помогли психологи и психиатры из созданной компанией «глобальной врачебной сети» — в неё вошли 300 специалистов из 60 стран. Они проанализировали шаблонные ответы разных моделей ChatGPT и составили новые, опираясь на «клинические данные».
По словам OpenAI, так она добилась сокращения «нежелательных» ответов в модели GPT-5 на 39-52% по сравнению с GPT-4o. Однако, как отмечает Wired, оценить эффективность чат-бота непросто из-за «субъективных» метрик компании. Кроме того, невозможно отследить, как ответы чат-бота повлияют в реальности на поведение и здоровье пользователей.
В августе 2025 года на компанию подали в суд родители подростка — они утверждали, что он покончил с собой «из-за ChatGPT». В сентябре 2025 года OpenAI добавила в чат-бот функцию родительского контроля.
Некоторые психиатры отмечали случаи психоза у части пациентов, которые «много» общались с чат-ботами.
Источник: OpenAI обновила «правила поведения» ChatGPT и создала «врачебную сеть» для поддержки психического здоровья пользователей — AI на vc.ru