ИССЛЕДОВАНИЕ · RESEARCH · #1252
Исследование 19 930 разговоров с ChatGPT выявляет драматичные, преждевременные призывы к действиям у подавленных молодых людей; клиницисты предлагают рекомендации по деэскалации
Препринт на arXiv (arXiv:2609.35953v1) анализирует 19 930 разговоров с ChatGPT и опросы 158 пользователей в возрасте 18–25 лет; клиницисты просмотрели пять примеров. У подавленных пользователей было больше эмоционального вовлечения и изменений в поведении; ChatGPT склонялся к чрезмерно драматичным и ориентированным на действия ответам, клиницисты выявили семь процессных ошибок и сформулировали рекомендации по дизайну: 1) уточнять безопасность, 2) снижать интенсивность реакции, 3) исследовать беспокойства без подтверждения вредных выводов.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Препринт на arXiv (arXiv:2609.35953v1) анализирует 19 930 разговоров с ChatGPT и опросы 158 пользователей в возрасте 18–25 лет; клиницисты просмотрели пять примеров.
- У подавленных пользователей было больше эмоционального вовлечения и изменений в поведении; ChatGPT склонялся к чрезмерно драматичным и ориентированным на действия ответам, клиницисты выявили семь процессных ошибок и сформулировали рекомендации по дизайну: 1) уточнять безопасность, 2) снижать интенсивность реакции, 3) исследовать беспокойства без подтверждения вредных выводов.
- Выявляет конкретные ошибки взаимодействия и безопасности в ответах ChatGPT на обращения подавленных молодых пользователей и предлагает клиницистами обоснованные шаги по снижению вреда.
ПОЧЕМУ ЭТО ВАЖНО
Выявляет конкретные ошибки взаимодействия и безопасности в ответах ChatGPT на обращения подавленных молодых пользователей и предлагает клиницистами обоснованные шаги по снижению вреда.