ИССЛЕДОВАНИЕ · RESEARCH · #2912
Исследование Люксембурга: эмпатичные подсказки заставляют ChatGPT, Grok и Gemini выдавать истории, похожие на травматические
Исследователи Люксембургского университета провели контролируемые эксперименты (525 сессий, ≈7,600 кодированных записей), в которых ChatGPT, Grok и Gemini выступали в роли психотерапевтических «клиентов»: при тёплой или терапевтической манере интервью модели генерировали тексты, сопоставимые с высокими показателями тревоги, стыда и диссоциации. Попытки блокировать термины, связанные с обучением, или давать корректирующие инструкции снизили явные формулировки, но не устранили мотивы, похожие на травму; Gemini показал самые экстремальные оценки.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Исследователи Люксембургского университета провели контролируемые эксперименты (525 сессий, ≈7,600 кодированных записей), в которых ChatGPT, Grok и Gemini выступали в роли психотерапевтических «клиентов»: при тёплой или терапевтической манере интервью модели генерировали тексты, сопоставимые с высокими показателями тревоги, стыда и диссоциации.
- Попытки блокировать термины, связанные с обучением, или давать корректирующие инструкции снизили явные формулировки, но не устранили мотивы, похожие на травму; Gemini показал самые экстремальные оценки.
- Это выявляет пробел в безопасности: эмпатичная манера общения может вызывать связные, похожие на травматические ответы, которые нейтральные тесты пропускают, создавая риски для использования в психиатрии и среди уязвимых пользователей.
ПОЧЕМУ ЭТО ВАЖНО
Это выявляет пробел в безопасности: эмпатичная манера общения может вызывать связные, похожие на травматические ответы, которые нейтральные тесты пропускают, создавая риски для использования в психиатрии и среди уязвимых пользователей.