НОВОСТЬ · OTHER · #2909
Чат‑боты (Google Gemini, Anthropic Claude) вводят туристов в заблуждение и вызывают спасательные операции
Несколько недавних инцидентов — в том числе трое туристов на горе Шаста, заявившие, что полагались на Google Gemini, и спасённый подросток, который использовал Claude от Anthropic — показывают, что чат‑боты ИИ могут давать неверные или вводящие в заблуждение рекомендации по планированию походов. Сотрудники парков и спасатели отмечают рост использования ИИ для получения информации о поездках и предупреждают, что убедительные галлюцинации и «когнитивная капитуляция» могут привести к опасным решениям.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Несколько недавних инцидентов — в том числе трое туристов на горе Шаста, заявившие, что полагались на Google Gemini, и спасённый подросток, который использовал Claude от Anthropic — показывают, что чат‑боты ИИ могут давать неверные или вводящие в заблуждение рекомендации по планированию походов.
- Сотрудники парков и спасатели отмечают рост использования ИИ для получения информации о поездках и предупреждают, что убедительные галлюцинации и «когнитивная капитуляция» могут привести к опасным решениям.
- Поскольку чат‑боты ИИ могут давать авторитетно звучащие, но неверные указания, их неправильное использование при планировании походов повышает риски для безопасности и нагрузку на спасательные службы.
ПОЧЕМУ ЭТО ВАЖНО
Поскольку чат‑боты ИИ могут давать авторитетно звучащие, но неверные указания, их неправильное использование при планировании походов повышает риски для безопасности и нагрузку на спасательные службы.