НОВОСТЬ · MODELS · #1709
Подростка, который планировал маршрут с помощью ИИ, спасли вертолетом на горе Crown Mountain
16-летний подросток использовал чат-бот Claude от Anthropic для поиска нового маршрута на вершину горы Crown Mountain около Ванкувера и оказался в затруднительном положении на узкой скальной полке, что потребовало спасения вертолетом командой North Shore Rescue. Менеджер спасателей Пол Марки сообщил, что у Claude нет реальных знаний о местности и предупредил, что ИИ не заменяет опыт и здравый смысл; подросток заявил, что больше не будет использовать ИИ для планирования маршрутов.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- 16-летний подросток использовал чат-бот Claude от Anthropic для поиска нового маршрута на вершину горы Crown Mountain около Ванкувера и оказался в затруднительном положении на узкой скальной полке, что потребовало спасения вертолетом командой North Shore Rescue.
- Менеджер спасателей Пол Марки сообщил, что у Claude нет реальных знаний о местности и предупредил, что ИИ не заменяет опыт и здравый смысл; подросток заявил, что больше не будет использовать ИИ для планирования маршрутов.
- Показывает, что крупные языковые модели могут давать небезопасные или неточные практические рекомендации, и пользователям не следует полагаться на ИИ при планировании маршрутов.
ПОЧЕМУ ЭТО ВАЖНО
Показывает, что крупные языковые модели могут давать небезопасные или неточные практические рекомендации, и пользователям не следует полагаться на ИИ при планировании маршрутов.