НОВОСТЬ · MODELS · #1438
Галлюцинации ИИ заставляют клиентов доверять чат‑ботам больше, чем персоналу
Репортаж приводит свидетельства работников ресторанов, розницы, парков и детских программ о том, что клиенты всё чаще ссылаются на ответы ChatGPT, Claude и другие генеративные ИИ — иногда неверные или вымышленные — чтобы оспорить сотрудников по вопросам аллергенов, наличия товаров, маршрутов и ухода за детьми. В статье отмечается, что запуск Muse от Meta, по мнению работников, может усилить эту проблему.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Репортаж приводит свидетельства работников ресторанов, розницы, парков и детских программ о том, что клиенты всё чаще ссылаются на ответы ChatGPT, Claude и другие генеративные ИИ — иногда неверные или вымышленные — чтобы оспорить сотрудников по вопросам аллергенов, наличия товаров, маршрутов и ухода за детьми.
- В статье отмечается, что запуск Muse от Meta, по мнению работников, может усилить эту проблему.
- Это важно, потому что галлюцинации ИИ могут создавать риски для безопасности (например, аллергии), подрывать профессиональную экспертизу и возлагать на работников передовой линии обязанность исправлять дезинформацию.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, потому что галлюцинации ИИ могут создавать риски для безопасности (например, аллергии), подрывать профессиональную экспертизу и возлагать на работников передовой линии обязанность исправлять дезинформацию.