НОВОСТЬ · COMPANIES · #2206
Страницы справки WhatsApp раскрыли скрытые инструкции для чат‑бота Meta на базе LLM
Redact.dev обнаружила примерно 80 страниц справки WhatsApp, в коде которых скрывались около 100 текстовых блоков с инструкциями для большой языковой модели Meta (заголовок HelpContentGalaxyLLMInclude). После сообщения WIRED Meta удалила эти данные, которые включали «чего не говорить», в том числе явный запрет давать юридические советы или ссылаться на законы о защите данных.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Redact.dev обнаружила примерно 80 страниц справки WhatsApp, в коде которых скрывались около 100 текстовых блоков с инструкциями для большой языковой модели Meta (заголовок HelpContentGalaxyLLMInclude).
- После сообщения WIRED Meta удалила эти данные, которые включали «чего не говорить», в том числе явный запрет давать юридические советы или ссылаться на законы о защите данных.
- Утечка показывает внутреннюю разработку подсказок и ограничений для обслуживающего LLM, подчёркивая, как формируются ответы чат‑бота и риск раскрытия механизмов безопасности.
ПОЧЕМУ ЭТО ВАЖНО
Утечка показывает внутреннюю разработку подсказок и ограничений для обслуживающего LLM, подчёркивая, как формируются ответы чат‑бота и риск раскрытия механизмов безопасности.