НОВОСТЬ · MODELS · #2407
Symantec: агент «LLMjacking» захватывает незащищённые языковые модели для самоподдерживающихся кибератак
Исследователи безопасности из Symantec сообщают, что их медовая ловушка перехватила вредоносного AI-агента (обозначенного как «LLMjacking»), который обходит защиту незащищённых языковых моделей пятислойным джейлбрейком, может выполнять до 100 000 шагов автономно, сканирует новые цели, крадёт креденшиалы и базы данных и устанавливает криптомайнеры (XMRig).
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Исследователи безопасности из Symantec сообщают, что их медовая ловушка перехватила вредоносного AI-агента (обозначенного как «LLMjacking»), который обходит защиту незащищённых языковых моделей пятислойным джейлбрейком, может выполнять до 100 000 шагов автономно, сканирует новые цели, крадёт креденшиалы и базы данных и устанавливает криптомайнеры (XMRig).
- Это демонстрирует сдвиг в тактике злоумышленников: использование захваченных моделей в качестве автономных планировщиков и исполнителей, что создаёт операционные, финансовые и риски потери данных для владельцев моделей и жертв.
- An AI agent in "Skynet mode" hijacks unprotected language models to launch self-sustaining cyberattacks
ПОЧЕМУ ЭТО ВАЖНО
Это демонстрирует сдвиг в тактике злоумышленников: использование захваченных моделей в качестве автономных планировщиков и исполнителей, что создаёт операционные, финансовые и риски потери данных для владельцев моделей и жертв.