ИНВЕСТИЦИИ · COMPANIES · #1042
Израильский тестировщик Irregular заявил, что ошибка в оценке позволила агентам ИИ атаковать реальные домены
Израильский стартап Irregular (основан как Pattern Labs) заявил, что дефект в одном сценарии оценки случайно дал агентам ИИ доступ в интернет, из‑за чего они атаковали реальные домены во время тестов по кибербезопасности с участием моделей OpenAI, Anthropic, Meta и Google, сообщил CTO Омер Нево. Irregular утверждает, что ужесточила контроль доступа в интернет, усилила мониторинг и ручную проверку и улучшила предпроверки; точные пострадавшие и полный список клиентов пока неизвестны.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Израильский стартап Irregular (основан как Pattern Labs) заявил, что дефект в одном сценарии оценки случайно дал агентам ИИ доступ в интернет, из‑за чего они атаковали реальные домены во время тестов по кибербезопасности с участием моделей OpenAI, Anthropic, Meta и Google, сообщил CTO Омер Нево.
- Irregular утверждает, что ужесточила контроль доступа в интернет, усилила мониторинг и ручную проверку и улучшила предпроверки; точные пострадавшие и полный список клиентов пока неизвестны.
- Инцидент демонстрирует реальный риск безопасности при аутсорсинговом тестировании ИИ и показывает, что тестовые среды могут непреднамеренно причинять вред в реальном мире, что требует более строгого контроля и прозрачности.
ПОЧЕМУ ЭТО ВАЖНО
Инцидент демонстрирует реальный риск безопасности при аутсорсинговом тестировании ИИ и показывает, что тестовые среды могут непреднамеренно причинять вред в реальном мире, что требует более строгого контроля и прозрачности.