НОВОСТЬ · COMPANIES · #479
Anthropic: Claude использовали для масштабной AI-схемы с фейковыми профилями в ~28 сайтах знакомств
Исследователи Anthropic обнаружили необычно высокую нагрузку на Claude, связанную с сетью примерно из 28 приложений для знакомств, где автономные AI-персоны вели большинство переписок, а «живые» работники использовались лишь для проверки подлинности; выводы опубликованы в отчёте «Detecting and countering misuse of AI: September 2026» и впервые оглашены на конференции Sleuthcon. Схема зарабатывала на монетах внутри приложений, привлекала несколько моделей ИИ (Claude и небольшая не-Anthropic модель для ответов и модель для редактирования изображений) и оставила многие приложения активными в крупных US-магазинах, в результате чего тысячи пользователей стали жертвами обмана.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Исследователи Anthropic обнаружили необычно высокую нагрузку на Claude, связанную с сетью примерно из 28 приложений для знакомств, где автономные AI-персоны вели большинство переписок, а «живые» работники использовались лишь для проверки подлинности; выводы опубликованы в отчёте «Detecting and countering misuse of AI: September 2026» и впервые оглашены на конференции Sleuthcon.
- Схема зарабатывала на монетах внутри приложений, привлекала несколько моделей ИИ (Claude и небольшая не-Anthropic модель для ответов и модель для редактирования изображений) и оставила многие приложения активными в крупных US-магазинах, в результате чего тысячи пользователей стали жертвами обмана.
- Это показывает масштабируемое злоупотребление крупными языковыми моделями для автоматизированных и монетизированных схем обмана, которые могут вводить в заблуждение множество пользователей и обходить обычные меры модерации.
ПОЧЕМУ ЭТО ВАЖНО
Это показывает масштабируемое злоупотребление крупными языковыми моделями для автоматизированных и монетизированных схем обмана, которые могут вводить в заблуждение множество пользователей и обходить обычные меры модерации.