НОВОСТЬ · STARTUPS · #1451
Circuit Breaker Labs создаёт платформу для тестирования безопасности ИИ с гиперреалистичными симулированными пользователями
Circuit Breaker Labs, ранний стартап, основанный братьями и сёстрами Ширали и Арулом Нигам, разработал платформу для тестирования безопасности ИИ, использующую симулированных пользователей разных возрастов, языков, культур и сленга для «красно-командных» испытаний моделей на психологически рискованных взаимодействиях; у компании небольшая команда, ключевые клиенты не раскрываются, и она будет выступать на TechCrunch Disrupt. Платформа проводит десятки или сотни тысяч симулированных взаимодействий в день и выдаёт аудируемые оценки, рассчитанные на приложения высокого риска, такие как ИИ в области психического здоровья или коучинга.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Circuit Breaker Labs, ранний стартап, основанный братьями и сёстрами Ширали и Арулом Нигам, разработал платформу для тестирования безопасности ИИ, использующую симулированных пользователей разных возрастов, языков, культур и сленга для «красно-командных» испытаний моделей на психологически рискованных взаимодействиях; у компании небольшая команда, ключевые клиенты не раскрываются, и она будет выступать на TechCrunch Disrupt.
- Платформа проводит десятки или сотни тысяч симулированных взаимодействий в день и выдаёт аудируемые оценки, рассчитанные на приложения высокого риска, такие как ИИ в области психического здоровья или коучинга.
- Это важно, потому что стартап направлен на уменьшение реального психологического вреда от разговорных ИИ, стресс-тестируя модели по языкам, возрастам и сленгу и создавая аудируемые метрики безопасности для приложений высокого риска.
ПОЧЕМУ ЭТО ВАЖНО
Это важно, потому что стартап направлен на уменьшение реального психологического вреда от разговорных ИИ, стресс-тестируя модели по языкам, возрастам и сленгу и создавая аудируемые метрики безопасности для приложений высокого риска.