Circuit Breaker Labs создаёт платформу для тестирования безопасности ИИ с гиперреалистичными симулированными пользователями
Circuit Breaker Labs, ранний стартап, основанный братьями и сёстрами Ширали и Арулом Нигам, разработал платформу для тестирования безопасности ИИ, использующую симулированных пользователей разных возрастов, языков, культур и сленга для «красно-командных» испытаний моделей на психологически рискованных взаимодействиях; у компании небольшая команда, ключевые клиенты не раскрываются, и она будет выступать на TechCrunch Disrupt. Платформа проводит десятки или сотни тысяч симулированных взаимодействий в день и выдаёт аудируемые оценки, рассчитанные на приложения высокого риска, такие как ИИ в области психического здоровья или коучинга.