Dataiku демонстрирует Kiji Inspector: объяснимость выбора инструментов агентом с помощью разреженных автоэнкодеров
На QCon AI Ханнес Хапке (575 Lab, Dataiku) представил Kiji Inspector — открытый инструмент, который применяет разреженные автоэнкодеры к токенам решений, чтобы выявлять причины выбора инструментов агентами на базе больших языковых моделей. В демонстрации обсуждались каузальная аблация, извлечение активаций слоев через патчнутые vLLM-движки и рабочие процессы мониторинга в продакшене.