ИССЛЕДОВАНИЕ · RESEARCH · #522
Статья предлагает гибрид с порогом доверия (ансамбль + LLM) для экономичного распознавания эмоций в диалоге
В arXiv:2609.17977v1 сопоставляются недорогой стековый ансамбль, прямой вызов LLM (включая GPT-4o-mini) и гибрид с фильтром по уверенности, который перенаправляет низкоуверенные предсказания ансамбля на LLM для распознавания эмоций в диалоге. На наборах IEMOCAP, MELD и CMU-MOSI гибрид превосходит оба чистых подхода по Pareto (лучший взвешенный F1 и сокращение расходов на LLM, поскольку большая часть обращений обрабатывается дешёвым ансамблем), с оценочными затратами примерно $10–85 против $99–170 на миллион обращений для гибридной и LLM-only схем соответственно.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В arXiv:2609.17977v1 сопоставляются недорогой стековый ансамбль, прямой вызов LLM (включая GPT-4o-mini) и гибрид с фильтром по уверенности, который перенаправляет низкоуверенные предсказания ансамбля на LLM для распознавания эмоций в диалоге.
- На наборах IEMOCAP, MELD и CMU-MOSI гибрид превосходит оба чистых подхода по Pareto (лучший взвешенный F1 и сокращение расходов на LLM, поскольку большая часть обращений обрабатывается дешёвым ансамблем), с оценочными затратами примерно $10–85 против $99–170 на миллион обращений для гибридной и LLM-only схем соответственно.
- Это показывает практический и аудитируемый способ для CCaaS и платформ разговорного ИИ снизить расходы на LLM и одновременно улучшить или сохранить точность ERC, перенаправляя на дорогие LLM только неуверенные случаи.
ПОЧЕМУ ЭТО ВАЖНО
Это показывает практический и аудитируемый способ для CCaaS и платформ разговорного ИИ снизить расходы на LLM и одновременно улучшить или сохранить точность ERC, перенаправляя на дорогие LLM только неуверенные случаи.