Tech Meridian ← К ЛЕНТЕ
PROМОЙ MERIDIAN EN

ИССЛЕДОВАНИЕ · RESEARCH · #2253

CALIBER обучает модели рассуждений сообщать начальную и конечную уверенность

CALIBER — метод обучения, который заставляет модели рассуждений выдавать две оценки уверенности: начальную (вероятность решить задачу до рассуждений) и конечную (вероятность правильности полученного ответа). На математическом бенчмарке откалиброванная модель 7B с CALIBER сократила ошибку калибровки (ECE) более чем вдвое по сравнению с лучшим одномерным базовым подходом и улучшила AUROC для ранжирования вероятно корректных ответов.

КЛЮЧЕВЫЕ ТЕЗИСЫ

  1. CALIBER — метод обучения, который заставляет модели рассуждений выдавать две оценки уверенности: начальную (вероятность решить задачу до рассуждений) и конечную (вероятность правильности полученного ответа).
  2. На математическом бенчмарке откалиброванная модель 7B с CALIBER сократила ошибку калибровки (ECE) более чем вдвое по сравнению с лучшим одномерным базовым подходом и улучшила AUROC для ранжирования вероятно корректных ответов.
  3. Более точные оценки уверенности для каждого ответа делают выводы модели более полезными, показывая, когда им можно доверять, проверять или обращаться за помощью.

ПОЧЕМУ ЭТО ВАЖНО

Более точные оценки уверенности для каждого ответа делают выводы модели более полезными, показывая, когда им можно доверять, проверять или обращаться за помощью.

ИСТОЧНИКИ И ХРОНОЛОГИЯ

1
01
COHERE ПЕРВОИСТОЧНИК
Rethinking Confidence in Reasoning Models

You roll two fair six-sided dice. What is the probability that their sum is at least 10? A model might hesitate at first. Then it counts the possibilities: three ways to roll 10, two ways to roll 11, and one way to roll 12. Six outcomes out of 36. The answer is 1/6 . In our illustrative example (figure below, on the left), the model starts at 25% confidence and finishes at 88%. Those percentages describe its confiden…

↗