РЕЛИЗ · MODELS · #485
TypeSafe AI представила Jev — модель, которая оценивает заранее заданные варианты вместо генерации текста
Стартап TypeSafe AI, соучредителем которого является бывший исследователь OpenAI Диогу Алмейда, представил Jev — модель, возвращающую узкие метки и вероятности по заранее заданным вопросам вместо свободного текста. Компания утверждает время ответа 70–500 мс и низкую цену (0,042 $ за миллион входных токенов), но опубликованные тесты ограничены, сравнения проводились на собственных рабочих процессах, а заявление об отсутствии галлюцинаций касается только структуры выходов, а не верности выбранной опции.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Стартап TypeSafe AI, соучредителем которого является бывший исследователь OpenAI Диогу Алмейда, представил Jev — модель, возвращающую узкие метки и вероятности по заранее заданным вопросам вместо свободного текста.
- Компания утверждает время ответа 70–500 мс и низкую цену (0,042 $ за миллион входных токенов), но опубликованные тесты ограничены, сравнения проводились на собственных рабочих процессах, а заявление об отсутствии галлюцинаций касается только структуры выходов, а не верности выбранной опции.
- Если модель окажется надежной, её быстрые и дешёвые суждения позволят выполнять частую маршрутизацию и проверки в приложениях, однако качество и работа в реальных задачах требуют независимой проверки.
ПОЧЕМУ ЭТО ВАЖНО
Если модель окажется надежной, её быстрые и дешёвые суждения позволят выполнять частую маршрутизацию и проверки в приложениях, однако качество и работа в реальных задачах требуют независимой проверки.
ИСТОЧНИКИ И ХРОНОЛОГИЯ
2Almeida was an OpenAI researcher who helped build the chatbot and then invent reinforcement learning from human feedback (RLHF), the model-training technique perhaps most responsible for our current age of AI. But despite its capabilities, he was disappointed. “We have lightning in a bottle, and yet it is not useful,” Almeida told TechCrunch. “I’ve been battling that problem since then. It took me a while to come to…
Startup TypeSafe AI built a model called Jev that delivers fast judgments inside software instead of writing chat responses. The promised upside is speed and cost, but the limits are tight. Startup TypeSafe AI has introduced an AI model called Jev that takes a different approach than typical chatbots. Instead of generating text, emails, or code, Jev is built to deliver narrow judgments and probabilities inside other…