НОВОСТЬ · STARTUPS · #991
PrismML портирует 1‑битный LLM «Bonsai» на платформу Qualcomm Snapdragon AR1 Gen1 для смарт‑очков
На саммите Qualcomm Snapdragon PrismML показала 1‑битную версию своего маленького LLM «Bonsai», адаптированную для задач зрения и языка и способную работать локально на устройствах с платформой Snapdragon AR1 Gen1; версия для смарт‑очков содержит 2 млрд параметров, но готовых очков с этой моделью пока не анонсировали. PrismML, основанная исследователями Caltech и консультируемая Айоном Стоикой из UC Berkeley, продвигает идею открытых весов и локального выполнения ИИ вместо зависимости от облачных приватных моделей.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- На саммите Qualcomm Snapdragon PrismML показала 1‑битную версию своего маленького LLM «Bonsai», адаптированную для задач зрения и языка и способную работать локально на устройствах с платформой Snapdragon AR1 Gen1; версия для смарт‑очков содержит 2 млрд параметров, но готовых очков с этой моделью пока не анонсировали.
- PrismML, основанная исследователями Caltech и консультируемая Айоном Стоикой из UC Berkeley, продвигает идею открытых весов и локального выполнения ИИ вместо зависимости от облачных приватных моделей.
- Демонстрирует практический шаг к запуску компактных высокоэффективных LLM локально на железе Snapdragon AR1 Gen1, что продвигает идею локального/открытого ИИ и потенциальных преимуществ по приватности, но потребительских устройств пока нет.
ПОЧЕМУ ЭТО ВАЖНО
Демонстрирует практический шаг к запуску компактных высокоэффективных LLM локально на железе Snapdragon AR1 Gen1, что продвигает идею локального/открытого ИИ и потенциальных преимуществ по приватности, но потребительских устройств пока нет.