Tech Meridian ← К СУЩНОСТЯМ
EN

КОМПАНИЯ · ENTITY #1251

Baseten

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

3

COMPANIES · 1 ИСТОЧН. · NVIDIA Developer

NVIDIA представляет AIPerf — мультипроцессный инструмент для бенчмаркинга LLM

NVIDIA AIPerf заменяет GenAI-Perf полностью переработанной мультипроцессной архитектурой, чтобы исключить узкие места на стороне клиента при нагрузочном тестировании инференса LLM. Инструмент поддерживает более 15 типов endpoint, публичные наборы данных и форматы воспроизведения трейсoв (ShareGPT, Mooncake, Baseten, WEKA/AgentX), настраиваемые шаблоны загрузки и выводит метрики TTFT, ITL, перцентильные задержки и телеметрию GPU при наличии DCGM или pynvml.

6.0

MODELS · 1 ИСТОЧН. · TechCrunch AI

Base Labs от Baseten запускает стандарт безопасности для open-weight моделей совместно с Hugging Face и Goodfire AI

Baseten через исследовательское подразделение Base Labs объявил о новом стандарте инфраструктуры безопасности для open-weight моделей и о партнёрстве с Hugging Face и Goodfire AI для создания средств оценки и мониторинга; технические детали не раскрыты. Инициатива рассматривает безопасность как неотъемлемую часть обучения и развертывания моделей и содержит открытый призыв к участию разработчиков на фоне опасений из‑за «аблизации» и тысяч аблированных моделей на Hugging Face.

6.0

COMPANIES · 1 ИСТОЧН. · Hugging Face

Baseten появился в списке Inference Providers на Hugging Face (анонс)

Hugging Face опубликовал запись с заголовком «Baseten on Hugging Face Inference Providers 🔥». Текст источника здесь отсутствует; заголовок указывает на упоминание Baseten в контексте программы или списка Inference Providers Hugging Face, однако подробности неизвестны.

4.0