Рэйчел Ли Нейборс о локальных SLM, клиенте Mima и динамических UI на базе ИИ
В подкасте InfoQ Рэйчел Ли Нейборс рассказывает о подходе local-first и своем клиенте Mima (mima.social), утверждая, что локальные небольшие языковые модели (SLM), например Llama 3.2B, могут обеспечить более приватные, быстрые и недорогие альтернативы облачным LLM-оберткам. Она обсуждает оценку моделей с помощью «золотых» наборов данных, применение клиентского ИИ для модерации и агрегации соцлент, а также перспективы ОС-агентов и стандартов динамического UI вроде A2UI.