ИНВЕСТИЦИИ · STARTUPS · #1448
Trillium Labs запустила некоммерческую организацию для открытых исследований пост‑тренировки, RSI и агентов
Натан Ламберт и Том Зик запустили Trillium Labs — некоммерческую организацию, которая будет проводить и публиковать эксперименты в рискованных областях ИИ, включая пост‑тренировку, рекурсивное самоулучшение (RSI), агентов и обучение с подкреплением, чтобы обеспечить внешнюю проверку и воспроизводимость. Лаборатория получила начальное финансирование от Schmidt Sciences и Halcyon Futures, планирует собрать всего $40–100 млн и потратить $30 млн на обучение в ближайшие 18 месяцев.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- Натан Ламберт и Том Зик запустили Trillium Labs — некоммерческую организацию, которая будет проводить и публиковать эксперименты в рискованных областях ИИ, включая пост‑тренировку, рекурсивное самоулучшение (RSI), агентов и обучение с подкреплением, чтобы обеспечить внешнюю проверку и воспроизводимость.
- Лаборатория получила начальное финансирование от Schmidt Sciences и Halcyon Futures, планирует собрать всего $40–100 млн и потратить $30 млн на обучение в ближайшие 18 месяцев.
- Публикация подробных экспериментов может расширить проверку и воспроизводимость передовых разработок ИИ, изменив понимание и регулирование рисков и возможностей.
ПОЧЕМУ ЭТО ВАЖНО
Публикация подробных экспериментов может расширить проверку и воспроизводимость передовых разработок ИИ, изменив понимание и регулирование рисков и возможностей.