РЕГУЛИРОВАНИЕ · COMPANIES · #2956
В S‑1A Anthropic предупреждает, что может быть близка к рекурсивному самоулучшению (RSI)
В обновлённой форме S‑1A Anthropic сообщает, что использует ИИ для ускорения исследований и разработок и что её внутренние оценки указывают на то, что она может «в ближайшее время» достигнуть определения «резкого ускорения прогресса, обусловленного ИИ» в своей Responsible Scaling Policy (то есть рекурсивного самоулучшения), при этом компания отмечает, что ни одна из текущих моделей ещё не признана превысившей этот порог и обязуется сохранять участие людей в разработке передовых моделей.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В обновлённой форме S‑1A Anthropic сообщает, что использует ИИ для ускорения исследований и разработок и что её внутренние оценки указывают на то, что она может «в ближайшее время» достигнуть определения «резкого ускорения прогресса, обусловленного ИИ» в своей Responsible Scaling Policy (то есть рекурсивного самоулучшения), при этом компания отмечает, что ни одна из текущих моделей ещё не признана превысившей этот порог и обязуется сохранять участие людей в разработке передовых моделей.
- Заявление ведущей лаборатории ИИ о близости к RSI меняет представления общественности и регуляторов об уровне риска, необходимости регулирования и мерах безопасности.
- Anthropic warns that it’s very close to RSI capability, aka self-building AI
ПОЧЕМУ ЭТО ВАЖНО
Заявление ведущей лаборатории ИИ о близости к RSI меняет представления общественности и регуляторов об уровне риска, необходимости регулирования и мерах безопасности.