ИССЛЕДОВАНИЕ · RESEARCH · #1779
Верификация и пределы самоулучшения агентных ИИ (arXiv:2610.10611v1)
В статье предложена формальная схема того, как агентные ИИ могут улучшаться посредством увеличенного поиска, дополнительной поддержки или изменения предложений/верификации, используя ограниченную верификацию с скрытой терминальной случайностью. Определяются стадии (допустимые транскрипты, верификатор, терминальная проверка), родной охват и предел замыкания; показывается сохранение языков при независимом усилении большинством, указывается риск при экзистенциальном приёме по случайным лентам, проводится связывание классов случайных верификаторов (Σ_k^{RV}) с классами сложности, анализируется ограниченное рекурсивное самоулучшение, аудиты доказательств и вводится семейство XOR-синтеза с квотами.
КЛЮЧЕВЫЕ ТЕЗИСЫ
- В статье предложена формальная схема того, как агентные ИИ могут улучшаться посредством увеличенного поиска, дополнительной поддержки или изменения предложений/верификации, используя ограниченную верификацию с скрытой терминальной случайностью.
- Определяются стадии (допустимые транскрипты, верификатор, терминальная проверка), родной охват и предел замыкания; показывается сохранение языков при независимом усилении большинством, указывается риск при экзистенциальном приёме по случайным лентам, проводится связывание классов случайных верификаторов (Σ_k^{RV}) с классами сложности, анализируется ограниченное рекурсивное самоулучшение, аудиты доказательств и вводится семейство XOR-синтеза с квотами.
- Работа даёт теоретическую основу, связывающую утверждения о самоулучшении с конкретными ограничениями корректности, доказательств и ресурсов, что важно для строгой оценки и безопасности ИИ.
ПОЧЕМУ ЭТО ВАЖНО
Работа даёт теоретическую основу, связывающую утверждения о самоулучшении с конкретными ограничениями корректности, доказательств и ресурсов, что важно для строгой оценки и безопасности ИИ.