«Последний ИИ, созданный людьми»: что нужно для настоящего самоулучшения?
«Последний ИИ, созданный людьми»: что нужно для настоящего самоулучшения?
Вышла новая работа The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement, посвящённая одному из наиболее сложных вопросов развития ИИ: сможет ли система не просто улучшать себя, а улучшать сам процесс собственного улучшения.
Авторы выделяют 5 уровней рекурсивного самоулучшения (RSI):
• выполнение улучшений, заданных человеком; • самостоятельный выбор стратегии улучшения; • автономный сбор опыта; • адаптация к изменяющемуся окружению; • recursive meta-improvement — изменение самого механизма, который ищет и оценивает следующие улучшения.
Именно последний уровень является принципиальным.
Современные ИИ уже могут работать с собственным кодом, промптами, инструментами и отдельными стратегиями. Но это ещё не означает полноценного рекурсивного самоулучшения.
Главный вопрос — сможет ли ИИ улучшать не только себя, но и механизм, с помощью которого он находит следующие улучшения.
Если такой цикл станет автономным и устойчивым, система сможет переходить от последовательных улучшений к улучшению самого процесса поиска новых улучшений.
При этом авторы подчёркивают: полноценного RSI сегодня ещё не существует. Работа скорее предлагает рамку для понимания того, какие этапы предстоит пройти от современных систем до настоящего recursive self-improvement.