В сентябре 2026 года в ИИ-отрасли снова обострился спор о том, что считать искусственным интеллектом человеческого уровня (AGIi). Автор канала «Айра Монгуш — AI, tech & math» разбирает популярный, но, по её мнению, ошибочный ответ: якобы AGI наступит тогда, когда ИИ сам сможет вести исследования ИИ и создавать своего преемника — то есть при достижении рекурсивного самоулучшения (RSIi, recursive self-improvement).
Автор утверждает, что AGI, RSI и ASIi (artificial superintelligence) — это три логически независимых понятия: широта способностей, механизм развития и уровень способностей соответственно. Смешение этих понятий позволяет лабораториям объявить победу, когда заработает «средство» (RSI), даже если сама «цель» — широкая человекоподобная способность (AGI) — ещё не достигнута.
- AGI (artificial general intelligence) определяется через широту способностей: система общая, если справляется с большинством экономически ценных задач на уровне человека
- RSI (recursive self-improvement) — механизм: система улучшает себя или преемника, и каждое улучшение облегчает следующее
- ASI (artificial superintelligence) — уровень: система превосходит всех людей практически во всём
- Автор ссылается на рамку Google DeepMind из статьи Morris et al., «Levels of AGI» (2023), где способности раскладываются по глубине (performance) и широте (generality), а автономность выделена в отдельное измерение
- Идея AGI через RSI восходит к 1965 году — И. Дж. Гуд в статье «Speculations Concerning the First Ultraintelligent Machine» описал «интеллектуальный взрыв»: сверхразумная машина могла бы проектировать ещё лучшие машины, и первая такая машина станет «последним изобретением» человека
- По мнению автора, склейка AGI и RSI выгодна лабораториям: автоматизирует их главный актив, оправдывает вложенный капитал, переносит «финишную черту» под их контроль и совпадает с их собственными порогами безопасности
- Прогноз автора: в ближайший год кто-то из крупных игроков объявит внутреннюю систему, удовлетворяющую его собственному определению AGI через «автоматического исследователя», раньше, чем появятся независимо воспроизводимые доказательства устойчивого RSI
Автор советует следить за воспроизводимыми замерами с учётом стоимости вычислений, за способностью систем самим выбирать задачи (а не только исполнять их), и за тем, фиксирует ли компания бюджет вычислений в заявлениях о продуктивности. Игнорировать стоит одиночные твиты, ставящие знак равенства между AGI и RSI, графики без доверительных интервалов и метрики типа «строк кода» или субъективные оценки пользователей.
Это произошло: AI Research Preference Models: оптимизация выбора экспериментов для AI-агентов →
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖