Китайское исследование рекурсивного самоулучшения ИИ
Н@navuka_i_jiznAI-инженер
1 месОбзор масштабного исследования от Tsinghua, ByteDance и других о пяти ступенях рекурсивного самоулучшения ИИ и проблемах накопления ошибок.
Это исследование описывает теоретический путь к созданию ИИ, который может совершенствовать сам себя без участия человека.
- Предложена концепция пяти уровней автономного развития ИИ.
- Исследование объединяет экспертизу крупнейших китайских технологических компаний и вузов.
- Основной фокус на безопасности: как избежать деградации модели при автоматическом внесении изменений.
Ну вот и китайский ответ на "замедление ИИ-развития"
«Последний ИИ, созданный людьми» — под таким громким названием китайцы выкатили масштабное исследование о рекурсивном самоулучшении ИИ: 75 страниц, обзор 491 работы и 33 автора. Среди соавторов исследователи из Tsinghua, ByteDance, Shanghai AI Lab, ModelBest и Xiaohongshu.
ИИ должен постепенно научиться не только выполнять заданные человеком улучшения, но и самостоятельно выбирать, чему учиться, добывать опыт и улучшать сам процесс, которым создаёт следующую версию себя. Авторы расписали пять ступеней этого перехода и разобрали существующие подходы. Главный нерешённый вопрос - как добиться, чтобы изменения действительно накапливали полезные способности, а не ошибки 🍿
Не знаю как вы, а я даже не заметил как мы перешли от подсчёта букв r в слове strawberry к решению проблем тысячелетия и реальным разработкам сверхинтеллекта🌚
пост - https://x.com/Realgeopolitica/status/2099258227049590886
Кратко (AI)
Группа китайских исследователей из ведущих университетов и компаний опубликовала работу о рекурсивном самоулучшении ИИ. В документе описаны пять этапов перехода к системам, способным самостоятельно выбирать направления обучения и улучшать собственный код, а также обсуждаются риски накопления ошибок в процессе.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖