H-JEPA: иерархическое планирование в моделях мира
D@data_secretsAI-инженер
2 недПредставлена архитектура H-JEPA, позволяющая моделям мира эффективно планировать действия на длинном горизонте за счет иерархического подхода.
Новый подход к обучению ИИ позволяет роботам лучше планировать сложные действия на длинной дистанции.
- Иерархическая структура позволяет модели разделять глобальные цели и конкретные действия.
- Верхние уровни модели учатся игнорировать лишние детали, фокусируясь на стратегии.
- Метод значительно повышает точность выполнения задач в виртуальных средах.
H-JEPA: End-to-End Learning of Hierarchical World Models for Visual Planning
Архитектура JEPA Яна Лекуна теперь стала иерархической. Напоминаем, основная идея в том, чтобы сделать модель, которая не угадывает следующий токен или пиксель, а понимает, что происходит в мире и что случится дальше (подробнее тут: https://t.me/data_secrets/8915).
В новой работе получилось сделать следующий важный шаг: JEPA научили нормально планировать на длинном горизонте. На Visual AntMaze (виртуальная среда для тестирования роботов в пространстве) новый подход поднял долю успешных прохождений с 18% до 73%, а затраты на планирование при этом сократились.
За иерархической версией архитектуры стоит довольно простая идея. Вместо одной world model используются несколько уровней с разным временным масштабом. Верхний уровень думает далеко вперед и выбирает примерное направление, следующий превращает его в более конкретные подцели, а нижний уже решает, какие действия нужно сделать прямо сейчас.
При этом верхние уровни сами учатся отбрасывать мелкие детали, которые не нужны для долгосрочного планирования. Например, в лабиринте на верхних уровнях пропадает информация о точном положении ног, но остается понимание, где находится робот и как устроен маршрут.
https://alphaxiv.org/abs/2610.06805
КонтекстAI
JEPA (Joint-Embedding Predictive Architecture) — это подход к обучению моделей мира, предложенный Яном Лекуном, который фокусируется на предсказании абстрактных представлений данных, а не на генерации пикселей или токенов. Ранее модели испытывали трудности с долгосрочным планированием, что и призвана решить иерархическая версия H-JEPA.
Кратко (AI)
Представлена архитектура H-JEPA, которая развивает концепцию JEPA Яна Лекуна, добавляя иерархическую структуру для долгосрочного планирования. Модель использует несколько уровней с разным временным масштабом, что позволило значительно повысить эффективность прохождения Visual AntMaze с 18% до 73%.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖