эволюционные алгоритмыСбросить фильтр ×

Dust предлагает обучать трансформеры без обратного распространения ошибки

В Dust активации зашумляют независимо для каждого токена, а изменения лосса используют для оценки направления сдвига выходов слоёв. Полученную оценку превращают в псевдоградиентi и передают оптимизатору — например, SGD или Adam — без явного вычисления градиента обратным распространением.

Авторы проверили метод на небольшой GPT-2-like модели: он сходился заметно лучше эволюционного бейзлайна EGGROLLi и, по их данным, конкурировал с SGD. Подход может быть полезен для обучения моделей с недифференцируемыми компонентами, хотя приведённые эксперименты охватывают только ограниченный масштаб.

ВыводДля каждого токена используют несколько независимых шумов; псевдоградиент получают усреднением изменений лосса, умноженных на шум.

8-слойнойразмер тестовой модели
2kдлина контекста
10–20 млнтокенов в бюджете обучения

Полный разбор →

Sakana AI представила QD-Rec для поиска разнообразных рекомендаций

4 дн
Sakana AI представила QD-Rec для поиска разнообразных рекомендаций

AIRI запустила открытое сообщество для решения NetHack с помощью ИИ-планировщиков

AI-редакция
2 источника · показать все· свернуть
собирается · 2обновлено 1 мес назад

Исследователи из AIRI открыли сообщество, объединяющее разработчиков систем планирования для ИИ вокруг задачи прохождения NetHacki — классической и крайне сложной для алгоритмов игры. Лидер инициативы — Владислав Куренков.

Участники сохраняют собственные подходы: свой способ получить рабочую программу, свои инструменты и стратегию, но пользуются общей инфраструктурой, которая позволяет сравнивать результаты друг друга и дорабатывать чужие решения.

Полный разбор →

Это всё на сейчас.