Andreessen Horowitz и технологические гиганты запускают бесплатную ИИ-школу







Исследователи Google, DeepMind и университетов Мэриленда и Вирджинии опубликовали работу о рекурсивном самоулучшении ИИ (RSIi) под названием Dream-RSI. Система не переобучает саму нейросеть, а совершенствует стратегию поиска решений: сохраняет дерево прошлых попыток агента и «проигрывает» его заново с альтернативными стратегиями — какие идеи развивать, какие тупики отбросить раньше, что проверять параллельно — без единого нового запуска. Лучшая найденная стратегия применяется в следующем реальном запуске, после чего цикл повторяется.
Подход даёт заметную экономию вычислений при решении задач и намекает на путь к агентам, которые сами совершенствуют собственную работу, а не только выполняют её.
ВыводКаждый узел дерева попыток хранит реальный результат выполнения, поэтому альтернативную стратегию можно проверить по этому дереву в другом порядке — это и называется «сном»

10 ♣️ 2.7 K ♣️ 0.4 6 ♥️ 1.1 TAKE -0.8https://github.com/KremlevLev/flydurak
Sakana AI разработала метод PC-ALM, позволяющий обучать глубокие нейросети без классического обратного распространения ошибки (backpropagationi), используя только локальные взаимодействия между соседними слоями. Метод способен обучать сети глубиной до 1000 слоёв — там, где обычный predictive codingi, на котором основан PC-ALM, обычно ломается из-за затухания сигнала ошибки.
Значимость в том, что backpropagation, придуманный ещё в 1970-е, требует строго последовательного прохода сигнала вперёд, затем ошибки назад и лишь потом обновления весов — что биологически неправдоподобно и плохо масштабируется на некоторые виды железа. PC-ALM предлагает альтернативу, вдохновлённую тем, как предположительно работает мозг, и может оказаться дешевле backprop на нейроморфных чипах.
ВыводВ обычном predictive coding каждый слой оптимизирует не только веса, но и свои активации, предсказывая активность соседнего слоя; наверх передаётся только необъяснённый остаток ошибки.
Илон Маск подтвердил, что выход Grok 4.7 переносится: модель нуждается в дополнительных днях дообучения. Причина — вероятная ошибка в RLi-обучении, из-за которой модель слишком строго штрафовалась за длину ответов и в итоге бросает сложные задачи, которые способна решить, недостаточно тщательно проверяя собственную работу.
По словам Маска, обещанный ранее срок «через 10 дней» уже прошёл, и теперь модели требуется «ещё несколько дней». Одновременно с этим Маск анонсировал следующую модель — Grok 4.8 на 2,5 трлн параметровi, которая уже приближается к этапу RL-обучения.


