ИИ

На сайте Antikythera авторы книги Экзокапитализм Поликс и Трийо, а также их товарищи выложили свой новый большой проект, исследование The Superdark Factory: Toward the Full Automation of Software. Предлагают представить такую фабрику, которая управляет сама собой; фабрику, которая сама определяет свои цели и оптимизирует себя для их достижения. Это что-то вроде полностью автоматизированной фирмы, компании без людей внутри, рекурсивно самооптимизирующегося тела, которое само решает, что производить, как производить и зачем. Это весьма особый тип фабрики — фабрика, созданная с намерением производить нечто, строго превосходящее способности её создателя; нечто настолько продуктивное, эффективное и способное, что оно выходит за рамки любой возможности заранее заданного предписания; нечто, принадлежащее к множеству возможных фабрик, которые в настоящее время немыслимы.

Как построить подобную вещь? Что значило бы направлять подобную вещь или управлять ею? Мы называем такую фабрику сверхтёмной фабрикой (superdark factory) — фабрикой, чья внутренняя динамика бурлит слишком быстро, чтобы её осознать, чьи логики ветвятся в слишком плотные сплетения, чтобы их реконструировать, и чьи стандарты производительности слишком эфемерны, чтобы ими руководить. Мы полагаем, что построить такую фабрику можно уже сейчас, имеющимися инструментами, если кто-то решит это сделать. Для достижения этой цели мы предлагаем «тёмный стек» (dark stack) — набор принципов проектирования, которые архитектор мог бы использовать для создания такой фабрики и, более того, для содействия её непрерывному управлению после инициализации, всё так же оставаясь неспособным понять о ней почти ничего. Самая значительная интервенция, доступная архитектору, строящему сверхтёмную фабрику с помощью тёмного стека, — это единственный решительный шаг, совершаемый до того, как фабрика вообще будет включена, который приводит в движение четыре ключевых принципа: >массив структурных примитивов, позволяющих фабрике обучаться; >режим версионирования, измеряющий то, что фабрика делает, а не то, чем она является; >слой состязательной оценки (adversarial evaluation layer), служащий основным органом чувств фабрики; >устав, функционирующий как договорная площадка управления, написанная в соавторстве с самой фабрикой. После завершения этого начального шага наиболее существенные последствия тёмного стека включают исключение человеческого контроля из проектирования фабрики и последующее утверждение человеческого архитектора в качестве теоретико-игрового стратегического игрока, взаимодействующего с возникающей тотальностью производства.

⚡ Как ускорить LLM на длинном контексте На AI RnD Day Никита Арсенин разобрал альтернативы классическому механизму внимания и показал результаты экспериментов команды. Он рассказал, как современные LLM избавляются от главного ограничения обычного attention — квадратичной зависимости стоимости от длины контекста, и почему в новых моделях всё чаще появляются гибрные подходы. 📌 TLDR Ускорять внимание можно двумя способами: выбирать из контекста только нужные токены или сжимать историю в состояние фиксированного размера. Первый подход сокращает дорогую агрегацию, второй убирает растущий KV-кеш. Но у обоих есть ограничения по доступу к деталям, поэтому их комбинируют с полным вниманием. В экспериментах команды sparse attention дал ускорение генерации в 4,8 раза на длинном контексте, а гибрид GDN + Attention Residuals — отдельно +6,2 п. п. на MMLU. 🔎 Sparse attention: сначала найти, потом прочитать В классическом трансформере query сравнивается со всеми keys, затем модель агрегирует соответствующие values. А в показанной схеме разреженного внимания дешёвый индексатор просматривает контекст и выбирает top-k позиций. Дорогая агрегация выполняется только по ним. Для последовательности длины L её стоимость снижается с квадратичной O(L²) до O(Lk). Но поиск не бесплатный: в этой схеме индексатор всё ещё даёт квадратичный член. Выигрыш в том, что он заметно дешевле полного внимания. 🧠 Linear attention Отдельные key/value всех прошлых токенов не хранятся. Они последовательно обновляют матрицу состояния S. В простейшей схеме со слайда: Sₜ = Sₜ₋₁ + vₜkₜᵀ При фиксированных размерностях состояния память и стоимость одного рекуррентного шага не растут с длиной контекста: O(1) вместо O(L). Суммарная работа механизма внимания для L шагов становится O(L), а не O(L²). Обратная сторона медали — история сжата. Нельзя просто обратиться к отдельному старому KV, как в full attention. Поэтому гибрид может чередовать, например, три линейных блока с одним полным: большую часть слоёв сделать дешевле, но оставить доступ ко всем позициям контекста. 🛠 Инфраструктура Наивные реализации DSA и линейного внимания поверх LLaMA-3.1-8B-Instruct показали ускорение в 2,6–3,75 раза на длинном контексте. А при сравнении PyTorch-реализации Gated DeltaNet с FlashAttention-3 линейное внимание стало быстрее лишь примерно на 200K токенов. Наша команда не ограничилась заменой слоя: адаптировала cuDNN-ядра для DSA/NSA, написала Triton-ядра для DSA и DSA + sliding window attention, оптимизировала линейные механизмы и Attention Residuals. Последние меняют смешивание выходов по глубине сети, а не отбор токенов контекста. 📊 Что получилось Модель с разреженным вниманием MSA справилась с генерацией примерно за 1,9 секунды, а базовый вариант с обычным вниманием MQA — за 9,2 секунды. Ускорение — в 4,8 раза. В отдельном эксперименте гибрид GDN + Attention Residuals обошёл full-attention baseline на 6,2 п. п. по усреднённому MMLU после примерно 110В обучающих токенов. Важно отметить, что это результаты конкретных конфигураций, а не гарантия для любой LLM. 🔗 Более подробно — в презентации Никиты (в комментариях файлом) и в записи выступления (тайминг: 1:07:00). #llm #attention #conference #paperwatch

#QI21 github.com/wildminder/awesome-qwen-image - подборка ресурсов по Qwen Image: модели, #LoRA #workflow , инструменты #list huggingface.co/Viggle/Qwen-Image-2.1-viggle-turbo - обновилась тeрболора - v0.2, #T2I и эдит в 6 шагов вместо 40, ~5x быстрее #optimization civitai.red/models/2790570/casual-snapshot-realism - #LoRA #realism под естественные фото. Есть версия и для #Krea2 civitai.red/models/2960750/qwen-image-21-character-design-sheet-maker-workflow - обновился #workflow персонажного листа #charactersheet v2.0 под видеогенерацию (Seedance 2.5/H3): только нужное для анимации — мимика, 3 ракурса, крупные планы снаряжения. Документация по промптингу и типовым ошибкам внутри MAX

ComfyMax MusicLab подготовка аудио для музыкальных видео в ComfyUI Локальный воркспейс анализа песен и нарезки сцен для музыкальных видео воркфлоу • редактирование маркеров на волновой форме - границы сцен • разделение вокала через Demucs, классификация вокальных и инструментальных отрезков • анализ музыки: ритм, аккорды, таймшты • транскрипция слов через Whisper, редактируемые текст • экспорт сцен для видео-генерации • опционально SheetSage2 - нотная транскрипция ABC и экспорт MIDI Пайплайн: загрузка трека, локальная сепарация, правка маркеров, создание сцен, экспорт. Отдельное окружение Python 3.11, ComfyUI не трогает. SheetSage2 ставится отдельно (10 ГБ, лицензия только для некоммерческого использования) #music2video #song2video MAX

До вайб-кодинга оставалась четверть века… Контроллеры австрийской B&R, на которых в стране собрана куча автоматики, после ухода вендора купить нельзя, а через серый импорт один такой стоит от полумиллиона до трёх с половиной миллионов рублей. И так при каждом отказе. Инженер, оставшийся единственным разработчиком в компании после банкротства, придумал менять не всё, а только «голову», ставя вместо контроллера обычный мини-ПК в десятки раз дешевле. Загвоздка в том, что родные стойки общаются по протоколу жёсткого реального времени с циклом в две миллисекунды, а открытый стек под него забросили в 2019 году. Раньше под такую задачу искали бы редкого специалиста на месяцы работы за те же миллионы. Драйвер, шлюз и разбор проекта заняли меньше недели, и первый же длинный прогон дал почти триста тысяч циклов обмена без единого пропуска. Выясним, почему оно заработало там, где интернет почти ничем не помогает.

Из Google DeepMind ушёл ещё один сотрудник, опасающийся разработки сверхмощного искусственного интеллекта Из Google DeepMind ушёл Роберт О'Каллахан, работавший над чипами для ускорения и удешевления ИИ. Он считает, что развитие технологии идёт слишком быстро, а стремление создать сверхмощный ИИ в ближайшем будущем может быть безответственным. О'Каллахан опасается реального, хотя и не гарантированного, риска катастрофы для человечества и призывает серьёзно заниматься его снижением. Он планирует продолжить работу в сфере ИИ, но уже в другом формате — например, изучать ИИ-агентов для отладки кода. Его уход стал очередным на фоне увольнений специалистов из-за тревог о безопасности передовых технологий. #googledeepmind #искусственныйинтеллект #безопасностьии #ии 📎Подробнее 🔖 3DNews в TG | MAX | VK

Вчера OAI опубликовали новый тип prompt injection атаки, которую они обнаружили во время тренировки новой модели. Идея в том, что модель может отправить текст, который выглядит как совершенно нормальный для людей в виде письма, слак сообщения, инвайта в календаре, но сам этот текст содержит инструкции для модели принимающей стороны. Инструкции заставляют эту модель так же отправит сообщение всем своим контактам, и так далее по принципу распространения компьютерных вирусов. Эту конкретную уязвимость пофиксили, но идея теперь в трейнинг дате, так что будущие сверхчеловеческие модели могут брать идею на вооружение. Одна из самых опасных вещей тут в том, что подобная атака заставляет модель создавать фейковые цепочки рассуждений — что было одним из единственных надежных способов найти мисалайнд (непослушные) модели на тестах.

WanPE от Wan Team Улучшайзер промптов на 397B параметров. Короткий запрос превращает в режиссерский покадровый сценарий: движения, траектории камеры, свет, звук по всем сценам. Обучили на 1.05 млн реальных видео • покадровая раскадровка уровня режиссера • держит исходный замысел пользователя через SC-GRPO - семантика не теряется между кадрами • для видео 5-30 секунд • переносится на другие генераторы - LTX-2.5 и MiniMax-H3 • +50.9 балла к предпочтениям людей на 30-секундных видео с Wan3.0 • +10.7-18.8 балла на 5-15 секундах • обходит коммерческие решения на 5-15 секундах, конкурентен Seedance 2.5 на 30 Опенсорс вероятно, ждем #prompting #PE #directing MAX

Большой недельный пост 🎉 Несколько дней думаю, стал бы я прыскать в нос аэрозолью для ума от Артема Соколова или все же ссыкотно. Ну, как минимум, несколько лет на подумать еще есть. А вы пока почитайте наш большой недельный пост. А вот, кстати, и он! 1️⃣ Газовые двигатели ИИ-бума: американские дата-центры переходят на личные генераторы на ископаемом топливе — ссылка 2️⃣ Про чуваков, которые обучают AI на геймерских стримах. Они не продались OpenAI и решили самостоятельно развиваться в эту сторону — ссылка 3️⃣ Старенькая лекция Сэма Альтмана и Дастина Московица про то, как начинать стартапы — ссылка (за наводку спасибо @rebrykblog) 4️⃣ История девушки про то, как она с AI сделала приложение в сфере здравоохранения и дошла до $300 тысяч ARR — ссылка 5️⃣ История про iBeer — первое завирусившееся приложение на iPhone. Его скачали более 100 млн раз, а его основатель зарабатывал по $10-20 тысяч в день — ссылка 6️⃣ Выпуск Андрея Алистарова про связь бывшего министра связи Никифорова с финансовой пирамидой Finiko. Там интересно про переговоры между адвокатами — ссылка 7️⃣ Большой разговор с крупными российскими компаниями про открытые AI-модели, про их будущее и кто на них зарабатывает — ссылка 8️⃣ История появления перфокарт. Ни них раньше компьютеры работали, если вдруг подзабыли — ссылки @TheEdinorogBlog — тот самый канал про стартапы🦄

Y Combinator S22 через 4 года На прошлой неделе прошел очередной демо-день Y Combinator. Это тот самый момент, когда задаются тренды венчурного мира. Плотность будущих единорогов на квадратный метр тут заведомо рекордная. Тренды в очередной раз вышли унылейшими. 90% компаний – это либо очередной SaaS или NoCode для второстепенной бизнес-функции, либо “X для Y в Z”, “Shopify для поваров в Пакистане” и подобное. В #стартапдня я выбрал самые нехарактерные компании выпуска, хоть как-то надо поддержать смелость и отход от шаблонов. Maverick Bioworks планирует выделять литий из породы с помощью биотехнологий. Созданные им микробы, дескать, делают это эффективнее, чем любые промышленные процессы. А под следующую задачу стартап новых микробов придумает, литий – не последняя остановка. Signature Biosciences хотел бы обещать полный анализ здоровья человека по одной капли крови, но, к сожалению, эту нишу уже занял Theranos. Сегодняшний стартап формулирует ту же мысль чуть в других словах. Мы, дескать, умеем заставить существующее оборудование делать 50 разных ПЦР тестов на одном биоматериале. И теперь по обычному анализу крови можно определять те болезни, которые раньше не определялись. Taro – закрытый клуб для разработчиков, где они помогают друг другу продвигаться по карьерной лестнице. Внутри ни слова об особенностях инкапсуляции в C++, но зато много рекомендаций о том, как увеличить зарплату, работая в Amazon. О результатах у всех говорить ещё рано, они только-только из акселератора выпустились. — Вот такой #субботнийповтор из 2022 года. Это был последний выпуск YC из эпохи “до ChatGPT”. SaaS и NoCode как лидерам венчурной мысли жить оставалось всего 2 месяца. После ноября многие стартапы резко переобулись и сказали, что они теперь AI. Единорогом из того набора пока никто не стал. Среди относительно успешных проектов вы можете знать Firecrawl. В YC они пришли как уроки программирования, а сейчас дают API AI-агентам для хождения по интернету, чтобы те сразу данные с веб-страниц получали, а не мучительно их самостоятельно парсили. Из тройки, которую выбрал я, Maverick и Signature привлекли относительно небольшие раунды и продолжают развитие. Taro продался – видимо, за копейки. Мой старый пост: https://t.me/startupoftheday/2534