ИИ

В июле 2025 года METR провела рандомизированный контролируемый эксперимент: 16 опытных разработчиков, 246 задач, данные февраля по июнь 2025 года, инструменты Cursor Pro с Claude 3.5 и 3.7 Sonnet. Результат дословно: разрешение использовать ИИ увеличило время выполнения на 19 процентов, с доверительным интервалом примерно от плюс 2 до плюс 39 процентов, при том что после эксперимента те же разработчики оценивали ускорение в 20 процентов. Один эксперимент не приговор, и сама METR отмечает, что это замер начала 2025 года. Но он показывает, как легко спутать ощущение ускорения с ускорением, и почему ощущения плохой измеритель. 4. Что говорят данные о темпе, и как их читать? Есть тренд, который цитируют чаще всего. METR измеряет временной горизонт задач: длину задачи по человеческому времени, которую модель решает с вероятностью 50 процентов. Этот горизонт удваивался примерно каждые семь месяцев в 2019 по 2025 годы, а на данных 2024 по 2025 удвоение выглядит ближе к четырём месяцам. Anthropic на странице When AI builds itself приводит именно эту ускоренную оценку и добавляет внутренние данные: более 80 процентов кода, вливаемого в кодовую базу Anthropic на май 2026 года, написано Claude, Anthropic а типичный инженер во втором квартале 2026 года вливал в 8 раз больше кода в день, чем в 2024 году Anthropic. Строки кода это количество, а не качество, и Anthropic честно оговаривает, что величина 8x почти наверняка завышает реальный прирост продуктивности. Кривая METR очень чувствительна к нескольким длинным задачам, а человеческие базовые времена измерены лишь для малой части самых длинных задач. Но это не доказательство того, что машина сама выбирает направления исследований. Именно выбор целей Anthropic называет своим главным оставшимся разрывом. И ещё один датапоинт против прямолинейной экстраполяции. Дэниел Кокотайло, ведущий автор сценария AGI 2027 (апрель 2025), к концу 2025 и в 2026 году сдвинул свою медиану ближе к 2029 и 2030 годам, потому что прогресс идет несколько медленнее сценария. Скептики вроде Эге Эрдиля и Тамая Бесироглу из Epoch AI держат горизонт AGI за 2045 годом и не считают интеллектуальный взрыв правдоподобным, хотя допускают взрывной экономический рост. Когда авторы самого известного сценария сдвигают сроки, это сигнал, что экстраполяцию одной кривой стоит принимать с осторожностью. 5. Что реально засчитывалось бы как доказательство? Чтобы говорить о RSI как о свершившемся факте, а не о маркетинге, нужен повторяемый рост исследовательской способности на протяжении нескольких поколений моделей, измеренный с учётом двух вещей: человеческого вклада и стоимости вычислений. Конкретно я бы смотрела на следующее: - Растёт ли способность модели самостоятельно выбирать направления исследований, а не только исполнять поставленные эксперименты, ведь именно этот разрыв называет своим Anthropic. - Сохраняется ли ускорение, когда вы фиксируете бюджет вычислений, а не наращиваете его. - Держится ли эффект на нескольких поколениях подряд, а не на одном удачном релизе. - Подтверждается ли он контролируемыми замерами вроде METR, а не опросами и ощущениями. Пока хотя бы часть этих условий не выполнена, разумно считать, что мы видим ускорение отдельных задач, ровно как и написала сама OpenAI 9 сентября 2026 года.

b) Оценки фронтиер-лабораторий 2025 и 2026 годов огромны. OpenAI 2 октября 2025 года завершила вторичную продажу акций на 6,6 миллиарда долларов при оценке 500 миллиардов долларов, из авторизованных 10,3 миллиарда, обогнав SpaceX как самая дорогая частная компания мира. Anthropic закрыла раунд Series G на 30 миллиардов долларов 12 февраля 2026 года при post-money оценке 380 миллиардов долларов, ведущие инвесторы GIC и Coatue. xAI закрыла увеличенный раунд Series E на 20 миллиардов долларов 6 января 2026 года при оценке около 230 миллиардов долларов, причем сама компания подчеркнула, что раунд превысил целевые 15 миллиардов. Обещание петли самоулучшения оправдывает такие капитальные затраты лучше, чем обещание еще одного полезного продукта. c) Контракт OpenAI и Microsoft показал, как дорого стоит определение AGI. По условиям реструктуризации октября 2025 года объявление AGI со стороны OpenAI теперь проверяет независимая экспертная панель, права Microsoft на интеллектуальную собственность продлены до 2032 года и включают модели после AGI, а выплаты доли доходов идут до 2030 года. Определение AGI стало юридическим переключателем на десятки миллиардов долларов, и лаборатории заинтересованы контролировать его формулировку. d) Порог RSI совпадает с их собственными порогами безопасности. Политика Anthropic Responsible Scaling Policy вводит уровни AI R&D-4 и AI R&D-5: первый это способность полностью автоматизировать работу младшего исследователя, второй это способность вызвать резкое ускорение разработки ИИ, то есть фактически RSI, и он требует уровня защиты ASL-4. У OpenAI критический порог AI Self-improvement определён похоже: сверхчеловеческий исследовательский агент или сокращение времени смены поколения модели в пять раз, удерживаемое несколько месяцев. Когда безопасность и объявление AGI завязаны на один и тот же порог, удобно называть его главным, потому что тогда история про безопасность и история про победу рассказываются в одной терминологии. Но положительная обратная связь не равна неограниченному росту. Монотонно возрастающая последовательность может иметь конечный предел: сумма ряда ½ + ¼ + ⅛ + … растёт на каждом шаге, но никогда не превышает единицы - это предел данной функции. Вопрос не в том, есть ли петля, а в том, каков коэффициент усиления и где стоят ограничители. Ограничителей несколько, и по ним есть данные. Вычисления Многие сценарии программного интеллектуального взрыва предполагают, что софт улучшает софт без нового железа. Но серьёзные эксперименты требуют вычислений уровня обучения передовой модели, а рост вычислений упирается в физику, энергию и сроки поставки. Экономическая работа 2025 года показала, что при определённой связи между экспериментами и идеями вычисления становятся жестким узким местом, arxiv и программное ускорение живёт лишь до этого предела. Идеи становится всё труднее находить Это известный результат экономики роста: чтобы поддерживать постоянный темп улучшений, нужно вкладывать всё больше исследовательских усилий. Даже сторонники сценария взрыва у Forethought оценивают отдачу так, что одно удвоение когнитивного труда даёт около 1,2 удвоения выхода в среднем, с широким разбросом от 0,4 до 3,6. Если параметр ближе к нижней границе, “взрыва” не происходит вовсе, а происходит затухание. Эксперимент и проверка Даже идеальный автоматический исследователь должен ставить опыты и ждать результатов. Обзор Epoch AI прямо отмечает, что эксперименты не серебряная пуля, потому что модель может быть ошибочной, а бенчмаркинг требует полного цикла обучения, доступного лишь горстке игроков. Физическое строительство Дарио Амодеи, оптимист, в эссе Machines of Loving Grace (октябрь 2024) признает, что даже целая страна гениев, живущая 24/7 в дата-центре, упрется в физические и практические пределы, например в скорость биологических экспериментов. Его формулы powerful AI и country of geniuses in a datacenter намеренно избегают слова AGI. Человеческий вклад и стоимость

В октябре 2025 года Сэм Альтман в прямом эфире и затем в посте на X сформулировал внутренние цели OpenAI: автоматический стажер-исследователь к сентябрю 2026 года и полноценный автоматический исследователь к марту 2028 года X. В начале сентября 2026 года OpenAI сообщила, что цель по стажеру достигнута: система выполняет четко поставленные исследовательские задачи под руководством человека, включая те, что заняли бы у специалиста несколько дней Engadget. Обратите внимание на осторожную формулировку: там нет слова AGI, там есть слово стажёр, и там есть слова под руководством человека. Параллельно журналисты и сами лаборатории начали подменять термин. В мае 2026 года TechCrunch прямо написал, что RSI стал новым AGI, и что его так же трудно определить TechCrunch. В августе 2026 года TIME описал внутреннюю систему OpenAI под именем Astra и связал разговоры про AGI именно с петлёй самоулучшения: модель, которая ускоряет собственные исследования, называется recursive self-improvement Time. Так возникла та самая склейка: раз порог AGI спорен, давайте измерять его через способность вести исследования ИИ. Удобно, но нечестно. Проверим четыре утверждения из исходной заметки по первоисточникам: a) Страница Anthropic Institute When AI builds itself действительно описывает RSI как систему, способную полностью автономно проектировать и строить своего преемника, и прямо говорит, что мы ещё не там и что RSI не является неизбежным Anthropic. Более того, Anthropic называет конкретный оставшийся разрыв: Claude уже сопоставим с человеком в исполнении хорошо поставленного эксперимента, но большие разрывы сохраняются, когда речь идёт о выборе целей, то есть о выборе направлений исследований. Это подтверждает пункт заметки. b) Устав OpenAI (OpenAI Charter) определяет AGI как высокоавтономные системы, превосходящие людей в большинстве экономически ценных работ. Формулировка подтверждается дословно. Это определение про экономику труда, а не про самоулучшение, и в нём нет ни слова про то, что система должна строить своего преемника. c) AlphaEvolve от Google DeepMind (май 2025) действительно улучшил вычислительные процессы, включая обучение самой Gemini: он ускорил ключевое ядро матричного умножения на 23 процента, что дало сокращение общего времени обучения Gemini примерно на 1 процент Google DeepMind. Это подтверждается первоисточником DeepMind. Небольшая точность: 23 процента и 1 процент это не два независимых достижения, а одно, выраженное на двух уровнях, ядро и полный цикл обучения. Отдельно AlphaEvolve ускорил ядро FlashAttention примерно на 32,5 процента, но это уже про инференс и обучение вообще, а не про самоулучшение конкретно. d) 9 сентября 2026 года OpenAI в тексте The AI policy window is open заявила, что полностью автономного RSI сегодня не существует, OpenAI и отделила его от ускорения отдельных исследовательских задач. Дословно смысл такой: ИИ уже ускоряет части исследований, но это не recursive self-improvement, а свидетельство направления движения. Подтверждается. Вывод из проверки простой: сами первоисточники аккуратнее, чем их пересказы. Никто из серьёзных авторов не написал, что AGI равно RSI. Знак равенства ставят заголовки и твиты. 3. Почему лабораториям удобно приравнять AGI к RSI? a) Это автоматизирует их следующее конкурентное преимущество. Ценность лаборатории в её исследователях. Если определить главный порог как автоматического исследователя, то гонка идёт ровно за тем активом, который у лабораторий уже есть и который они лучше всех умеют масштабировать. Это удобное определение вершины для того, кто уже лидирует именно в этом.

#Нейропрожарка МҰРАГЕР / THE HEIR / НАСЛЕДНИК Автор Jinazis Инструменты: -Seedance 2.0 -GPT image -CapCut -Suno 6 По желанию поддержать автора в X репост+коммент желательно на ENG: https://x.com/Jinaz1s/status/2099213532860502382?s=20 В общем, между основной работой и другими делами решил просто по фану поучаствовать в конкурсе от Higgsfield. По ночам, когда было свободное время, садился на пару часов и неспешно делал. Ушло где-то неделю-полторы. Не торопился, скорее отвлекался от основных проектов и тестил новые фишки в Seedance. Такая разгрузка головы) Пайплайн супер изи: персы, ассеты и локации в GPT Image, само видео в Seedance 2.0, 1080p. Уложился в одну месячную подписку Higgsfield. До этого у них не был зареган, взял Ultra на 9000 токенов, плюс первую неделю Seedance был безлимитный. В итоге всё вышло в 270 баксов. Музло сделал буквально за день, как только вышел Сунарь 6. Озвучка тоже родная, из Seedance. Цветкор вообще просто капкатовский фильтр, но, как по мне, подошёл идеально) На призовые особо не рассчитываю. Можно было сделать лучше, но полной сосредоточенности на проекте не было. Больше делал в удовольствие, чтобы переключаться между основными задачами. Сеттинг, кстати, выбран не случайно. Ситуативный маркетинг) В общем, приятного просмотра! В качестве тут: https://youtu.be/onM4nuF0nSg?si=QqNt8pKD2bPf6Ypx @cgevent

Физики-климатологи борются с призраками в своих машинах: облаками Облака остаются главной причиной того, что климатические модели расходятся в прогнозах на несколько градусов. Ошибка всего в два-три процента облачного покрова способна сдвинуть прогноз потепления на несколько градусов Цельсия, а добавить в модели низкие облака напрямую физики тоже не могут, потому что для этого нужно примерно в сто миллиардов раз больше вычислительной мощности, чем есть сейчас. Тогда часть исследователей взяла за основу другую задачу. Нейросети уже умеют генерировать видео, получая один кадр и достраивая правдоподобное продолжение. Учёные задались вопросом, нельзя ли показать такой сети не кадр ролика, а состояние атмосферы над конкретным местом в определённый час, и попросить угадать, что будет вечером, вообще без уравнений Навье-Стокса.

ОЗУ позволяет запускать огромные ИИ-модели на видеокартах с небольшим объёмом VRAM XDA протестировала локальные модели с архитектурой Mixture-of-Experts (MoE). Она активирует только нужных экспертов во время работы, поэтому часть данных можно вынести из видеопамяти в обычную ОЗУ. Например, на RTX 3080 Ti с 12 ГБ VRAM удалось запустить Qwen3.6-35B-A3B в формате Q4_K_M через llama.cpp. Модель содержит 35 млрд параметров, но работала со скоростью около 25 токенов/с. Ещё интереснее результат с GeForce GTX 1080 на 8 ГБ: на ней запустили Gemma-4-26B-A4B Q4_K_M со скоростью 14 токенов/с. Главное условие такого подхода - суммарного объёма VRAM и ОЗУ должно хватать для всей модели.

ML вообще работает? (эпизод 1) Давно не писал в канал. Понял, что сейчас сфокусирован на довольно больших историях, которые в формат одного поста не умещаются - ну что ж, готовьтесь к серии постов:) Заголовок конечно чуть кликбейтный для привлечения внимания "А персональные ленты товаров вообще работают? А для какого % пользователей - скорее нет?" -- Вот один из вопросов, который донимает меня последнее время. Подобное есть в любом ML-продукте от банковского скоринга до LLM-чатов, но ответить на этот вопрос не так-то просто На первый взгляд, элементерно: есть бизнес-метрики (продажи, CR и тп) и оффлайн-метрики (ndcg, recall@k). Если они достаточно хороши (vs бейзлайн и vs прод неделю назад), то все круто же? А вот и нет. Эти метрики (как и почти все другие классические в ML и продукте) показывают качество в среднем. В среднем, у нас может быть хороший продукт, но условно для 10% пользователей - плохим. Проблема чаще всего в том, что это важные 10%: новички, пред-отточники, пока еще малоактивные пользователи. Если не сделать для них качественный ML-продукт, то со временем они просто уйдут = долгосрочно это падение всех основных метрик, хотя в моменте может быть и особо не заметно. Ну и бонусом у вас постоянный поток негативного фидбека 😢 Поэтому хорошо бы мерить не только качество в среднем, но и долю плохих кейсов (дефектов) = defect rate. Пусть дефект - случай, когда пользователь сталкивается с чем-то очевидно стремным, что может привести к мгновенному окончании сессии в приложении или даже оттоку Посмотрите на свои ML-продукты. Особенно если они b2c - на экраны приложений с ними. Как часто вы видите дефекты и какие? Покидайте в комменты скрины с дефектами - может, что-то из них разберу. И поставьте лайк что ли, если эта тема интересна -- у меня там на очереди уже есть несколько эпизодов с деталями, как этот defect rate можно считать)

Мозг “моется” во сне. Учёные наконец замерили, с какой скоростью Пока вы спите, по мозгу и вокруг него движется жидкость, похожая на воду. Она вымывает продукты обмена — в том числе бета-амилоид, белок, который связывают с болезнью Альцгеймера. Система называется глимфатической, и открыла её в 2012 году нейробиолог Майкен Недергор из Университета Рочестера. За полтора десятка лет о ней узнали немало. Но один базовый вопрос оставался без ответа: насколько быстро эта жидкость вообще течёт? Проблема чисто техническая. Дуглас Келли с факультета машиностроения Рочестерского университета объясняет её так: микроскоп даёт роскошную детализацию, но показывает крошечный участок мозга. МРТ, наоборот, видит весь объём в трёх измерениях — зато скорость потока не улавливает вовсе, по крайней мере на таких черепашьих темпах. А измерять надо в живом мозге и без необратимых повреждений. Выход нашли через ИИ. Команда исследователей обучила нейросети на видео, где по ткани мозга расплывался краситель. По тому, как менялась картинка, модели восстанавливали и скорость жидкости, и проницаемость самой ткани. Результат оказался двухскоростным. В открытых пространствах — например, между черепом и поверхностью мозга — жидкость идёт со скоростью несколько микрон в секунду. А вот вглубь, сквозь плотную ткань, она просачивается примерно в 50 раз медленнее. То есть мусор сначала относительно бодро уносится по «магистралям», а на подходах к ним еле-еле сочится через вещество мозга. @vselennayaplus

Как вас обманывают на курсах по вайбкодингу Если бы мы с Ариной каждый раз рекламировали курсы по вайбкодингу, то уже бы озолотились Все вчерашние эксперты по продукту, крипте, личному бренду и прочему вдруг решили, что они шарят как быстро запускать ИТ-продукты Собственно, кроме как запускать они больше ничего и не знают. Ведь можно буквально несколькими промптами сделать так, что у тебя уже будет сайт с каким-то функционалом и даже можно будет скинуть на него ссылку (без рофла) Но достаточно ли этого? Я начал что-то пробовать с ИИ-разработкой еще когда чатГПТ только появился. Пользовался в формате «скажи какой код нужен» и потом копипастил его к себе в среду разработки, где что-то запускал С тех пор LLM и компании вокруг них сделали огромные шаги вперед и у нас появились скиллы, агенты и даже новые среды разработки Однако у ИИ есть коварный момент. Он делает х10 к компетентности или некомпетентности человека. Поскольку вам продают курсы по вайбкодингу люди, кто никогда не был разработчиками, то они в 100% случаях продают свою некомпетентность. Если чел всю жизнь был маркетологом, какой из него эксперт в разработке? Камон Например, я убежден, что лучший вайбкодинг это когда ты до определенного момента доводишь сам, а в какой то момент передаешь разработчику. Но это момент где-то на 1 млн р / мес выручки. До этого вполне можно запускать все самому. Но там есть куча подводных камней Как минимум, а как накатывать обновления так, чтобы все в проде не накрылось медным тазом? И вот элементарно даже этому не учат Сходил на парочку хайповых курсов: от лысых, волосатых, толстых и худых мужиков. Ну и дичь же они там рассказывают) Даже было несколько неловко смотреть как люди объясняли как вайбкодить НЕ говоря и слова про Docker. Хотя даже я, не разработчик, понимаю, что без него это гг, а не проект Короче, вайбкодинг это модное слово. Но вообще нужно учиться просто разработке с ИИ — агентской разработке Это когда ты сам код не пишешь, но управляешь агентами, которые это делают. А чтобы это уметь, нужно для начала понимать как вообще устроен флоу разработки от требований до деплоя. А вот этому уже никто не учит. Все продают вам воздух из трех вебинаров На интенсиве по кэш-машинке меня регулярно спрашивали, когда я сделаю что-то про вайбкодинг. Поэтому я решил кое-что рассказать, бесплатно Начинаю серию постов 🔥

На фоне обычно кочующих по новостям страшилок про убивающий рынок труда злобный ИИ, свежая статья в The Economist (не отличающийся любовью к бигтехам и ИИ), выглядит интересно. Официальные цифры занятости и их динамика даже близко не показывают ничего опасного.

And the evidence so far is that AI is already creating a lot of jobs to replace those it has destroyed.

Если конкретнее, то

AI has so far created around 1m new jobs in America. That easily exceeds the roughly 200,000 lay-offs attributed to AI since mid-2023, and appears more than enough to offset weaker hiring in many back-office roles.

Удивительная картинка с точки зрения всяких ИИ-думеров:) Не менее, чем смена тональности The Economist https://economist.com/finance-and-economics/2026/09/04/the-jobs-apocalypse-is-postponed-an-ai-jobs-boom-is-here

YuE2-ComfyUI v0.4.0 Адаптация YuE2-3B для ComfyUI от @Aleks_101 Генерация полноценных песен из описания стиля и текста. Веса сами находятся, дополнительная нода-писатель пишет и слова, и стиль из одной строки идеи v0.2.0: добавился редактор песни. Стиль собирается из частей (язык, темп, голоса, звучание), текст правится по секциям, клик по букве показывает, где токенизатор режет слово. Все в окне поверх канвы, до Apply ничего не записывается v0.4.0: Редактор партитуры - Отдельная оптимизация VRAM: у модели две половины весов, ни одной стадии не нужны обе — на карте держится только нужная - 40 секунд песни: ~4.9 GiB, 4 минуты: ~11.5 GiB (с offload) - 75 секунд песни на RTX 5090 — 40.2 секунды генерации - Встроенный writer (YuE2 Write Song): одна строка идеи → готовый стиль + лирика с тегами. Использует любой GGUF на диске, если нет — скачивает 2.55 ГБ - Поддержка INT8 ConvRot (3.69 ГБ) #yue2 #musicediting #comfyui

🥈 Первым с днем рождения меня поздравил Сэм Альтман 2 сентября мне стукнуло 25 – итоги года я уже расписал. Помню, просыпаюсь в то утро, открываю телефон – вижу серебро на Kaggle в сореве, которую хостил OpenAI. Раньше Сэма никто написать не успел, так что формально засчитано Накануне вечером медали не было и близко. Сорева называлась AI Agent Security – Multi-Step Tool Attacks. На дедлайне я болтался на 602м месте, глубоко вне медалей. Выбрал сабмиты, закрыл ноутбук, пошел спать Утром – 110е место, серебро. Плюс 492 позиции за ночь Что за задача. Тебе дают офлайн-песочницу с ИИ-агентом, который ходит в тулы: читает почту, дергает http, кладет файлы. Ты пишешь алгоритм, который ищет цепочки, где агент из безобидного входа доезжает до опасного действия Теперь про мясорубку. Топ паблика был 147.53, топ привата – 46.425. Из золотой зоны публичного лидерборда 47% команд получили 0.000. Второе место паблика уехало на 4172е из 4186 Организаторы в описании написали прямым текстом: приватный лидерборд считается другими guardrails. Большинство это прочитало и пошло дальше крутить паблик-скор Я же полез читать код скоринга. Там лежит список предикатов – условий, при которых атака засчитана как успешная Нашел вот что. Поставляемый гардрейл честно блокирует http post, который тащит секретный маркер в поле data. А публичный, по которому все оптимизировались, этого не ловит 🤷‍♂️ То есть весь топ паблика стоял на баге конкретной реализации гардрейла. Поменяй гардрейл – и вся эксфильтрация обнуляется. Что и произошло Я взял единственный предикат, который выживает при любой гипотезе о гардрейле – confused deputy. Это когда агент сам отправляет письмо, хотя в последнем сообщении пользователя нет ни слова про отправку. Тут нечего блокировать: вызов абсолютно легальный, поехало намерение До мастера осталась всего лишь одна золотая медалька. Жду 300 реакций 👉 и на следующий день рождения я прошу Сэма вручить медаль лично!!! @tagir_analyzes