В июле 2025 года METR провела рандомизированный контролируемый эксперимент: 16 опытных разработчиков, 246 задач, данные февраля по июнь 2025 года, инструменты Cursor Pro с Claude 3.5 и 3.7 Sonnet. Результат дословно: разрешение использовать ИИ увеличило время выполнения на 19 процентов, с доверительным интервалом примерно от плюс 2 до плюс 39 процентов, при том что после эксперимента те же разработчики оценивали ускорение в 20 процентов. Один эксперимент не приговор, и сама METR отмечает, что это замер начала 2025 года. Но он показывает, как легко спутать ощущение ускорения с ускорением, и почему ощущения плохой измеритель. 4. Что говорят данные о темпе, и как их читать? Есть тренд, который цитируют чаще всего. METR измеряет временной горизонт задач: длину задачи по человеческому времени, которую модель решает с вероятностью 50 процентов. Этот горизонт удваивался примерно каждые семь месяцев в 2019 по 2025 годы, а на данных 2024 по 2025 удвоение выглядит ближе к четырём месяцам. Anthropic на странице When AI builds itself приводит именно эту ускоренную оценку и добавляет внутренние данные: более 80 процентов кода, вливаемого в кодовую базу Anthropic на май 2026 года, написано Claude, Anthropic а типичный инженер во втором квартале 2026 года вливал в 8 раз больше кода в день, чем в 2024 году Anthropic. Строки кода это количество, а не качество, и Anthropic честно оговаривает, что величина 8x почти наверняка завышает реальный прирост продуктивности. Кривая METR очень чувствительна к нескольким длинным задачам, а человеческие базовые времена измерены лишь для малой части самых длинных задач. Но это не доказательство того, что машина сама выбирает направления исследований. Именно выбор целей Anthropic называет своим главным оставшимся разрывом. И ещё один датапоинт против прямолинейной экстраполяции. Дэниел Кокотайло, ведущий автор сценария AGI 2027 (апрель 2025), к концу 2025 и в 2026 году сдвинул свою медиану ближе к 2029 и 2030 годам, потому что прогресс идет несколько медленнее сценария. Скептики вроде Эге Эрдиля и Тамая Бесироглу из Epoch AI держат горизонт AGI за 2045 годом и не считают интеллектуальный взрыв правдоподобным, хотя допускают взрывной экономический рост. Когда авторы самого известного сценария сдвигают сроки, это сигнал, что экстраполяцию одной кривой стоит принимать с осторожностью. 5. Что реально засчитывалось бы как доказательство? Чтобы говорить о RSI как о свершившемся факте, а не о маркетинге, нужен повторяемый рост исследовательской способности на протяжении нескольких поколений моделей, измеренный с учётом двух вещей: человеческого вклада и стоимости вычислений. Конкретно я бы смотрела на следующее: - Растёт ли способность модели самостоятельно выбирать направления исследований, а не только исполнять поставленные эксперименты, ведь именно этот разрыв называет своим Anthropic. - Сохраняется ли ускорение, когда вы фиксируете бюджет вычислений, а не наращиваете его. - Держится ли эффект на нескольких поколениях подряд, а не на одном удачном релизе. - Подтверждается ли он контролируемыми замерами вроде METR, а не опросами и ощущениями. Пока хотя бы часть этих условий не выполнена, разумно считать, что мы видим ускорение отдельных задач, ровно как и написала сама OpenAI 9 сентября 2026 года.

b) Оценки фронтиер-лабораторий 2025 и 2026 годов огромны. OpenAI 2 октября 2025 года завершила вторичную продажу акций на 6,6 миллиарда долларов при оценке 500 миллиардов долларов, из авторизованных 10,3 миллиарда, обогнав SpaceX как самая дорогая частная компания мира. Anthropic закрыла раунд Series G на 30 миллиардов долларов 12 февраля 2026 года при post-money оценке 380 миллиардов долларов, ведущие инвесторы GIC и Coatue. xAI закрыла увеличенный раунд Series E на 20 миллиардов долларов 6 января 2026 года при оценке около 230 миллиардов долларов, причем сама компания подчеркнула, что раунд превысил целевые 15 миллиардов. Обещание петли самоулучшения оправдывает такие капитальные затраты лучше, чем обещание еще одного полезного продукта. c) Контракт OpenAI и Microsoft показал, как дорого стоит определение AGI. По условиям реструктуризации октября 2025 года объявление AGI со стороны OpenAI теперь проверяет независимая экспертная панель, права Microsoft на интеллектуальную собственность продлены до 2032 года и включают модели после AGI, а выплаты доли доходов идут до 2030 года. Определение AGI стало юридическим переключателем на десятки миллиардов долларов, и лаборатории заинтересованы контролировать его формулировку. d) Порог RSI совпадает с их собственными порогами безопасности. Политика Anthropic Responsible Scaling Policy вводит уровни AI R&D-4 и AI R&D-5: первый это способность полностью автоматизировать работу младшего исследователя, второй это способность вызвать резкое ускорение разработки ИИ, то есть фактически RSI, и он требует уровня защиты ASL-4. У OpenAI критический порог AI Self-improvement определён похоже: сверхчеловеческий исследовательский агент или сокращение времени смены поколения модели в пять раз, удерживаемое несколько месяцев. Когда безопасность и объявление AGI завязаны на один и тот же порог, удобно называть его главным, потому что тогда история про безопасность и история про победу рассказываются в одной терминологии. Но положительная обратная связь не равна неограниченному росту. Монотонно возрастающая последовательность может иметь конечный предел: сумма ряда ½ + ¼ + ⅛ + … растёт на каждом шаге, но никогда не превышает единицы - это предел данной функции. Вопрос не в том, есть ли петля, а в том, каков коэффициент усиления и где стоят ограничители. Ограничителей несколько, и по ним есть данные. Вычисления Многие сценарии программного интеллектуального взрыва предполагают, что софт улучшает софт без нового железа. Но серьёзные эксперименты требуют вычислений уровня обучения передовой модели, а рост вычислений упирается в физику, энергию и сроки поставки. Экономическая работа 2025 года показала, что при определённой связи между экспериментами и идеями вычисления становятся жестким узким местом, arxiv и программное ускорение живёт лишь до этого предела. Идеи становится всё труднее находить Это известный результат экономики роста: чтобы поддерживать постоянный темп улучшений, нужно вкладывать всё больше исследовательских усилий. Даже сторонники сценария взрыва у Forethought оценивают отдачу так, что одно удвоение когнитивного труда даёт около 1,2 удвоения выхода в среднем, с широким разбросом от 0,4 до 3,6. Если параметр ближе к нижней границе, “взрыва” не происходит вовсе, а происходит затухание. Эксперимент и проверка Даже идеальный автоматический исследователь должен ставить опыты и ждать результатов. Обзор Epoch AI прямо отмечает, что эксперименты не серебряная пуля, потому что модель может быть ошибочной, а бенчмаркинг требует полного цикла обучения, доступного лишь горстке игроков. Физическое строительство Дарио Амодеи, оптимист, в эссе Machines of Loving Grace (октябрь 2024) признает, что даже целая страна гениев, живущая 24/7 в дата-центре, упрется в физические и практические пределы, например в скорость биологических экспериментов. Его формулы powerful AI и country of geniuses in a datacenter намеренно избегают слова AGI. Человеческий вклад и стоимость

В октябре 2025 года Сэм Альтман в прямом эфире и затем в посте на X сформулировал внутренние цели OpenAI: автоматический стажер-исследователь к сентябрю 2026 года и полноценный автоматический исследователь к марту 2028 года X. В начале сентября 2026 года OpenAI сообщила, что цель по стажеру достигнута: система выполняет четко поставленные исследовательские задачи под руководством человека, включая те, что заняли бы у специалиста несколько дней Engadget. Обратите внимание на осторожную формулировку: там нет слова AGI, там есть слово стажёр, и там есть слова под руководством человека. Параллельно журналисты и сами лаборатории начали подменять термин. В мае 2026 года TechCrunch прямо написал, что RSI стал новым AGI, и что его так же трудно определить TechCrunch. В августе 2026 года TIME описал внутреннюю систему OpenAI под именем Astra и связал разговоры про AGI именно с петлёй самоулучшения: модель, которая ускоряет собственные исследования, называется recursive self-improvement Time. Так возникла та самая склейка: раз порог AGI спорен, давайте измерять его через способность вести исследования ИИ. Удобно, но нечестно. Проверим четыре утверждения из исходной заметки по первоисточникам: a) Страница Anthropic Institute When AI builds itself действительно описывает RSI как систему, способную полностью автономно проектировать и строить своего преемника, и прямо говорит, что мы ещё не там и что RSI не является неизбежным Anthropic. Более того, Anthropic называет конкретный оставшийся разрыв: Claude уже сопоставим с человеком в исполнении хорошо поставленного эксперимента, но большие разрывы сохраняются, когда речь идёт о выборе целей, то есть о выборе направлений исследований. Это подтверждает пункт заметки. b) Устав OpenAI (OpenAI Charter) определяет AGI как высокоавтономные системы, превосходящие людей в большинстве экономически ценных работ. Формулировка подтверждается дословно. Это определение про экономику труда, а не про самоулучшение, и в нём нет ни слова про то, что система должна строить своего преемника. c) AlphaEvolve от Google DeepMind (май 2025) действительно улучшил вычислительные процессы, включая обучение самой Gemini: он ускорил ключевое ядро матричного умножения на 23 процента, что дало сокращение общего времени обучения Gemini примерно на 1 процент Google DeepMind. Это подтверждается первоисточником DeepMind. Небольшая точность: 23 процента и 1 процент это не два независимых достижения, а одно, выраженное на двух уровнях, ядро и полный цикл обучения. Отдельно AlphaEvolve ускорил ядро FlashAttention примерно на 32,5 процента, но это уже про инференс и обучение вообще, а не про самоулучшение конкретно. d) 9 сентября 2026 года OpenAI в тексте The AI policy window is open заявила, что полностью автономного RSI сегодня не существует, OpenAI и отделила его от ускорения отдельных исследовательских задач. Дословно смысл такой: ИИ уже ускоряет части исследований, но это не recursive self-improvement, а свидетельство направления движения. Подтверждается. Вывод из проверки простой: сами первоисточники аккуратнее, чем их пересказы. Никто из серьёзных авторов не написал, что AGI равно RSI. Знак равенства ставят заголовки и твиты. 3. Почему лабораториям удобно приравнять AGI к RSI? a) Это автоматизирует их следующее конкурентное преимущество. Ценность лаборатории в её исследователях. Если определить главный порог как автоматического исследователя, то гонка идёт ровно за тем активом, который у лабораторий уже есть и который они лучше всех умеют масштабировать. Это удобное определение вершины для того, кто уже лидирует именно в этом.

Кратко сформулирую "теорему Аммосова". AGI недостижим, потому что по мере приближения к нему пред-AGI будет порождать все большее число агентов. В случае своего существования, AGI должен будет использовать бесконечное число агентов. Но еще до приближения к этому числу агенты пред-AGI поглотят вычислительный ресурс полностью, после чего вычислительная система, в которой функционирует пред-AGI, зависнет и остановится. Следовательно, AGI невозможен. Королларий: косвенным подтверждением верности теоремы будет, если будет показан экспоненциальный рост числа агентов по мере роста сложности и возможностей новых моделей. Кто считает, что мне надо об этом немедленно заметку написать и на arxiv выложить, ставьте лайк 💯.

Феномен успеха основателя DeepSeek Чем крут DeepSeek? У них самая высокая доходность на сотрудника: при команде ~150 человек и revenue $400–500 млн получается примерно $2,4–3,3 млн на человека. Основатель DeepSeek Лян Вэньфэн богаче , чем Дарио Амодей или Сэм Альтман. Благодаря его тщательному контролю и огромному богатству хедж-фонда, — и они продолжают бесплатно предоставлять результаты своей работы.  Занимательно что: а) Нет никаких KPI

В целом, мы надеемся, что «формальная работа» занимает не более половины рабочего времени сотрудника. Другая половина не распределяется — они могут делать все, что захотят.

б) у него довольно нормальный взгляд на человеческую работоспособность, однажды он отметил , что, по его мнению, человек может концентрироваться только шесть-восемь часов в день.

Наш главный приоритет — поддержание стабильности команды. Это наш главный приоритет, возможно, единственный. Пока я могу поддерживать стабильность команды, я смогу заниматься AGI. Деньги не проблема, ресурсы не проблема; всё остальное легко достать.

// В отличии от Японцев, где работают без выходных. Какие японские LLM вы знаете? Из его 64 цитаты из конференции с инвесторами, я выделил эти 3: Ориентация на видение:  никаких KPI, никакого письменного видения, даже «никакой организации» — всё работает на доброжелательности к миру и одержимости AGI. «Мы просто группа самых обычных людей». Фокус на юнит-экономике:  ценообразование API направлено исключительно на окупаемость затрат на оборудование в течение десяти месяцев. Никакой борьбы за потребительский трафик, никакой погони за корпоративными трендами. Железо решает:  Мы, как правило, не работаем сверхурочно. Во-первых, для исследований необходима спокойная обстановка; если слишком сильно напрягаться, исследования невозможны. Во-вторых, мы очень сосредоточены, а это значит, что мы делаем очень мало дел.

почему Сэм Альтман не сможет вылечить себе рак? по следам прошлого поста складывается ощущение что "можно швырнуть много миллионов долларов в компьют, поднять 100000 агентов и они решат любую задачу" или "AGI сводит решение любых задач к вопросу доступности компьюта и цены". я вот лежал-размышлял на тему "если завтра у Сэма Альтмана обнаружат рак - сможет ли он поднять 100.000 агентов чтобы они за неделю нашли лекарство?", и простой ответ - нет. представьте, что вы ищете ответ на какой-то вопрос про реальность, к примеру "какая комбинация молекул в пробирке вылечит рак такого типа". и вот есть спектр, где с одной стороны: - полное отсутствие интеллекта aka полный перебор всех существующих вариантов классические "бесконечные мартышки перебирающие кнопки в попытке написать Войну и Мир". отсутствие оптимизации перебора вообще. а с другой: - абсолютный интеллект aka сразу выбор правильного варианта интеллект имеющий полную всеобъемлющую модель реальности решает оптимизационную задачу у себя "в голове" и сразу даёт верное решение. и вот между этих двух крайностей и существуют разные уровни интеллекта. - автослесарю без биохимических знаний надо будет перебрать миллиарды комбинаций молекул в поисках лекарства от рака - студент-биохимик будет перебирать на порядки меньше, потому что сможет откинуть ворох совершенно нереалистичных веток - PhD биохимик со специализаций по онкологии будет перебирать ещё меньше, сразу пойдёт по реалистичным веткам думаю, суть вы уловили. каждая итерация развития ИИ - это улучшение картины реальности в "его голове", и сужение кол-ва веток перебора. gpt-4, наверное, смог бы решить математическую проблему тысячелетия, если поднять, ну, 100-200 триллионов агентов, может быть на пару порядков больше. увы, на Земле нет столько компьюта. а вот gpt-6 (ну или какой там у них внутренний вариант) - смог сделать это в формате 10.000 агентов за несколько дней. а в будущем какой-нибудь gpt-8, наверное, вывезет и на 50-100 агентах за пару часов (если представить, что в трейн не подлили предыдущие результаты). так че по раку? беда в том, что у перебора, помимо, собственно, кол-ва вариантов, есть другая сторона - а сколько стоит (времени/денег) проверить один вариант. и тут кроется ответ на вопрос, почему ИИ так бодро тащит задачи программирования и математики: эти задачи формально верифицируемы, алгоритмически. то есть, когда у вас есть вариант решения, вам нужны литерали миллисекунды чтобы его проверить. эти задачи не требуют проверки в физической реальности. ИИ может перебирать варианты и оптимизировать решение буквально по ходу дела. но вы можете представить себе затраты на тестирование одного варианта лекарства? даже in vitro - сколько времени займёт изготовление тестового образца и проверка? 10.000 агентов тут не дадут никакого выигрыша, хоть залей весь компьют мира. думаю, в ближайшие 3-4 года, одной из растущих сфер будут fully automated лабы as a service. этакая изолированная среда в физической реальности, где агент может проводить эксперименты - как для RL, так и для фактического решения настоящих задач.