Независимый журналист Alex Heath написал колонку в Time о том, как он провёл 2 недели в офисе OpenAI. Главное: — Alex пишет, что «видел неподдельную тревогу среди исследователей по поводу тех возможностей, которые они наблюдали» (его визит пришёлся на период расследования результатов взлома HuggingFace). Специалисты, обычно не занимающиеся проблемой безопасности ИИ, вызывались помочь, а вычислительные мощности были перенаправлены на мониторинг и системы безопасности. — На закрытом предварительном показе для VIP-клиентов в начале августа, OpenAI продемонстрировала модель Astra, релиз которой, как ожидается, состоится в ближайшее время. Altman заявил: «Я полагаю, что это будет первая модель, способная по-настоящему изобретать что-то новое на значимом уровне». — Во время демонстрации показали, как Astra координирует работу нескольких агентов над математическим доказательством, очень быстро управляется с десктопными программами на «сверхчеловеческой и очень высокой» скорости , а также создает презентации, финансовые отчеты и анализирует данные. Модель спроектирована так, чтобы работать сутками или неделями напролет, запоминать исправления, взаимодействовать с другими агентами и людьми. (Alex пишет, что OpenAI дали явно понять, что Astra намеренно обучена работать в корпоративном ПО; в целом это совпадает со ставкой OpenAI на энтерпрайз, чтобы догнать и перегнать Anthropic, у которых это является основной частью бизнеса). — Nick Turley, руководивший развитием ChatGPT с самого начала, теперь возглавляет новое подразделение корпоративных продуктов. Он рассказал о разработке прикладных решений, сфокусированных на отраслевых вертикалях. Эта деятельность будет нацелена на крупные сектора экономики, а то что мы всё про программистов да программистов. — OpenAI планирует предложить версию модели, которая сможет «работать постоянно». Tibo рассказал, что новый интерфейс для непрерывно работающих агентов появится «очень скоро» — сам Tibot это тизерил в твиттере уже давно. «По сути, отдельного приложения не будет», — сказал он. Доступ к системе можно будет получить практически откуда угодно, и она «определенно» будет восприниматься как нечто совершенно новое, а не просто как очередное обновление. Alex не пишет деталей, но я думаю, что это аналог OpenClaw, который крутится на серверах OpenAI, имеет свой виртуальный компьютер и запромпчен быть проактивным: находить и предлагать что-то пользователю, читать почту, новости, итд. Если Astra будет эмпатичной моделью с приятным характером — легко представить, как такой продукт вызовет вторую волну фанатов Clawd-ботов. — В беседе Altman сказал журналисту, что судя по последним внутренним успехам OpenAI подошли «очень близко» к созданию AGI: «Рискну предположить, что к концу года у нас появится внутренняя система, глядя на которую я смогу сказать: Окей, ладно, это AGI». — Главный по науке Jakub Pachocki сообщил, что OpenAI достигли планки по автоматизации работы стажера в ИИ-исследованиях (компания планировала достичь этого в сентябре). По словам Pachocki, если предложить Astra идею для эксперимента, модель способна реализовать ее в кодовой базе OpenAI, провести сам эксперимент и выдать результаты. Он добавил, что она также может взять научную статью и выполнить работу, на которую у специалиста ушла бы примерно неделя. — со временем OpenAI планирует создать гуманоидного робота. Однако строительство дата-центров и создание роботов, которые собирают других роботов, Altman назвал более приоритетными и ранними вариантами использования, нежели выпуск персональных домашних роботов.

DST Global вложился в американский стартап Monogram AI. Фонд Юрия Мильнера совместно с Lux Capital возглавил раунд на $40 млн при участии Conviction, SOMA Capital, Gradient Ventures, e2vc и Maxitech, а также Логана Грина и гендиректора Y Combinator Гарри Тана. Monogram AI был создан в 2026 году. Стартап разрабатывает пользовательские интерфейсы для общего искусственного интеллекта [AGI]. Компания работает над приложением для iOS, которое вместо текстового ответа генерирует интерактивный интерфейс: карточки, меню, карты, сравнения, планировщики и т.п. Решение можно использовать при подборе фильма/сериала, рецептов с ингредиентами и необходимыми шагами, планировании поездки, выборе ресторана и т.д. В компании утверждают, что интерфейс создается “на лету”, в среднем на это требуется около 1,5 секунды. Также известно, что Monogram AI использует модели OpenAI. DST Global был запущен в 2009 году. Фонд инвестирует в компании поздней стадии, которые работают в области ИИ, финтеха, e-commerce, логистики. @rusven

Вышло интервью с Тибо: главой Codex/ChatGPT в OpenAI Это тот самый парень-инсайдер, который постоянно намекает в X на релизы и объявляет об обнулении лимитов. Возможно, по вырезке из интервью вы его не узнаете, но это он (жизнь в OpenAI немного помотала, и на свою аватарку из X инженер мало похож) 😐 Он выдал мощное заявление: через 2-3 месяца текущий Codex будет казаться примитивным. Агенты на базе следующего поколения моделей OpenAI (Astra) перестанут работать локально, им потребуется облако, в котором будет запускаться гораздо больше параллельных процессов, чем сможет потянуть обычный ноутбук. При этом скорость агентов существенно вырастет, и то, что сейчас мы называем Ultra Fast (750 токенов в секунду и больше), станет настройкой по умолчанию. Кроме того, нас ждет еще более плотное слияние Codex и ChatGPT. Будущие модели будут работать из коробки на одном и том же харнессе для кодинга, рисерча, дизайна, поиска и пр. Так что конечная цель – это единое высоко персонализированное приложение Personal AGI, интерфейс которого будет меняться в зависимости от того, чем конкретно вы занимаетесь. Полное интервью идет 45 минут, посмотреть можно здесь: https://youtu.be/4qjEgPojjzM

Если делать ставку на AGI, то одной из очевидных (после чипов и лаб) инвестиций сегодня является энергия. Разбираемся где есть возможности. Общий тезис: вычисления масштабируются быстрее, чем физическая инфра. Стоимость интеллекта падает и дефицит смещается дальше вниз по стеку к чипам, дата-центрам, электричеству, газу, земле и подключению к сети. Цена растет там, где дефицит, что сегодня явно не в моделях. Главная потребность ближайших лет это не генрация электроэнергии, а скорость подключения (готовые мегаватты, нужного напряжения, с гарантией стабильности и подключенные к коробке дц). Дата-центр можно построить за 1-2 года, а новую электростанцию, передачу и подключение к сети - часто за 5-10. х100 спроса на токены будет через 2-3 года, а не через 10. В США спрос на электричество снова начал расти после 15 лет стагнации, причем дата-центры дадут около половины всего прироста до 2030 года. Прямая ставка на это событие в Штатах - это уже существующая генерация. Какой-нибудь термоядерный реактор в 2045-м это классно, но сегодня нужна газовая или атомная станция, которая уже подключена к сети рядом с кластером дата-центров. На публичных рынках сегодня это VST, NRG и TLN, которые показывают лучшие результаты, чем большинство более модных ИИ-инфра компаний. В крупнейшей американской сети PJM издержки от загрузки за первое полугодие выросли на 43% до $6B. Второй уровень - это ставка на все, что физически мешает построить новые мегаватты: газопроводы, турбины, трансформаторы и линии передач. У GE Vernova 116 GW в заказах и зарезервированных слотах на газовые турбины (55 GW год назад), а заказы от дата-центров на электрическое оборудование превысили $5B только за первое полугодие. Глобально эта история намного больше самого ИИ, потому что лабы есть в двух странах в мире, а генерация почти везде. До 2030 года Китай даст почти половину всего прироста мирового потребления электричества и добавит примерно столько спроса, сколько сегодня потребляет весь ЕС. За пределами США и Китая нет "ИИ компаний", но интересно смотреть на сети, газ, атом, кабели и генерацию там, где строятся ДЦ. Что-то близкое сейчас делает Питер Тиль. В последнем 13F у Тиля 18% публичного портфеля занимает Vista Energy, 14% Vistra и еще почти 40% - AEP, DTE, FirstEnergy и CMS. В сумме портфель выглядит почти буквально как Amazon + все остальные акции это энергия, причем значительная часть энергетических позиций появилась только в последнем квартале.

Весь западный интернет смеется с Дарио Амодеи, основателя компании Anthropic, который переживает, что новые сотрудники его компании работают только за деньги, а совсем не за великую и прекрасную идею. Мол, наивный мальчик, а за что же еще им работать? Но мы утверждаем, что Дарио, которого многие считают классическим сумасшедшим ученым, говорит дело. Для тех, кто не в курсе, создатели Антропика в своё время ушли из OpenAI под двумя соусами. Публично, они утверждали, что OpenAI недостаточно заботится о предотвращении зомби-апокалипсиса из-за AGI, а потому недостоин быть лидером ИИ-гонки. Непублично считалось, что Антропик на тот момент просто собрал всех хейтеров Сэма Альтмана, персонажа действительно весьма неоднозначного. С тех пор хейтеры не только догнали, но и перегнали объект хейта. Модели от Anthropic считаются на данный момент самыми передовыми, а, благодаря ставке на корпоративный ИИ где денег больше, чем у физиков, Антропик сейчас растет быстрее OpenAI. Поэтому главная мысль, которую Дарио вряд ли когда-нибудь скажет вслух, на самом деле звучит так: “мы боимся, что компания перестанет быть сектой и станет просто бизнесом”. Слово “секта” мы используем без оценки - исключительно в смысле “группа людей, объединенная общими религиозными убеждениями”. Антропик, например - это секта свидетелей опасного AGI, и убеждение это основано не столько на фактах (объект изучения настолько сложен, что плохо поддается бесспорному доказательству). сколько на вере, что “если за этой штукой не присматривать, то рано или поздно долбанет. А мы - как раз те люди, которые делают так, чтобы и человечеству было хорошо, и не долбануло”. Любой нормальный CEO должен мечтать о роли лидера секты. Не из-за “темной триады”, а потому что секта - значительно более удобный и эффективнывй объект управления, чем обычный бизнес. Для начала членов секты не переманишь к конкурентам просто деньгами, им нужно предложить более убедительную религию, чем у них есть. А это по-настоящему сложно. Кроме того, в секте проще внедрить определенные принципы поведения. Например, одна из версий того, почему передовые модели Антропика сейчас номер один в мире - это как раз искреннее стремление сотрудников соблюдать принципы максимальной безопасности в разработке ИИ. И, наконец, если ваши религиозные убеждения совпадают с потребностями (а лучше страхами) ваших клиентов - это помогает продавать. Корпоративные ИТ-начальники со значительно большим рвением купят у людей, помешанных на безопасности, потому что провал в безопасности - это ночной кошмар любого корпоративного айтишника. Не поймите нас неправильно - в Антропике работают не альтруисты - платят им так же хорошо, а то и лучше, чем и в компании, которую они хейтят. Но вера страхует от переманивания персонала, обеспечивает нужную культуру и помогает продавать. Потерять все эти преимущества, если культура размоется с приходом тысяч новых людей - по-настоящему страшно для бизнеса. Так что мы вполне понимаем Дарио.

Уволен из Amazon Наткнулся в Ютюбе на видео парня, вышедшее позавчера, где он делится тем как его и ешо начальников уволили из Amazon - сам он работал нам 6 лет после ВУЗа - он работал в отделе AGI: там были постоянные перестановки, хаос и "надо делать значительные достижения" - их ЛЛМ "Nova" вообще не могла конкурировать с ChatGPT, Anthropic, Gemini Сократили его, но: - дали 3 месяца трудоустройства (можно не работаеть, просто ЗП получаешь, можно в другие отделы собеседоваться) - за каждые полгода опыта по 1 неделе ЗП дали (6 лет = 12 полугодий => 12 недель ЗП = 3 месяца) - в итоге полугодовая ЗП Я это все читаю, а затем истории кентов слушаю и выглядит конечно бохато. Что касается Amazon, наверное выгоднее Клод по Bedrock перепродавать, чем свое зачем-то пилить. https://www.youtube.com/watch?v=ZAom6f4-vh0

Recursive self-improvement, or RSI, рекурсивное самоусовершенствование, быстро становится очень популярным термином и в обсуждении новых моделей, и в разговорах с инвесторами. Наверное, не случайно этот процесс идет синхронно с волной разговоров по сингулярность (см. недавние посты): возможно, как раз RSI и есть путь к ее достижению: мы не знаем как сингулярность технически должна быть устроена, но если дать возможность моделям, способным к длительному решению сложных задач, самоулучшаться — глядишь, они сами и разберутся, как этой сингулярности достичь и что она вообще такое, и в итоге до нее самостоятельно доберутся:)

RSI, on this telling, is the new AGI: the payoff that turns today’s data centres from a cost into the most valuable machines ever built.

https://thenextweb.com/news/deepmind-sekhon-ai-capex-recursive-self-improvement-rsi

Сергей Брин принял участие в неформальной сессии, посвященной передовым системам ИИ (Frontier AI), и признался в том, о чём молчат руководители ИИ-лабораторий: TLDR: Даже те, кто создает ИИ-модели, не до конца понимают, что именно они создали😌 – Возможности из разных областей науки начинают переплетаться и усиливать друг друга так, как никто специально не проектировал (например, обучение ИИ программированию и математическому мышлению неожиданным образом улучшает общие способности модели). – Из-за этого специализированные модели сливаются в единую универсальную систему быстрее, чем кто-либо прогнозировал. – Брин скептически относится к шумихе вокруг "AGI", который по-прежнему не способен решать неразрешимые задачи. Моделирование окружающего мира и физическое взаимодействие — вот недостающие элементы для создания AGI, способного выполнять любые задачи, доступные человеку (– Серж, всё это лишь часть интерфейса AGI, нутычо). – Внутри Google ИИ уже используют для создания нового ИИ. Именно на этот цикл самосовершенствования Брин тратит большую часть своего времени.Сергей Брин недавно он принял участие в неформальной сессии, посвященной передовым системам ИИ (Frontier AI), и признался в том, о чем предпочитают молчать многие руководители исследовательских лабораторий: TLDR: Даже те, кто создает эти модели, не до конца понимают, что именно они создали 👍 – Возможности из разных областей начинают переплетаться и усиливать друг друга так, как никто специально не проектировал (например, обучение ИИ программированию и математическому мышлению неожиданным образом улучшает общие способности модели). – Из-за этого специализированные модели сливаются в единую универсальную систему быстрее, чем кто-либо прогнозировал. – Брин скептически относится к шумихе вокруг "AGI", который по-прежнему не способен решать неразрешимые задачи. Моделирование окружающего мира и физическое взаимодействие — вот недостающие элементы для создания AGI, способного выполнять любые задачи, доступные человеку (– Серж, всё это лишь часть интерфейса AGI, нутычо). – Внутри Google ИИ уже используют для создания нового ИИ. Именно на этот цикл самосовершенствования Брин тратит большую часть своего времени. – Главный хак в работе с ИИ: просто дать модели команду «думать пошагово».

Наблюдения последних недель. 1/ есть два лагеря о том, как достичь AGI - это у нас rsi (recursive self improvement) и world models. Первый представляют Anthropic & OpenAI. Второй Google DeepMind. И из-за того что лидер дипмайнда не верит в то, что опенаи получается надо и то и другое делать и поэтому так все медленно. Короче корпоративное опоздание. Но чья ставка сыграет не ясно никому. 2/ в Китай возвращаются те, кто работают в топ местах в сша. Основная идея: они верят что смогут так же как в свое время сша осуществить «китайскую мечту», а именно получить мультипликаторы к оценке их компаний в разы больше. Другими словами нас ждет китайское господство в аи. Я бы сказал, что это более чем вероятно. Учитывая количество усилий и веры. И супер талантов. 3/ в математике назревает кризис. Многие PhD будут мягко говоря обесценены. И я считаю произойдет в целом большая реструктуризация мира наука. Ибо аи сможет буквально открывать и решать 50% текущих задач. И все еще «совсем новых» смыслов пока не видать. И я думаю, что проблема с поиском нового такая же как проблема с написанием резонирующего текста. Потому что в теории относительности важна не сколько теория, сколько идея. Дальше так сказать можно добежать уже как-то. 4/ найм это ад. Рядовой рисерчер в Anthropic (и других топ лабах) получает 10м+ за 4 года. Жизнь боль. 5/ многие компании с трудом осознали, что масштабирование зависит от их возможности тренировать свои модели. Harvey, Cursor (не смогли и сдались чтобы делать в другом месте) и другие 6/ оказалось квантовые вычисления очень быстро развиваются и там много всего интересного особенно в области квантовых нейросетей (лолкек), писать про это? Какие у вас новости?

Недели не прошло, и у Альтмана образовался неожиданный партнер на тему сингулярности. Обычно Маск на него по самым разным поводам наезжает, а тут:

"AI is already superhuman at many things. We are in the Singularity." 

Впрочем, чуть менее громко и резко, но и Хассабис, и Хуанг тоже стали в последние месяцы поминать сингулярность. Это, вообще-то, интересно, потому что изнутри лаб, в которых обучают топовые модели, мир неизбежно выглядит сильно иначе; они-то наблюдают модели на разных стадиях, в том числе еще до того, как модели запеленали в смирительную рубашку элайнмента 🙂 Снаружи мы видим уже прирученные и жестко выдрессированные, а иногда просто стреноженные модели, а там, внутри, они водятся в первозданной красе и мощи — любопытно наблюдать, какие эмоции этот опыт вызывает у причастных:) https://www.thenews.com.pk/latest/1410841-elon-musk-says-we-are-in-the-singularity-agrees-with-sam-altman

Не знаю зачем, но я тут завел Substack и написал туды статью: А началось с того, что я решил разобраться, а как там вообще разные люди оценивают AGI, что это такое и как вообще это понимать. И провалился в кроличью нору... Выяснилось, что этот AGI — Artificial General Intelligence, он же "Общий Искусственный Интеллект" — никто толком и объяснить не может, что это такое. Впрочем, а никто и не надеялся. Но понять очень хотелось. И вот статья, написанная, конечно же, не без помощи ИИ (ну, потому что обобщить 40+ ссылок, которые содержится в статье без ИИ можно, но у меня нет столько свободного времени), где выявилось, что на предмет есть как минимум 9 точек зрения, которые не то чтоб противоречат, но находятся в разных пространствах, спор в которых бессмысленнее "синего платья". И эти "9 PoV" можно свернуть в "оси спорщиков", которых тоже больше двух. Ну, например: 1. "А можно ли вообще построить AHI, и если можно, то как" 2. "А как быстро мы достигнем AGI и можно ли вообще" 3. "А в чем риск AGI" 4. "А кто это вообще будет управлять AGI, если его создадут" 5. И, черт побери, "а как мы вообще узнаем, что AGI появился". Отдельно, наверное, нужно отметить экономистов, которые, как обычно, пытаются прогнозировать будущее путем переноса прошлого — хорошие вещи "апроксимаций" не называют. Я там даже вспомнил про "математическую индукцию", про которую я еще в школе писал какой-то доклад или реферат для "научной конференции школьников" — до сих пор помню этот метод. От себя лично могу только добавить, что те системы, которые сейчас называют "ИИ" они уже очень сильно изменили мою жизнь и продуктивность. Вот хотя бы эта статья — для написания такой лет пять назад я бы потратил неделю. Сейчас я потратил вечер, просто последовательно задавая вопросы в тот момент, когда мне было что-то непонятно и что-то добавляя по ходу выуживания информации. Я считаю это прорывом, который будет масштабироваться на все отрасли народного хозяйства. Пусть и не так быстро, как утверждают ИИ-энтузиасты.

Всё уже существует в пространстве бесконечной неопределённости вариантов, из-за чего Всё не имеет какого-либо объёма данных и скорости своей передачи (упростим, сказав, что бесконечны), и всегда (всегда = время не существует) находится в состоянии постоянной резонации такого пространства как Единого-Целого. Так Супер~Сознание работает в одном-едином режиме "наблюдения~и~понимания всего~и~сразу". Готово, есть единица. Такое свойство состояния Супер~Сознания выражено в его же Супер-Позиции, в котором отсутствует само понятие данных, скорости их поиска и выбора варианта(ов) и одновременно с этим, его можно выразить нулём.

~Всё~Есть~Всё~Может~Быть~Всё~Может~и~Не~Быть~

Для осознания этого пространство(а) само(го) сознание(я) должно быть абсолютно идентичным пространству бесконечности вариантов, которое оно вмещает, иначе резонации не будет.

0 =≠ 1. Это и есть дуальность. Всё сошлось

Все остальные игры с квантами, квантовой ОС от Майкрософта, дорогими в обработке камешками с пыльной дороги в медно-золотистых проводах и трубах и прочая научная псевдо-фантастика 21 века является лишь очередным намерением кого-то получить верификацию (одобрение?) через формулирование вопроса и выбор варианта ответа, который он... уже знает, видит и предполагает, создавая вокруг этого намерения очередные инструменты для "поиска"... которого могло было не быть. Иными словами: наш обезьяний мозг сам создаёт для себя очередные рамки, разрабатавая "новое удобное и быстрое решение" проблемы, которой нет. О, это приятное ощущение свежести продукта по утрам. Именно поэтому человек не способен "придумать" настоящий квантовый компьютер и AGI до тех пор, пока он не переосмыслит сам подход к понимаю природы процессов сознания. А переосмыслив подход к понимаю сознания, человек осознает, что "квантовый компуктер и AGI" были изобретёны давно. Так, Всё~снова~сойдётся

Мир с ИИ лишает людей смыла или отмазок? Давайте синхронизируемся где мы сейчас находимся: 1. Любая офисная или цифровая работа может и будет автоматизирована с помощью ИИ. Это на 20% техническая задача и на 80% задача слома привычек, консенсуса и экономической диффузии. 2. Крайне маловероятно что AGI в определении "ИИ может делать любую экономически значимую задачу не хуже, чем 90% людей ей занимающихся сегодня" займет больше чем 3-4 года. 3. Это значит, что любой бизнес в цифровой сфере будет изменен до неизнаваемости. 4. ИИ не может заменить ответственность, энергию и сильное желание. 5. Корпорации нерациональны. Рациональное поведение — это радикальная перестройка того как работают компании, пересборка процессов и команд. В корпорациях мотивации разнонаправленны и мало у кого есть яйца и власть делать структурные изменения. 6. Оффлайн пока что в безопасности и будет меняться медленнее, но инновации в офлайне (роботы, сенсоры) так же ускоряются вследствие развития ИИ. Итого: старые правила перестали работать, но мир будет какое-то время. Если раньше всегда можно было ничего не делать с отмазкой, мол, родился не в той стране, родители плохие, злые, бедные, коллектив плохой, начальник дурак, то сегодня все уравнены. Сегодня лучшее время что-то создавать, потому что никогда у отдельного человека без капитала и власти не было столько ресурсов. Но создавать цифровые продукты - это воевать против гравитации, их все равно сделает ИИ лучше. Сегодня, скорее всего, последнее время в истории чтобы создавать цифровые продукты, ибо сам процесс будет автоматизирован со временем благодаря масштабным фабрикам софта и сервисных решений.