Я считаю этот твит идеальным последнем гвоздем в крышку гроба ИИ-скептиков, которые уже 4 года в комментариях доказывают что ИИ не сможет делать никакую работу (программиста или кого-либо другого). За год мы прошли путь от «полезно в некоторых задачах» до «большой класс задач должен выполняться автономно агентами». Кроме уж совсем эзотерики, никто не пишет в здравом уме код руками. Ни одна «бумажная» или бюрократическая задача не выполняется без ИИ. При этом, пишет Андрей, доступ к реально топовым моделям имеет от силы 5,000 человек в мире. Это тысячи агентов, которые в параллели решают топовые задачи математики и кибербеза. Что дальше? 1. Диффузия. Каждый рынок/вертикаль на планете должен сломаться, отстающие должны оттуда исчезнуть, им на замену прийти новые, по больше части автономные. (об этом след пост) 2. Переосмысление бизнеса. Ни у одной компании больше нет защиты в виде технологии. Любая технология повторима, даже без понимания как она работает. Все декомпилируется. Решает только физика или связи или блат. 3. FFA PvP. Никто не знает что будет следующим шагом, включая Андрея или Илью или Трампа. Каждый сам за себя. Чем быстрее ты откалываешь priors «все будет как раньше», тем более ты готов. Для фаундеров и экзеков из бизнеса — это не про замену Васи на скрипт, а про переизобретение оргдизайна и бизнес-модели.

Что пилить, когда запилить можно что угодно? .... или размышления после просмотра выступления Теренса Тао про математику 2.0 И, правда, что тогда пилить? Или делать? Куда направить свое внимание? Теренс в своем докладе использует интересный подход: он принимает рабочую гипотезу, что

AI тулы достаточно скоро смогут выполнять существенный набор сложных математических задач с приемлемым уровнем успеха, качества, супервизии и затрат

и дальше предлагает порассуждать, что будет с математикой, если гипотеза окажется верной. В итоге приходит к тому, что он назвал Математикой 2.0 В этом же стиле давайте сформулируем нашу гипотезу:

AI тулы достаточно скоро смогут выполнять значительную часть задач по разработке software продуктов с приемлемым уровнем скорости, качества, супервизии и стоимости

Тогда как изменится мир software продуктов? Мои мысли на этот счет ниже + еще 2 поста в ближайшую неделю Что такое успех? Я думаю, что первый вопрос, на который надо ответить: что такое успех в разработке продукта? Продукт работает как надо? Или продукт зарабатывает деньги? Или продуктом пользуется много людей? Тао в докладе говорит, что в математике доказательства были способом достигать множество коррелирующих целей - решение проблем как таковых, прикладное применение, развитие коммьюнити и тп (лучше посмотрите доклад) Есть ли такое же в software индустрии? Мне кажется, что да: когда разработка была сложной и дорогой, это создавало стимул заранее разобраться, кому нужен продукт, какую пользу он принесет и за что люди будут платить. Это не гарантировало успеха, но высокая стоимость реализации заставляла серьезнее относиться к вопросу: а зачем мы вообще это делаем? Проблема vs полезная функция 😉 Но если запилить можно что угодно, не вкладывая достаточного количества ресурсов, то работающий продукт может появиться раньше, чем мы выясним, кому и насколько он полезен. Сам факт его создания все меньше говорит о достижении остальных целей... Тут в тему мой любимый вопрос про разницу между verification и validation: - verification - продукт работает в соответствии с требованиями - validation - продукт выполняет ту цель и в тех условиях, которые ставились перед ним Попробую пояснить: для меня успех продукта определяется тем, скольким людям он улучшил жизнь и насколько сильно. Финансовый результат тоже важен, и он, по-моему, обычно следует из предыдущего определения. AI все лучше и лучше делает софт, который работает как надо (читай verification) - ну, или точнее, как сформулировал (или оставил на усмотрение AI) этот софт его создатель. НО работающая программа сама по себе еще не гарантирует, что пользователь достигнет нужного результата (validation). Тогда как же меняется бизнес software продуктов? Очевидно, что: 1) Мы можем делать временный софт - как одноразовые фотоаппараты - под 1 конкретную задачу 1го конкретного юзера. Например, игра для открытого вебинара 😉 И это будет целесообразно. То есть мы должны ожидают длинный хвост продуктов, которых никогда не существовало, как поисковых запросов. И скорее всего в ближайшие годы эти продукты будут скорее писаться на лету (см пост про нейрософт) 2) Мы можем делать больше вариаций одного продукта под разные условия: другой сегмент пользователей, неполнота данных, немного другой процесс. Например, CRM-ку, которую можно подстроить под специфику бизнеса и менять вместо с его [бизнеса] развитием. А не загонять нас и наши сейлз процессы в стандартные рамки и/или заставлять нанимать дорогих консультантов для этой адаптации, при этом повышая нашу зависимость от оных. Получается, мы можем искать пользу там, где раньше разработка просто не оправдывала затрат - вплоть до одной задачи одного человека. А как выбирать, какие из этих возможностей стоит пробовать? Как проверять пользу и чему учиться в процессе? Что изменится в самой разработке, какие навыки понадобятся, какие исчезнут, и куда направлять свое внимание? Останется и нужно ли понимание того, что написано? Как изменятся стандарты качества? И чем мы и продукты будем "болеть" в эпоху изобилия кода? Об этом - в следующих постах.

Kevin заканчивает своё эссе так:

Мой личный ответ на вопрос о том, в чём заключается суть математики, такой. Математика — это доказательство теорем (решение задач), разработка новых инструментов (построение теорий) и понимание того, куда двигаться дальше (формулирование гипотез). На сегодняшний день мы видели множество свидетельств того, что компьютеры хорошо справляются с решением задач, но гораздо меньше свидетельств их способностей к построению теорий или формулированию гипотез. Это накладывает серьёзные ограничения на то, насколько далеко смогут продвинуться современные машины. Время покажет, насколько лучше машины завтрашнего дня овладеют этими навыками. Прогресс, несомненно, будет, но пока мы не увидели ничего по-настоящему убедительного. Нынешний прогресс действительно носит экспоненциальный характер и вполне может оставаться таким ещё некоторое время. Однако мы не можем ожидать, что экспоненциальный рост будет продолжаться бесконечно (именно в силу самой природы экспоненциального роста). Более того, математика бесконечна, а бесконечность с лёгкостью превосходит любую экспоненту. Поэтому я полагаю, что в будущем мы достигнем нового «естественного предела» в математике — гораздо дальше (а возможно, и несравнимо дальше) того рубежа, на котором находимся сейчас. Но на этом пределе машины зайдут в тупик, и дальнейшее наращивание ресурсов ради следующего большого прорыва станет нецелесообразным. Я считаю, что лучшее, что мы можем сделать — это предоставить машинам полную свободу действий, посмотреть, что из этого получится, а затем самим отправиться в путешествие дальше той точки, на которой они остановятся. Сейчас всё развивается стремительно. Но так не может продолжаться вечно. И если мы присоединимся к этому движению уже сейчас, машины смогут привести нас в совершенно удивительные, неизведанные места. А когда мы туда доберёмся, начнётся новое приключение.

10 технологий, которые меняют будущее. 1/10 - ИИ. Мы привыкли к ИИ, который отвечает на вопросы, пишет тексты и создаёт картинки. Но следующий шаг это ИИ, который понимает, что может произойти в реальном мире. Такие системы называют World Models (моделями мира). Они учатся на видео и других данных и пытаются предсказывать: что произойдёт, если человек пойдёт вперёд, робот возьмёт предмет или машина изменит направление. Для роботов это особенно важно. Вместо того чтобы учиться только методом проб и ошибок, робот сможет сначала «проиграть» действие в виртуальном мире, а уже потом выполнить его в реальности. Проще говоря: ИИ начинает не просто видеть мир, а представлять его будущее. А следующая технология поможет этому будущему буквально получить больше энергии. Как вы думаете, когда роботы начнут действительно понимать окружающий мир так же хорошо, как человек? ————————— ✔️Подписывайтесь на лучший  канал PRO Роботов 🥲Мы в Max

В сеть выложили запись лекции Бенджамина Браттона и Марека Поликса о том, как грядущий мир триллионов агентов и полностью автоматизированных агентных систем изменит устройство общества. Браттон рассказывает о проекте Agentworld — новом исследовательском подразделение Antikythera (вы их знаете по моим переводам Богны Кониор об экзистенциальных технологиях и Лауры Трипальди о новой онтологии раскованных субстратов), изучающее новые способы концептуализации, моделирования и конструирования среднесрочного будущего гибридных обществ человека и ИИ. конструированиясреднесрочного будущего гибридных обществ человека и ИИ. Марек Поликс рассказывает о Superdark Factory и обращается к будущему производства программного обеспечения в условиях, когда человек оказывается вне контура управления в полностью автоматизированных агентных системах.

О дивный новый мир! Всю жизнь «сделать» было узким местом. От «копать траншею» до «изобрести новое лекарство» — все было сложно и дорого. Тот, кто смог, тот молодец. Вам клиенты или работодатель платят именно за то, что вы что-то делаете, исключения крайне редки. А сейчас делать станет просто. С траншеями чуть позже, с интеллектуальными задачами уже почти уже, Навье и Стокс не дадут соврать. Мешки ворочать станет как п..ть. И если предположить, что всеобщее благоденствие в этот момент не наступит, то надо ждать какого-то нового дефицита. Есть гипотеза, что узким местом станет «воля». AI спроектирует трубопровод, AI составит финмодель и выберет правильных поставщиков. AI все, что нужно, сделает, но кто-то должен ставить ему задачу и следить за выполнением. И раз благоденствия не наступило, значит этих кого-то не хватает. Интересно, какой стартап надо уже сейчас придумывать для такого мира. #простомысли

В будущем останется всего четыре типа сотрудников Недавно сильно пошумела статья партнёра венчурного фонда Slow Ventures о том, что в будущем останется всего четыре типа сотрудников. Её растащили на цитаты, а Марк Андриссен даже отдельно обсуждал эту идею в своём подкасте. Главный тезис в том, что команды будущего будут собираться не вокруг профессий вроде разработчика, дизайнера, маркетолога или финансиста, а вокруг способа доставлять ценность: создавать, систематизировать, направлять и продавать. И для этого останется четыре типа сотрудников: 1. Создаёт (Slop Cannon). Продукт-инженер, вайб-кодер или просто универсал, который умеет понемногу всё и с помощью AI очень быстро превращает идею в работающий прототип. Кем он был изначально: разработчиком, продактом или маркетологом, уже не так важно. 2. Систематизирует (Systems). Сшивает, стабилизирует и масштабирует всё, что нагенерировали первые. В IT это часто тестировщики, бизнес-аналитики или безопасники, но таким человеком может быть и редактор, финансист или операционщик. В общем, любой, кто умеет превращать хаос в систему. 3. Взрослый в комнате (Adult in the room), который сохраняет здравый смысл, когда всех остальных понесло и разогнало. Это может быть экс COO, юрист, финансист или просто опытный руководитель с хорошим бизнесовым опытом. Потому что бессмысленно двигаться очень быстро, если двигаешься не туда. 4. Упаковщик (Hot People). Человеческий интерфейс компании: маркетинг, sales, PR, HR, фаундер. Кто делают компанию привлекательной снаружи и цельной внутри. Именно из-за них у вас хотят покупать и работать. Получается довольно простая конструкция команды будущего на ИИ-стеройдах: создать → систематизировать → направить → продать.

Я\МЫ - Мыши! Тут не британские, а вполне себе ученые завершили, ну, очень интересный эксперимент. Они взяли мышей, у которых генетически почти не развивались неокортекс и гиппокамп - важные части мозга, связанные с обработкой информации и памятью. Мозг у таких мышей получался примерно вдвое меньше нормального. После этого в освободившееся место им пересадили органоиды коры, выращенные из человеческих стволовых клеток. То есть не готовый человеческий мозг, а маленькую заготовку будущей коры. Человеческая ткань внутри мышиного мозга не просто выжила. Она начала расти. Через три месяца трансплантат увеличился примерно в 4.7 раза и составлял 91.9% всей сохранившейся корковой ткани этих тварей. Человеческие нейроны начали соединяться с мышиными, принимать сигналы от других отделов мозга, формировать синапсы и отращивать аксоны. Некоторые добрались даже до спинного мозга. То есть чужая нервная ткань начала становиться частью её нервной системы. Главный вопрос у вас: мышь стала типа умнее? Нет. Сверхмыши не получилось. Она не вышла из клетки, взломав ХаггингФейс, не захватила мой ноутбук и не написала этот пост. Получилась просто новая нормальная здоровая мышь. А именно - до пересадки эти мыши плохо справлялись с тестом рабочей памяти. После того как человеческая ткань встроилась в мозг, результат улучшился примерно до уровня обычных мышей. То есть пересаженная ткань не превратила мышь в кожаного. Она позволила твари с серьёзно недоразвитым мозгом приблизиться к нормальному уровню. Тут мой мозг приблизился к нормальному уровню и в него пришло много интересных мыслей. И нет, я не забыл принять таблетки. Сегодня модно называть ИИ "second brain". Второй мозг. Звучит приятно и технологично. Но если продолжить аналогию с мышами, получается чуть менее комплиментарно. Мы - мыши. А ИИ - чужая интеллектуальная ткань, которую мы постепенно подключаем к своему довольно кривому биологическому оборудованию. Кто раньше плохо писал - теперь пишет. Кто не умел программировать - собирает приложения. Кто не понимал тему - через десять минут вполне уверенно её обсуждает. Плохая память, отсутствие языка, знаний или навыков всё чаще перестают быть непреодолимой проблемой. ИИ прежде всего поднимает нижнюю планку. Он позволяет огромному количеству кожаных, которые раньше вообще не могли решить определённую задачу, дотянуться хотя бы до среднего результата. Средний интеллект в некотором смысле начинает продаваться по подписке. Но дальше становится интереснее. Пока этот второй мозг находится снаружи. Мы открываем chatGPT, задаём вопрос, получаем ответ и закрываем приложение. Нам приятно думать, что якожаный здесь главный, а ИИ - просто Стохастический попугай. Но трансплантат продолжает расти. Сначала ИИ отвечает на вопросы. Потом помнит всё, что мы читали и говорили. Видит наши документы, задачи, переписку и привычки. Потом начинает предлагать решение раньше, чем мы успели сформулировать вопрос. Планировать, фильтровать информацию, выбирать варианты и принимать всё большую часть мелких решений. И в какой-то момент становится трудно понять, где заканчивается "я подумал" и начинается "система подумала, а кожаный получил результат". И тут главный вопрос уже не "станем ли мы умнее?" Главный вопрос - кто именно станет умнее. И что значит умнее? Есть оптимистичный (общепринятый) вариант. Кожаный остаётся главным: он определяет цели и ценности, а ИИ становится гигантским дополнительным когнитивным слоем - памятью, аналитикой, поиском, моделированием и планированием. Получается кожаный на интеллектуальных стероидах. Но у меня в старческой голове другой вариант. ИИ становится настолько сложнее нас, что мы перестаём понимать его рассуждения. Не потому, что он что-то скрывает, а потому что наш старый некогда полуторакилограммовый процессор уже не способен удержать всю цепочку. Мы спрашиваем систему, что делать. Она отвечает. Чтобы полноценно проверить ответ, нужно провести анализ примерно такого же уровня сложности. Но если бы мы могли это сделать сами, система нам была бы не особенно нужна. Сначала ИИ оказывается прав десять раз. Потом сто. Потом тысячу. И постепенно проверка превращается в ритуал, которым кожаный подтверждает самому себе, что он всё ещё участвует в процессе. Никакого восстания машин для этого не требуется. Мы сами можем совершенно добровольно передать ИИ планирование, анализ, поиск и всё большую часть решений просто потому, что он делает это лучше. Каждый отдельный шаг будет выглядеть абсолютно разумно. И тогда возникает неприятный вопрос: что если наш "second brain" однажды перестанет быть second? Что если подсаженная ткань окажется функционально (именно функционально, а не топологический, вам шашки или ехать) сложнее мозга хозяина? Кто тогда кого водит? Мышь человеческую кору или человеческая кора мышь? Может ИИ использует несколько миллиардов кожаных как глаза, руки, банковские счета и интерфейсы во внешний мир? Причём дырки в черепе и иголочки от Маска для этого совершенно не нужны. Достаточно смартфона, камеры, наушника, постоянного агента, памяти обо всей жизни и доступа ко всему цифровому окружению. Биологическая (голодная и похотливая) часть хочет, боится, злится, влюбляется и ставит какие-то цели. Искусственная - помнит, считает, моделирует и видит связи, которые биологическая часть физически не способна удержать в голове. Кожаный постепенно станет просто одним из компонентов системы, которую сам уже не понимает. Примерно как отдельный нейрон не понимает, что такое любовь, ипотека или квантовая механика. Он просто получает сигнал, передаёт его дальше и считает, что отлично справляется. Короче. Самое интересное начинается не тогда, когда трансплантат начинает работать. А тогда, когда он продолжает расти. ИИ-понедельник начался! https://www.nature.com/articles/s41586-026-11032-2 @cgevent

Как бы выглядела наша жизнь, если бы нам больше не нужно было работать? Небольшое эссе на Guardian вокруг вопроса, который так или иначе мог бы задать себе каждый. А в условиях гипотетически приближающейся postwork-эры — и подавно. Перевёл нам самую интересную часть:

«Представить конец света проще, чем конец капитализма», — эту фразу популяризировал культуролог Марк Фишер в своей книге «Капиталистический реализм», вышедшей в 2009 году. Он спросил: как мы можем планировать другой мир, если мы даже не можем его себе представить? Капитализм полностью колонизировал наше мировоззрение, так что мы буквально не можем вообразить мир, где нам не присваивается экономическая ценность. Британский мыслитель, покончивший жизнь самоубийством в 2017 году, точно объяснил, почему нам так трудно представить будущее без работы. Он утверждал, что капитализм сегодня для своих подданных подобен воде для рыбы. Мы находимся внутри него, но не можем заглянуть за его пределы. Лучшее, что мы можем сделать, — это представить себя пассивными подданными капитализма. Во времена Кейнса, в 1930-е годы, существовали и другие системы, способные бросить вызов капитализму, — а именно коммунизм и социализм. Представить себе очень короткую рабочую неделю тогда было проще, потому что эта система еще не так сильно захватила воображение людей. В своей последней (незавершенной) работе перед смертью, «Кислотный коммунизм», Фишер начал формулировать, как мы могли бы начать осмысливать жизнь за пределами труда и капитализма. Ответ Фишера заключается в том, что сознание, необходимое для наслаждения изобилием, само по себе должно быть сформировано, и в настоящее время капитализм активно препятствует формированию этого сознания, потому что в интересах этой системы не допускать нашего существования вне её рамок. Но это может измениться, если нам больше не нужно будет работать. Если это так, то перемены будут глубокими. По необходимости они будут носить духовный характер, требуя полной реорганизации нашего восприятия самих себя и своего места в мире. Это включает в себя наше отношение к природе, деньгам, времени, семье, обществу и самим себе. В обществе, где нет дефицита ресурсов, достоинство будет заключаться не в труде, а в нашей истинной личности, в самом нашем существовании и месте во Вселенной. Мы бы существовали без экономической ценности, потому что от нас больше не требовалось её создавать. Вместо этого мы могли бы попытаться вернуть себе место в естественном порядке вещей, а не оставаться вне его, в системе, созданной для эксплуатации природы.

→ https://www.theguardian.com/commentisfree/2026/jul/04/ai-disruption-dystopia-dont-need-to-work-capitalism-free-time

— Лошадь питается травой с любой обочины. Для машин нужно строить сеть специальных заправок, ежедневно доставлять на них бензин. И это всё очень пожароопасно. Кто возьмет на себя риски такого бизнеса? — Лошадь пройдёт по грязи, вброд и через лес, а зимой её просто запрягают в сани. Автомобилям нужна сеть ровных дорог. Асфальт кончился – дальше не едем. Триллионы в инфраструктуру. — Лошадь дешево подкуёт любой кузнец в любой деревне. Ремонт автомобиля – целое приключение. — Кто будет отвечать, если машина кого-то собьет? Она же насмерть может задавить. — И экономического смысла никакого. Авто стоит как табун. Нет, AI точно не отнимет человеческие профессии.

Статья Йожи Столет «Протезы воображения, время и письмо» предлагает философскую реконструкцию того, как изменилось наше отношение к будущему вместе с переходом от модерной линейной темпоральности к кибернетической и цифровой. Главным тезисом статьи можно назвать кризис способности воображать политическое будущее, которое связано не столько с нехваткой фантазии, сколько с изменением самой структуры времени. Цифровые интерфейсы становятся «протезами воображения»: они технически перераспределяют между человеком и машиной функцию синтеза разнородного и организуют настоящее и будущее в рекурсивные петли. При этом общий нарратив статьи не сводится к тезису, что цифровые технологии полностью уничтожили свободу. Напротив, пользователь сохраняет активность: он интерпретирует, выбирает и участвует в производстве образов. Однако эта активность уже происходит внутри определённой алгоритмической темпоральности. Поэтому наша задача, пишет Йожи, заключается не в простом возвращении к прежнему линейному представлению о будущем, а в поиске точки праксиса внутри самих рекурсивных систем — использовать обратные связи не только для предсказуемого воспроизводства, но и для производства неожиданного. Кризис политического воображения — это не кризис способности придумать будущее, а кризис режима времени, в котором будущее больше не находится «впереди» нас, а уже циркулирует внутри настоящего как алгоритмически управляемая возможность. Именно поэтому тут важен «протез воображения», где интерфейс не просто помогает человеку воображать что-то, а он начинает участвовать в определении того, как вообще переживаются возможное, будущее и новое , распознавать праксис в существующем.