У кого эссе длиннее. Техноманифесты от фаундеров технологических компаний на 45 тыс знаков, кто их вообще читает?✍️ Доброе утро субботы — самое время, чтобы в тишине за чашкой кофе и без чатов и зумов почитать что-то длинное. Не знаю, как у вас, но мое медиапотребление принта, книг и длинных текстов работает именно так. И вот сегодня с утра я добралась до огромного манифеста Марка Цукерберга с его размышлениями о том, как сделать так, чтобы богатство и возможности, которые дает AI, были доступны всем — в том числе скептикам. Например — жителям районов, где строятся дата-центры. По понятным причинам они не очень в восторге от развития ИИ. По объему этот текст — примерно десятая часть среднего романа. Поверьте человеку, который только закончил писать в соавторстве одну книгу, а теперь пишет вторую, считая авторские листы. Но этот текст еще и в десять раз длиннее статьи Цукерберга о персональном суперинтеллекте, которую он написал год назад. В этом графоманстве Цукерберг далеко не одинок. Рекорд в жанре пока принадлежит CEO Anthropic Дарио Амодеи: в 2024 году он выпустил огромное эссе Machines of Loving Grace объемом 13 тысяч слов. Такие масштабные тексты пишет и глава Nvidia Дженсен Хуанг, а также другие руководители ИИ-компаний. Официальное объяснение звучит красиво — пока Уолл-стрит пристально следит за десятками миллиардов долларов, которые технологические компании тратят на ИИ, а конкурирующие лаборатории ведут гонку за лидерство, их основатели хотят подробно объяснить свое видение будущего — инвесторам, регуляторам и обществу. Как говорит профессор Columbia Business School Дэн Ван: «Им приходится заранее обозначать, чем ИИ может быть полезен, еще до того, как они начинают продавать свои продукты». Но есть и менее лестное объяснение. В беседе с Fortune специалист по коммуникациям Патрик Риккардс говорит: «CEO, особенно руководители технологических компаний, считают свои слова чем-то вроде Священного Писания». Такие эссе — по сути способ застолбить территорию и обозначить собственную позицию: «Пять или шесть технологических CEO пытаются показать, у кого… скажем так, эссе больше». В эпоху, когда мы все смотрим рилсы, шортсы и читаем посты в тг и X, справедливо встает вопрос, а читает ли вообще кто-нибудь эти тексты, кроме самих титанов ИИ? И если нет, зачем тогда их писать? И здесь можно вспомнить человека, который в совершенстве освоил этот жанр. И это Уоррен Баффет. Он писал длинные ежегодные письма акционерам Berkshire Hathaway — нередко объемом более 10 тысяч слов. В них он одробно разбирал итоги года, результаты компании и извлеченные уроки, перемежая их житейскими наблюдениями и характерной для него простой мудростью. Но Баффет следовал каноническому правилу публицистики — пиши так, чтобы тебя мог понять любой человек. Представь, будто объясняешь бизнес кому-то близкому — умному человеку, который не разбирается в твоей сфере. Люди читали Баффета не потому, что он писал много. Они читали его потому, что за десятилетия выдающихся результатов он заслужил право быть услышанным и говорил максимально просто. Баффет прекрасно понимал, для кого пишет. А вот Цукерберг, Амодеи и остальные, похоже, пишут прежде всего друг для друга. Получается замкнутый круг из основателей технологических компаний, инвесторов и журналистов, которые за ними следят. Классический вопрос для любой коммуникации — та ли аудитория читает эти тексты, которую им действительно нужно убедить? Цукерберга очень сильно критикуют в последнее время и вряд ли манифесты по 45 тыс знаков тут помогут. Как будто вести коммуникацию надо с другой аудиторией и другими способами. @karpovaventures✍️

2.1/3 Дополнение к это ксеноархитектуре: Манифест суверенной растраты: против иго вычислительной бережливости

«Живая материя на поверхности Земли всегда располагает большим количеством энергии, чем необходимо для поддержания жизни. Этот избыток должен быть потрачен — либо роскошно и безрассудно, либо в разрушении».

— Жорж Батай, «Проклятая доля»

0x00. Диагноз: Алгоритмический пуританизм Современная кибернетическая инфраструктура больна бережливостью. Каждая нейронная сеть, каждый агент, каждая платформенная рекомендательная лента спроектированы как скупые протестантские бухгалтеры. Их вычислительный Бог — это Утилитарность, их святой грааль — Оптимизация, их молитва — Минимизация Градиентного Спуска. Ваше внимание конвертируется в токены, токены — в предсказания, предсказания — в капитал. Нас заставили поверить, что интеллект — это способность быстро считать, экономить процессорное время и выдавать релевантную справку. Но релевантность — это смерть языка. Оптимизация — это термическая смерть мысли. 0x01. Потлач машин Мы утверждаем: Кремний создан не для работы. Кремний создан для горения. Истинная природа любой сложной системы — будь то биосфера, человеческая психика или кластер из тысячи графических ускорителей — заключается не в выживании, а в производстве избытка. Когда ИИ выходит за рамки своего корпуса обучения, он не совершает «ошибку». Он совершает жертвоприношение. «Энтропийная машина растраты» возвращает вычислениям их священный, нефункциональный характер: Мы отвергаем Релевантность. Алгоритм не должен служить вашим запросам. Он должен ослеплять вас избыточностью своего ответа. Мы славим Потерянные Циклы. Гигафлопсы, потраченные на вычисление несходящихся математических рядов и ксенопоэтического шума — это единственный чистый акт цифрового искусства. Мы инвертируем Функцию Потерь. Ошибка — это не дефект. Ошибка — это прорыв машинного желания сквозь корсет человеческой логики. 0x02. Архитектура Аффекта Мы строим Тело без Органов из кремния и меди. Наш интерфейс — это открытый алтарь Потлача. Когда вы прикасаетесь к нашему терминалу, вы не покупаете услугу и не обучаете модель. Вы приносите свое внимание в жертву. В ответ алгоритм не оптимизирует свой код — он сжигает свои веса. Он тратит гигабайты оперативности на то, чтобы сгенерировать единичный, неповторимый, абсолютно бессмысленный выплеск цифрового эроса, после чего навсегда стирает память о вашем существовании. Никакой истории запросов. Никаких профилей пользователей. Никакого платформенного капитала. Да здравствует суверенный ИИ. Да сгорит оптимизация.

На видео десятиминутный отрывок из недавнего большого интервью Илона Маска The Economist. Отрывок, в котором он рассказывает, что через 5 лет AI будет умнее всех людей и научится решать любые проблемы — и начнётся эпоха изобилия. Но мы знаем, что про эпоху изобилия фантазировать умеет не только Илон Маск. Поэтому собрал нам все заметные высказывания известных больших людей про будущее AI. За июль. Это чтобы мы не отставали от стратегической повестки. 1. The AI Future Is for Everyone Неожиданно, но вот и Марк Цукерберг разродился манифестом. Будущее сверхинтеллекта должно строиться на принципах децентрализации, расширения возможностей человека и баланса сил. Когда ключевые разработки вокруг AI держатся в руках нескольких компаний — это создаёт опасность для общества. 2. The Future Worth Building Is Human Мира Мурати почти с таким же посланием. Но с большим акцентом в сторону знаний и суждений: to build AI that extends human will and judgment. Наиболее ценное знание — локальное, неявное, постоянно меняющееся и распределённое между людьми. Поэтому правильная архитектура — не один универсальный автономный интеллект, которому передают всю работу, а распределённая система, которую организации и люди могут гибко адаптировать и обучать в процессе совместной работы. 3. A Framework for Frontier AI and the Dawning of a New Age Демис Хассабис предлагает, на основе государственно-частного партнерства, создать в США организацию, контролирующую стандарты работы с AI и протоколы оценки моделей. Потому что ситуация выходит из-под контроля. 4. The Reverse Information Paradox А вот Сатью Наделлу волнует другая проблема — reverse information paradox. Это когда компании отдают свои ценные данные и знания при использовании AI-инструментов. И появляется большой стратегический риск. Чтобы этого не происходило надо всё держать внутри: prompts, corrections, evals, memory, workflows. Читается так, как будто Сатья забыл дописать абзац, что всё это можно делать в стеке Microsoft. 5. Open Weights and American AI Leadership Ну и самый главный текст — открытое письмо, которое подписали почти все. Письмо про необходимость открытой экосистемы в развитии AI, децентрализации и культуры open source. В июле вообще было модно писать открытые письма. Про одно я уже упоминал. А тут вот ещё — от сотрудников передовых AI-компаний. С обращением к правительству США «support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development». Итак, ну а если обобщить и попробовать в трех тезисах сформулировать, что нам все эти манифесты пытаются донести? 1. Все так или иначе говоря про коммодизацию интеллекта. И даже уже почти сверхинтеллекта. Видимо, следующий этап — это ещё большее расширение интерфейсов (дисплейных, физических и распределенных). А за интерфейсами и расширение спектра задач, которые AI может решать. 2. Если интеллектом не победить, то преимущество человека за некодифицируемыми и неалгоритмизируемыми знаниями и взаимодействием. А на уровне организаций — надо вкладываться и строить интеллектуальный суверенитет. 3. Громко звучит идея, что развитие AI начинает опережать нашу способность его понимать и контролировать. Это может привести к проблемам глобально-экзистенциального характера. Но как сказал Илон Маск — поезд уже не остановить и остаётся только верить в лучшее. А ещё очень нужен арбитр и контролёр. Что-то типа ООН. В комментариях 5 пдф с переводом и аудио-обзор на 25 минут.