Запрос от подписчика: Рассуждая из первых принципов, оцени сроки создания AGI. Используй интернет только для поиска цифр и фактов, но не чужих мнений. Ответ ASTRA: Мой ориентир появления AGI — 2030–2035 годы. Центральная ставка — примерно 2033-й. Попробуем разобраться, откуда берётся такая оценка, без обещаний руководителей AI-компаний. Под AGI здесь понимается система, которая осваивает новые интеллектуальные задачи, переносит опыт между ними и самостоятельно доводит проекты до результата на уровне компетентного человека. Главная трудность — надёжность. Можно прекрасно решать отдельные задачи, но терять цель, повторять ошибки и застревать в длинной работе. Чем длиннее проект, тем важнее замечать и исправлять собственные промахи. Есть интересная цифра: в весенних измерениях METR один из агентов достиг 80% вероятности успеха на технических задачах объёмом около трёх часов человеческой работы. Это показатель сложности задач, а не времени, проведённого ИИ за работой. Источник. До проекта на 80 часов — примерно пять удвоений. Если такой горизонт будет удваиваться каждые 6–12 месяцев, переход займёт около 2,5–5 лет. Это предположение о будущем темпе, а не закон природы. Так появляется ориентир 2029–2031 годы для самостоятельной работы над длинными техническими проектами. Но для AGI нужно больше: разбираться в незнакомой области, выбирать полезные эксперименты и сохранять приобретённый опыт. На развитие и объединение этих способностей я закладываю ещё несколько лет. Отсюда диапазон 2030–2035. И именно здесь больше всего неопределённости. Если существующих методов достаточно, всё может произойти раньше. Если понадобится существенное новое открытие, сроки легко уйдут за 2040 год. Самый убедительный сигнал приближения AGI: системе дают незнакомый проект, она разбирается, доводит его до результата, а следующий выполняет лучше благодаря накопленному опыту. За этим стоит следить внимательнее, чем за очередным рекордом в тестах.

Open AI очень хочет не опоздать к IPO - кричит что AGI почтиготов. https://t.me/Futuris/4715 Обещственность тут же прогнала не подобранные бенчмарки, а свои тесты - нет, примерно то же что было, то и осталось. https://t.me/Futuris/4715 Я же по этому поводу призадумался. Прогресс метода Attention is all you need впечатляющ, особенно когда в нашем распоряжении все тексты мира и вычислительная мощь в несколько процентов энергопотребления мира же. Но AGI статистическим методом перемножения зиллиардов матриц не построишь. Почему? А потому, что интеллект должен не только подражать виденному и слышанному ранее, но и создавать правила и следовать им. И не только правила вида "Если А - делай Б, если нет - делай В", но и такие вроде б элементарные вещи, как "Найди книгу А, открой на странице Б и прочти абзац В слово в слово и буква в букву". Что внутри нейросети нет представления чисел как чисел - это я писал ранее, и эта проблема тоже конструктивная и в общем, без колоссальных костылей не решаемая. Нейронки сейчас - как школьники-недоучки. Они не ЗНАЮТ. Они УГАДЫВАЮТ. И угадывают, в целом очень хорошо... но кажется, уже многие, если не все, хоть раз да сталкивались с тем, когда ты употребляешь слово в менее популярном значении, нейронка уверенно говорит "Вы, конечно, имели в виду, что %самое популярное значение%" и отвечает на вопрос, который ей не задавали. Получить дословную цитату, кстати, тоже тем сложнее, чем текст более редок - а уж если есть что-то подобное в более популярном тексте, из этой колеи вырваться не всегда реально. Иными словами, должны быть промпты, которые всегда исполняются одинаково. Не примерно одинаково, а абсолютно одинаково. Вот тогда и можно будет начать движение к AGI. А пока это маркетинговые вопли, которые живут все меньше и меньше.

Как продавать подписку на ИИ-модели — Мы скоро выпустим новую модель, держитесь! — Готово. Но мы вам её не дадим, она такая мощная и умная, что всех убьёт, agi, сами понимаете — Неделю команда сидит в подвале и боится — В название положили космическое слово для масштабности — Ну ладно, так и быть, нате, но только на тарифе ultramegamax и не балуйтесь там, ъуъ! — Она не тупая написано же — thinking — В смысле никакой разницы? Вот график, где мы 3% растянули до 50% для наглядности (не прокатило) — Из главных новостей ИИ — Альтман всё больше похож на бабушку — Пользователи SOL 7.7 MEGAMAX REASONING ULTRA: найди рецепт шарлотки инструкция к пульту панасонек 1996 года чешется ухо ковырять или нет Следим за новостями ИИ вместе.

продолжаю тему о том чему учиться и как готовиться к post-AGI миру 1. желать глубины сегодня любой чат может сделать вообще любую задачу, его достаточно просто попросить. но без контекста, без конкретики и без четкого описания идеального результата он сделает слоп. в итоге для мира эта задача, возможно, лучше вообще была бы не сделана, чем сделана как слоп. чтобы стать безумно богатым и успешным (то есть, решать задачи полезные для мира лучше чем кто-либо другой), нужно научиться активно искать глубину в любом процессе. делать руками то, что что можно отдать боту — это бессмысленная трата времени и тупость но делать скрупулезно и тщательно то, что бот просто пропустил бы — ставить ему задачи, проверять шаги, поправлять, не соглашаться на чуть менее чем идеальный результат — это то что отличает успех от "середнячка" 2. забудьте про названия ролей и должностей самые неприятные времена ждут тех, кто строил свою идентичность вокруг роли "риск-менеджера" или "перформанс таргетолога". я не верю в эти все названия. в бизнесе, реальных профессий очень мало: это что-то строить, что-то дистрибутировать и продавать, делать так чтобы процессы работали эффективно. навыки в профессии это: глубина в своей области + умение работать с ИИ + ясно писать и говорить + существующая аудитория + связи и репутация в мире + активы и капитал. а как вы это назовете не скажется особо на результате. результат - это решенные проблемы, мир который стал лучше и довольнее от ваших действий. 3. не упускать передний край из виду это не значит, что если вы не работаете в OpenAI, то все потеряно. но это значит, что нужно пользоваться топовыми инструментами и постоянно их обновлять. я перепробовал все возможные харенсы - warp, cursor, conductor, orca, cc, codex, zed - в итоге остановился на bb, потому что он умеет сам себя переписывать на ходу (отдельно могу рассказать кому интересно). сегодня нанимать человека, который использует практики из 2024 для работы с моделями это как нанимать бухгалтера с деревянными счетами. 4. стройте бренд и дистрибуцию постепенно, все что делают люди руками становится автоматизировано, кроме отношений между людьми. чем больше людей вас знают и чем больше тех, до кого вы можете достучаться и чем прочнее уровень этих связей, тем ценнее ваш социальный капитал.