Наблюдения последних недель. 1/ есть два лагеря о том, как достичь AGI - это у нас rsi (recursive self improvement) и world models. Первый представляют Anthropic & OpenAI. Второй Google DeepMind. И из-за того что лидер дипмайнда не верит в то, что опенаи получается надо и то и другое делать и поэтому так все медленно. Короче корпоративное опоздание. Но чья ставка сыграет не ясно никому. 2/ в Китай возвращаются те, кто работают в топ местах в сша. Основная идея: они верят что смогут так же как в свое время сша осуществить «китайскую мечту», а именно получить мультипликаторы к оценке их компаний в разы больше. Другими словами нас ждет китайское господство в аи. Я бы сказал, что это более чем вероятно. Учитывая количество усилий и веры. И супер талантов. 3/ в математике назревает кризис. Многие PhD будут мягко говоря обесценены. И я считаю произойдет в целом большая реструктуризация мира наука. Ибо аи сможет буквально открывать и решать 50% текущих задач. И все еще «совсем новых» смыслов пока не видать. И я думаю, что проблема с поиском нового такая же как проблема с написанием резонирующего текста. Потому что в теории относительности важна не сколько теория, сколько идея. Дальше так сказать можно добежать уже как-то. 4/ найм это ад. Рядовой рисерчер в Anthropic (и других топ лабах) получает 10м+ за 4 года. Жизнь боль. 5/ многие компании с трудом осознали, что масштабирование зависит от их возможности тренировать свои модели. Harvey, Cursor (не смогли и сдались чтобы делать в другом месте) и другие 6/ оказалось квантовые вычисления очень быстро развиваются и там много всего интересного особенно в области квантовых нейросетей (лолкек), писать про это? Какие у вас новости?

Я наконец, запустил свой Codex на Linux сервере, с прямым контролем из-под мобильного ChatGPT приложения (через `remote-control`). Это дает возможность запускать разные задачи нативно без привязки к маку. NB: До этого пробовал разные харнесы со своими telegram интеграциями, но все это не то. Хотелось именно нативного. Для этого:

# ставим `codex` CLI одной из последних верси
npm install -g @openai/codex@latest

# запускаем демона с включенным remote control 
codex remote-control start

# Получаем коротко-живущий код, который вводим в "pair new device" в мобильном приложении
codex remote-control pair

# Остановить демона, когда он не нужен, или когда начинают идти ошибки подключения
codex remote-control stop

Работает пока не очень стабильно (т.к. фича экспериментальная), но это именно тот workflow, который разрабатывает OpenAI. Ваш, @llm_under_hood 🤗

✔️ OpenAI заблокировала сеть аккаунтов ChatGPT скам-центров из Камбоджи Злоумышленники использовали языковую модель для автоматизации инвестиционного и дэйтинг-скама, а также имитации работы правоохранительных органов.

ChatGPT создавал для них виртуальные личности, переводил переписки с жертвами в реальном времени и генерировал поддельные паспорта и юридические документы.

Анализ логов показал, что инфраструктура применялась для вербовки людей в киберрабство. Модель массово писала объявления о найме операторов чата с обещанием бесплатного перелета и проживания (это стандартная тактика преступных синдикатов Юго-Восточной Азии). OpenAI передала собранные улики правоохранительным органам и ИБ-партнерам. По оценкам компании, жертвами сети стали сотни человек, финансовые потери отдельных пострадавших исчисляются тысячами долларов. @ai_machinelearning_big_data #news #ai #ml

Когда OpenAI представили линейку GPT-5.6, то переименовали модели в Sol, Terra, Luna. Идея очень классная, но у меня был вопрос: а как будут называть модель-аналог Mythos, то есть ещё больше, чем Солнце (Sol)? Были варианты и Quasar, и Alpha Centauri (как-то длинно), и Galaxia; Sirius, Nova, да кучу всего можно придумать. TheInformation пишут, что на этой неделе OpenAI показывали в Вашингтоне модель 🥁🥁🥁 Astra. Компания OpenAI подчеркнула возможности модели к организации совместной работы нескольких агентов в течение длительного периода времени для решения особо сложных задач. По словам источников, пока не определено, как скоро OpenAI планирует выпустить Astra; в компании даже не решили, будет ли она открывать линейку GPT 6 или это будет дополнительная модель в серии GPT 5, например, GPT 5.7. Модель уже проходит финальное тестирование, и она должны стать первой, кто пройдет через запланированную администрацией Трампа новую систему одобрения моделей федеральным правительством перед их выпуском в открытый доступ. Кроме этого, совсем скоро OpenAI также планирует выпустить отчет о том, как компании удалось решить 10 ранее нерешенных математических задач, видимо, с использованием этой модели. Ждём 🍿

Стоит ли стремиться в Anthropic/ OpenAI? Все чаще я слышу от знакомых продактов: вот бы попасть в Anthropic / OpenAI! Работа в frontier AI labs для многих стала голубой мечтой - как когда-то все хотели в FAANG, а потом в Airbnb/ Notion/ Dropbox / нужное подставить. Но реально ли это “работа мечты”, или просто очередное “модное” место? Хочу поразмышлять с вами вместе. И начнем, конечно, с главного вопроса - а зачем вообще туда идти? Я вижу три основные причины: 1) Опыт. Конечно, если ваша специализация - AI PM, никаких вопросов нет: мало где в мире можно получить подобный опыт работы с инновационными технологиями в топовых командах. Другой вопрос, что продактов с такой специализацией не так уж много: у 95% совершенно другой карьерный фокус, да и интересы, если уж на то пошло. Если мы говорим про, например, growth PM или security PM, тут • и позиций в Anthropic / OpenAI будет сильно меньше, • и еще вопрос, если продуктовый опыт именно в этих компаниях даст более сильный толчок для развития, чем в других. С другой стороны, есть еще опыт, не привязанный к роли: как в компании построен процесс, культура, оргдизайн (в свое время я именно по этой причине пошла работать в Intercom). Это точно будет ценно, пусть и менее осязаемо. 2) Престиж. Подобная строчка в резюме, вне зависимости от позиции, точно привлечет внимание рекрутеров, а, при предпринимательских амбициях, - и инвесторов. Личный бренд тоже однозначно получит буст: будет легче получать приглашения на конференции, а также продавать инфопродукты. Вопрос в том, какие конверсии будут дальше по воронке :) Я собеседовала не одного продакта из Гугла или Меты, которые не справлялись с самыми базовыми вопросами. Я знаю не одного начинающего фаундера с громкими титулами, которому не удавалось поднять инвестиции или, что важнее, построить работающий бизнес. Бренды, которые у всех на слуху, открывают двери, но вот что происходит дальше, ни один бренд не решает. 3) Зарплата. А вот тут интересно: если посмотреть на общую компенсацию продакта из Anthropic/OpenAI, то получается цифра около $800k-$1M. Это выше, чем, например, компенсация в топовые компании на роли того же уровня: например, в Google или Airbnb можно ожидать около $500к. Но загвоздка в ликвидности. Базовая зарплата в frontier AI labs около $250-350к - что как раз соответствует рынку. Основная часть компенсации - equity, и это поднимает сразу несколько вопросов: - по сравнению с FAANG, это приватные компании: то есть, надо ждать либо IPO, либо secondary sale, чтобы реализовать продажу - это цена по оценке на текущий момент: верим ли мы, что она продолжит карабкаться вверх, или же что в какой-то момент окажется слишком раздутой и упадет? - по отзывам ребят, которые недавно устроились работать в OpenAI / Anthropic, такое количество стоков никому уже не дают. С ростом компаний (а в них уже 4+ тысячи сотрудников) можно ожидать, что эта часть компенсации сильно снизится. Так стоит ли пытаться попасть в Anthropic/ OpenAI? Давайте возьмем гипотетического продакта с 8 годами опыта и классными достижениями в резюме, но без AI экспертизы. На текущий момент ему будет очень сложно конкурировать за желаемую позицию: по оценкам, менее 1% кандидатов доходят до оффера от топовых AI компаний. Значит, надо будет усиленно вкладываться в образование и минимум следующие 3-4 года нарабатывать подходящий опыт. Но за это время: - могут появиться другие, более хайповые игроки - компенсация явно будет уже не такой вкусной - и итого вполне может быть сравнима с опцией «продолжить инвестировать в свой текущий опыт» и либо расти по уровню в big tech, либо зайти рано в новый модный стартап, который вырастет в единорога. В общем, я бы здесь отталкивалась от вашего интереса и «сложного процента»: какой опыт в моей карьере усиливает мое общее портфолио и USP? Но, если у вас уже релевантный опыт, и вы выбираете между Anthropic и условным Netflix/Uber, конечно, сейчас имеет смысл идти в Anthropic 😅 А вы что думаете?