ZeroDrift — AI цензура для AI Все, кто когда-либо работал с compliance, знают это особое ощущение: ты просто хочешь отправить письмо клиенту, текст для сайта или скрипт для звонка, а дальше начинается бюрократический квест. Показать legal, потом compliance, потом кто-то занят, кто-то просит уточнить формулировку, потом появляется новый комментарий, и всё уезжает ещё на пару дней. С людьми это напрягает, но как-то работает. Человек не генерирует тысячи сообщений в день. С AI-агентами так уже не получится. Если AI сам отвечает клиентам, пишет письма, ведёт звонки или генерирует маркетинговые тексты, то нельзя каждый раз отправлять это на ручное согласование. Иначе пропадает весь смысл автоматизации. Но и просто выпускать агента наружу в банке, страховой или медицине тоже страшно: он может пообещать лишнее, забыть дисклеймер, нарушить внутреннюю политику или сказать что-то, за что потом прилетит от регулятора. Здесь и появляется сегодняшний стартап ZeroDrift. Они ставят слой между AI-системой компании и внешним миром. Агент что-то написал, сказал или сгенерировал, ZeroDrift проверяет это до отправки. Если всё нормально, сообщение уходит. Если нет, система останавливает его, объясняет проблему и предлагает исправление. Своего рода корпоративная цензура, но в regulated industries это, возможно, единственный способ вообще дать AI право говорить от имени компании. ZeroDrift недавно подняли $10 млн seed round. Среди инвесторов a16z speedrun и ещё несколько фондов. Пишут, что с начала 2026 года у них уже есть интерес со стороны крупных банков, asset managers и страховых компаний, а traction растёт в два раза месяц к месяцу. Старые compliance-системы в основном работали постфактум: архивировали, мониторили, помогали разбираться, кто что отправил и почему это плохо. ZeroDrift хочет быть не камерой наблюдения, а турникетом. Это перекликается с тем, о чём я уже писал в другом посте: AI в бизнесе выходит из режима “ну ошибся, бывает” и попадает в мир, где за ошибку кто-то платит. Только там история была скорее про ответственность за последствия, а здесь про попытку не допустить косяк до того, как он случился. SEC с 2021 года оштрафовала больше 100 компаний на сумму более $2.2 млрд за нарушения в коммуникациях и recordkeeping. И каждый такой штраф случился уже после того, как сообщение было отправлено. Чем автономнее становится AI, тем больше вокруг него нужно скучной инфраструктуры: guardrails, audit logs, insurance, compliance firewalls, policy engines. Всё то, что не очень красиво выглядит на демо, но без чего enterprise просто не выпустит AI к реальным клиентам.

Приветики! Я что-то надолго выпадаю, прошу прощения - разрываюсь)) Во-первых, "наши" вчера продули в футбол. Пишу "наши" в кавычках, как будто извиняясь, но вообще - ощущаю нашими. Ходили вчера смотреть матч в муниципальный парк. Там поставили огромный экран, настелили искуственный газон и человек 500 или 1000 собралось болеть за сборную. И мэр приходил, сидел в окружении всей этой толпы, без охраны. Болели, кричали, я внезапно обнаружила в себе страсть к футболу (вообще первый раз в жизни смотрю чемпионат) - тут невозможно остаться в стороне. Но продули, Роналду плакал в финале, вся страна в трауре. Почему-то меня это очень будоражит. Хочу будоражиться таким. И чувствовать то единение, что было вчера в парке, когда болели. Во-вторых, Claude продлил доступ к Fable. А это мощнейшая модель, она мне за пару часов выдает глубочайший анализ и документы, которые я б собирала и готовила пару недель и даже месяцев. Я сожгла на выходных все лимиты, решая рабочие задачи и выстраивая Second Brain. А сегодня узнала, что Fable продлили до 22-го, не выдержала, оплатила расширенную подписку и собираюсь еще две недели летать на этом космолете)) Срочно надо придумать на что его направить. В-третьих, я таки достроила Second Brain - назвала агента Мира, все со всем синхронизировала и теперь у меня есть место, где копится все-все, что я делаю, думаю, говорю на встречах, хочу запомнить и тп. База знаний и агент вокруг, который умеет все складывать в нужные места, запоминать и доставать по команде. С очень разветвленной и продуманной архитектурой и коннекторами ко всему, в чем я работаю. Но мне этого было мало - я после отправила Клода изучать лучшие практики, он сделал мне мануал, как должна быть в идеале построена эта система. И вот прям сейчас я запущу Fable анализировать то, что я построила и дорисовывать-достраивать архитектуру до идеала, опираясь на лучшие практики. В-четвертых, я такую же историю провернула с технологиями менторинга. Раньше я делала все по наитию, опираясь на прошлый опыт и раскачивая проблемы на встречах с менти. Плюс у меня был скачан курс по треккингу. А теперь я Клод послала изучить и принести мне все плейбуки, которые пригодятся для менторинговой работы над задачами по развитию продуктов, команд, бизнесов. Сложила все это в базу и он, при планировании сессей, сам бподкидывает мне актуальный инструментарий под конкретные задачи и запросы. Не могу вам передать насколько это повысило качество проработки вопросов. На менторинг у меня очень мало слотов - 4 встречи в месяц - мой максимум. Часть из них занята, но если вдруг у вас есть запрос и нужно поработать над нерешайками - пишите, поищем возможности. Я обожаю эти встречи и тот взаимообмен, который на них случается. Где-то по дороге я реализовала автоматизацию по работе с документами, которая, по расчетам, сэкономила нам примерно 6 человеко-месяцев работы через промпты. Вот этим прям страшно горда, потому что первый настолько явный полезный результат моего увлечения ИИ. Еще в субботу я организовала на большую компанию друзей экспедицию "за три моря" и мы нашли теплый океан. А завтра двинем в другую секретную экспедицию уже в Лиссабон и найдем нужный товар)) Кажется, немного влитого в меня железа, сделали из меня энерджайзер - сама себя немного опасаюсь)))) А как у вас? Что интересного произошло за то время, пока не слышались? P.S. невероятно тащусь от камеры, которая позволяет делать такое качественное увеличение. Мечтала об этом три года и вот сбыла мечту)) Теперь, когда ребенок плещется далеко в море в страшных волнах, я вижу, как он морщится от брызг)) Любовь на удаленке | Оля Сохнева #дневник_наудаленке

Сигнал/шум, ч.28. Про tokenmaxxing уже наверное все слышали - как использование токенов во многих компаниях стало важной метрикой, в том числе эффективности сотрудников. Невольно напрашивается сравнение с другой метрикой айти-компаний эпохи бума доткомов - eyeballs. По названию наверное понятно, что это просто посещаемость сайтов. 1️⃣ Тогда eyeballs вытеснили традиционные финансовые показатели, потому что денег многие не зарабатывали, но была надежда все позже круто монетизировать. Вместо например P/E считали стоимость за eyeball - сколько инвесторы платят за одного посетителя. Компании вроде Pets, Webvan, TheGlobe получали гигантские оценки при отсутствии пути к прибыльности. Метрику накручивали конечно, через рекламу, круговые схемы, гивы и др. Потребление токенов - такая же странная метрика: она конечно может отражать ценность, но очень сложно отделить этот сигнал от шума (бесплатные тиры, щедрые кредиты, агентские циклы и др.) А накручивать потребление токенов наверное даже проще. 2️⃣ Революцию AI сравнивают с революцией железных дорог, и самое забавное, что там тоже была стремная метрика 🙂 Это были мили: дороги нередко вели вникуда или компании просто дублировали маршруты конкурентов (что конечно не добавляло ценности конечному потребителю). Еще больше миль просто рисовали в отчетностях для инвесторов, как будущие золотые жилы. При этом токены ближе к милям, чем eyeballs, потому что совсем небесплатны. 3️⃣ Eyeballs и токены несут разный риск: первые надувались на стороне спроса - компания привлекала посетителя почти бесплатно, а риск нёс инвестор, купивший переоценку. Токены надуваются на стороне издержек: чем больше маккксинг, тем больше платит сама компания, а зарабатывает поставщик. То есть при доткомах пузырь дул тот, кто ищет капитал, а сегодня - кто его. При этом бенефициар — AI лабы, которых нет стимула менять ситуацию и оздоравливать бизнес покупателей токенов. 4️⃣ При этом токеномика AI продуктов устроена сегодня так, что по большому счету в мире не существует AI стартапов/бизнесов с хорошей юнит-экономикой. Есть прибыльные, но они почти всегда близки к схеме Agentforce от Salesforce: за них много платят, но почти не используют (пост-мем + пост по теме). И это не преувеличение: даже chatgpt, которым пользуется весь мир, - плохой продукт с точки зрения бизнеса (пост). 5️⃣ Полагаю, что в первой половине этого года мы прошли пик tokenmaxxing'а, после которого вышло много новостей о том, что крупные компании потратили годовой AI бюджет квартал или ввели лимиты на токены для сотрудников или убрали токен-лидерборды и токен-KPI. Если так, то хорошо, что это произошло так быстро! Возможно скоро мы увидим тренд "вот наш ROI от AI" 🙂 @kyrillic

«Даже если ты все сделал правильно, это еще не гарантия успеха в эпоху AI-native» ✍️ В рубрике «Интервью» — Екатерина Лапшина, инвестор, предприниматель, меценат, сооснователь OKKO и основатель ERA Capital. Обсудили, почему именно сейчас может быть лучшее время для запуска собственного бизнеса, какие компании первыми проиграют AI-гонку, как изменится роль предпринимателя в мире AI-native продуктов и почему даже сильной технологии сегодня недостаточно для успеха. Забирайте карточки — особенно если строите технологический продукт, инвестируете или только думаете о запуске собственного проекта. Канал Екатерины — один из моих самых любимых в избранном, потому что там много личного опыта, рефлексии и размышлений о технологиях, предпринимательстве и инвестициях с опорой на практический опыт. Искренняя рекомендация! P.S Карточка 6 💚 @karpovaventures ✍️

Агентские системы на ICML 2026 Oral Session Benchmarking at the Edge of Comprehension Авторы предложили процедуру бенчмаркинга с участием двух моделей: модель-бенчмаркер (Alice) и тестируемая модель (Bob). Alice генерирует вопрос q на заданную тему и ответ a_A, после чего сгенерированный пример проходит верификацию Bob'ом. Если вопрос после нескольких попыток генерации остаётся некорректным, процедура возвращает NULL. Затем Bob генерирует ответ a_B, а Alice критикует его, указывая на конкретное место, где в рассуждении содержится ошибка (если она есть). Найденные «ошибки» эскалируются на моделей-судей, а при отсутствии единогласия — на асессоров-людей. Если ошибки действительно есть, процедура возвращает ALICE WINS. В противном случае — BOB WINS. Исследователи утверждают, что с работой Alice-судьи справляются даже лёгкие модели вроде GPT 3.5: ответы всех моделей высоко коррелируют с людьми. Правда нас оставили без ответа насколько вопросы, сгенерированные GPT 3.5, являются сложными сами по себе. Бенчмарк оказался довольно простым для фронтир-моделей: например, Bob на GPT 5.2 побеждает в 100% случаев против всех моделей за исключением одной. Из этого можно сделать вывод, что вопросы получились не очень сложными, и Alice как problem creator со своей работой не справилась. Также в работе не было оценки целых диалогов, что является немаловажным ограничением. daVinci-Dev: Agent-native Mid-training for Software Engineering Стандартный пайплайн обучения агентских моделей выглядит так: тушка -> SFT -> RL (например, GRPO). Авторы доклада о мид-трейнинге добавили дополнительный шаг перед SFT: они обучают модель на идеальных агентских трейсах на задачу Next Token Prediction и благодаря этому получают SOTA-результат среди открытых моделей на SWE-Bench Verified. Исследователи утверждают, что потратили существенно меньше компьюта, чем предыдущая SOTA, но получилось всё равно много: около 70b токенов на 32b/72b модели. Strategic Navigation or Stochastic Search? How agents and humans reason over document collections Исследователи разработали бенчмарк, который замеряет, насколько эффективно агенты решают задачу поиска по большой коллекции документов для ответа на вопросы. Неожиданно лучшая модель достигает всего 82% качества! При этом оказалось, что агентские пайплайны без ограничений тратят на порядки больше денег, чем пайплайны с разумными ограничениями ($850 против ~$40), и дают более слабый результат. Ещё один любопытный факт: даже лучшие пайплайны тратят в 5 раз больше действий, чем человек, снабжённый теми же инструментами. Также авторы отмечают, что лучшие агентские пайплайны и люди дают примерно одинаковое качество ответов (~80%), но ошибаются по-разному: люди торопятся с неверными решениями, а модели, наоборот, «закапываются» там, где в этом нет необходимости. Увидел интересное ❣ Юрий Яровиков #YaICML2026 Душный NLP

Внедрение AI в компаниях приводит к росту(!) числа сотрудников — исследование «Их заменил AI» — довольно частое объяснение при сокращении сотрудников в последнее время. Да и вообще есть страх, что AI приведет к массовой безработице. Но недавнее исследование Ramp и Revelio Labs показало, что связь, скорее, обратная. Ramp и Revelio Labs изучили 21 559 компаний. По транзакциям изучили, насколько активно эти компании тратятся на разные AI-сервисы. И выделили тех, кто активно внедряет AI, и тех, кто не очень. А потом посмотрели, какие у них были изменения со штатом сотрудников. Компании, которые не очень активно внедряют AI, не показали статистически значимых изменений. А вот у активных внедренцев число сотрудников за два года выросло на 10,2%. В отчете говорится, что рост происходит постепенно. И затрагивает он почти все должности — инженеров, сейлзов, менеджеров по работе с клиентами и так далее. А что еще интересно — количество сотрудников начального уровня выросло на 12%. То есть даже больше, чем в среднем рос штат. И это не очень вяжется с утверждением, что AI в первую очередь заменяет как раз сотрудников начального уровня. Почему так происходит? Исследователи пишут, что компании, начавшие активно внедрять AI, изначально были крупнее. И активное внедрение приводит к более высокому росту, такие компании чаще привлекают инвестиции. Отсюда и потребность в сотрудниках. Вывод делают такой:

«Результаты опровергают прогнозы о том, что внедрение AI приведет к массовой потере рабочих мест»

Но все-таки оговариваются, что смотрели данные за два года. И на более длинном горизонте может случиться перераспределение ресурсов внутри компаний. Мол, может оказаться так, что два года — слишком маленький срок для выявления существенных изменений в структуре рабочей силы. В общем, если вы переживали о массовой безработице из-за AI — можете пока не переживать. Переживайте из-за того, что роботы захватят мир! Хотя вот здесь мы выяснили, что и из-за этого пока не нужно переживать. Так что просто кайфуйте! Жизнь одна! 🤣 @TheEdinorogBlog — тот самый канал про стартапы🦄

📌 Лауреаты ICML 2026 Организаторы Международной конференции по машинному обучению опубликовали список работ, удостоенных наград этого года.

ICML считается одной из ведущих мировых площадок в сфере искусственного интеллекта, а её премии - заметным профессиональным признанием.

Лауреатов основной категории выбирали в несколько этапов - из 53 первоначальных кандидатов отобрали короткий список из 22 работ, которые затем в анонимизированном виде оценивал комитет из 11 человек. 🟡 Высшую награду в категории "Выдающиеся статьи" разделили 2 статьи The Flexibility Trap оспаривает распространённое мнение о диффузионных языковых моделях о том, что свобода выбирать порядок генерации текста, которую принято считать достоинством таких моделей, в задачах на рассуждение, наоборот, ухудшает результат. High-Accuracy Sampling for Diffusion Models and Log-Concave Distributions показывает, что диффузионные модели способны достигать высокой точности за существенно меньшее число вычислений. 🟡Отдельно отмечены работы, отстаивающие определённую точку зрения Лучшей признана статья Сары Болл и Фила Хакеманна, в которой утверждается, что элайнмент ИИ, создаваемый ради безопасности, может применяться и для цензуры. Почётного места удостоена работа Ли Цивэя и соавторов про то, что изучение дипфейков недостаточно учитывают проблему создания интимных изображений без согласия людей. 🟡Ещё 5 статей получили упоминания в основной категории 🟠Как модели обходят «детекторы лжи» при обучении; 🟠Отбор обучающих данных для генерации видео; 🟠Пределы запоминания данных языковыми моделями; 🟠Объяснение того, почему разные диффузионные модели выдают схожие результаты; 🟠Анализ эффекта грокинга, когда модель сначала запоминает обучающие примеры, а обобщать, то есть верно работать на новых, ранее не встречавшихся данных, начинает гораздо позже, если обучение продолжать. Премию Test of Time, отмечающую вклад с долгосрочным влиянием, присудили работе за авторством коллектива DeepMind под руководством Владимира Мниха. Она предлагает метод асинхронного RL, который повлиял и на обучение больших языковых моделей. @ai_machinelearning_big_data #news #ai #ml