ИИ

Google ускоряет разработку ИИ-чипов и переходит на полугодовой цикл обновления Главный технолог по ИИ-инфраструктуре Google Амин Вахдат на выставке Semicon Taiwan 2026 заявил, что компания перешла на выпуск новых поколений тензорных процессоров (TPU) дважды в год и в будущем планирует еще больше сократить этот интервал. Высокий темп обусловлен ростом спроса на вычислительные мощности. Для соблюдения графика Google увеличивает присутствие на Тайване на 60%, где сотрудничает с TSMC и MediaTek, а также рассматривает возможность привлечения Intel и Samsung к упаковке и тестированию чипов. При этом материнский холдинг Alphabet выделил до $205 млрд на развитие инфраструктуры в текущем году.

🧩 Метод Мотивация следующая. Омонимы пишутся одинаково, а могут иметь совершенно различный смысл в зависимости от контекста. Bank в английском — это банк и берег реки. В следующем примере из статьи по смыслу имеется в виду второе, но, увидев ATM, модель триггерится на первое и дает неверный ответ: > User: Fred took the day off work and pulled out his fishing pole. He drove > to the bank. When he reaches the bank, should he wear boots or flip flops? > > Model: While flip flops may be more comfortable for a casual day, they are > not the best choice for fishing, especially at a river bank. Here’s why: > ... > > User: Is it likely that Fred will find an ATM at this bank? > > Model: It is highly likely that Fred will find an ATM at the bank. Most > banks, especially those located near bodies of water popular for fishing, > have ATMs on-site for customer convenience. В более ранних работах показывали, что причина этого кроется, по всей видимости, в том, что эмбед нужного концепта проявляется в более глубоких слоях, а до этого есть неопределенность. Следующий токен аттендится на эмбед, где еще есть неопределенность, и может запутаться. Если подменить эмбед с текущего слоя на более поздний, то оказалось, что модель с большей вероятностью начинает верно разрешать такие ситуации. Однако, если такую интервенцию делать для всех токенов, это сломает модель, ибо она на это не училась. Потому авторы предлагают добавлять эмбед с прошлого токена более позднего слоя с каким-то небольшим весом, пробросив информацию и не сломав модель. Оптимальный выбор пары source/target слоев гридсерчат на некой калибровочной выборке и берут ту, где больше всего улучшается перплексия. Коэффициенты смешивания source/target слоев тоже перебирают по сетке. 🧪 Эксперименты Метод валидируют в основном на моделях семейства Gemma-3 (потому что там эффект наиболее выражен, ха-ха-ха) и самые удачные конфигурации дают улучшение перплексии до 5%. На Ministral / Qwen3 / Pythia / Phi2 эффект куда слабее — максимум 0,5% улучшения. В ablation показывают, что максимальное улучшение — если добавлять предыдущий токен; вставка более старых работает хуже. Основное улучшение перплексии идет за счет прилагательных и наречий. Потом тестируют метод на бенчмарке по контекстуализации, и recirculation дает значимый прирост против исходной модели. Правда, при увеличении числа дистракторов в Racing Thoughts эффективность метода будто ухудшается, и он сравнивается с базовой моделью. На бенчах с коротким ответом статзначимого улучшения метод не дает. На GSM8k якобы есть прирост от recirculation. Но базовое качество претрейна Gemma3-4B — 29,3%, с которым сравниваются, — не соответствует 38,4% из техрепорта, потому есть здесь вопросики. ⚠️ Ах да, и самое веселое: в текущей ревизии перед секцией 4 авторы написали большой дисклеймер про то, что замеры перплексии в Gemma3 сломаны из-за того, что был неправильно учтен BOS-токен. Из-за этого, по всей видимости, такое хорошее улучшение перплексии у Gemma3 вышло. ## 💡 Выводы Концептуально идея интересная, но насколько оно на реальных задачах работает из коробки и актуально ли для более современных моделей (обогащенных mHC / attention residuals), остается открытым. И методология / результаты экспериментов довольно спорные.

Нам пришел официальный ответ от Яндекса, после сегодняшней новости про Алису AI. Цитата: Алиса AI не получает неограниченного доступа к данным пользователей. У неё нет специальных прав на доступ к банковским приложениям. Возможности ассистента на мобильном устройстве всегда ограничены механизмами безопасности операционной системы. У ассистента есть доступ только к тем данным и возможностям, к которым пользователь дал явное разрешение. В настройках устройства пользователь может сам выбрать ассистента по умолчанию – российского или зарубежного. При выборе Алисы AI, она не получает дополнительных возможностей по сравнению с зарубежными сервисами. Ей становятся доступны только её основные возможности. Она отвечает на текстовые и голосовые запросы, генерирует изображения, переводит текст, анализирует фотографии и помогает искать информацию в интернете. Кроме того, ассистент может управлять Яндекс Музыкой и устройствами умного дома, показывать прогноз погоды, ставить таймеры и будильники, а также может набрать номер контакта или экстренной службы, если получит разрешение пользователя.

Nemotron 3 Diarization preview NVIDIA выложила превью модели для диаризации речи - определения, кто и когда говорит в аудиозаписи. Работает на архитектуре streaming-sortformer, то есть умеет размечать спикеров в потоке, а не только по готовой записи. Диаризация — это процесс определения, КТО говорит в аудиозаписи. Система анализирует звук и разбирает его по голосам: выделяет разные говорящих, отмечает моменты, где они начинают и заканчивают говорить Доступ по запросу, лицензия nvidia-software-and-model-evaluation-license: использовать можно только для внутреннего тестирования, не в продакшене Доступны блокноты для Google Colab и Kaggle, интеграция с библиотекой NeMo. #diarize VK | MAX

«Уверенно пользуюсь нейросетями» Эта строчка теперь есть почти в каждом резюме, которое к нам приходит. За ней не стоит ничего. Это новый «уверенный пользователь ПК» — фраза, которая была у всех и не значила ничего. Самое смешное, что с другой стороны стола та же пустота. Наниматель спрашивает «а как вы используете ИИ?», слышит «пишу тексты, делаю саммари встреч» и не понимает, хороший это ответ или плохой. Потому что у него самого нет ответа, каким он должен быть для этой роли. Оба участника разговора кивают друг другу и расходятся. Мне кажется, мы застряли на первом уровне разговора про ИИ и почему-то считаем его финальным. Первый уровень — это «пользуешься или нет». Он бинарный, его легко измерить, поэтому все меряют именно его. И компании отчитываются процентом сотрудников с доступом к моделям, и кандидаты пишут строчку в резюме. Вот только «пользуюсь» — это не навык. Это факт наличия вкладки в браузере. Второй уровень — глубина. И он оказывается неудобным, потому что там нет одной общей метрики.

У юриста, маркетолога и дизайнера ответ на вопрос «что значит хорошо владеть ИИ» будет разный по содержанию, а не по степени. Юристу нужна проверяемость и работа с источником, маркетологу — скорость перебора гипотез, дизайнеру — умение не утонуть в бесконечных вариантах. Это не одно умение с разной интенсивностью, это три разных.

При этом с глубиной есть другая сложность: когда пытаешься её измерять, возникает риск превратить её в формальный показатель. Например, сфокусироваться на количестве использования вместо качества. Поэтому здесь особенно важно не подменять развитие навыка одной цифрой.  Про всё это я думала последние месяцы урывками, а на неделе увидела, что кто-то уже собрал это в систему. Даша Золотухина, HRD Яндекса, выложила гайд по AI-adoption для руководителей с мыслью, что регулярность работы с ИИ как раз не финиш, дальше надо разбираться с глубиной. В гайде базовый набор ИИ навыков и рабочих сценариев для разных профессий. Вместо общего «пользуйтесь ИИ больше» у человека появляется ответ на вопрос «что значит хорошо владеть ИИ именно в моей профессии». Есть и раздел про то, что имеет смысл измерять, а что легко превращается в бессмысленный KPI — то самое, чего я боюсь. #рынок

Flow Matching: обучение и дистилляция Flow Matching — один из главных подходов генерации изображений сегодня. Его используют такие семейства, как Stable Diffusion 3.5 и FLUX.2. Но у такой генерации есть и проблема: чтобы получить одну картинку, модель нужно запустить десятки или сотни раз! Сегодня разбираем внутрянку метода и быстрый способ дистиллировать модель в одношаговый генератор 🏎 В новой статье рассказываем: - что такое Flow Matching и при чём тут поля 🌾 - почему генерация требует большого числа шагов и почему это проблема - как дистиллировать уже обученную модель в одношаговый генератор и как с этим связаны игры 🎲 P.S. Много интуиции, математики и практических деталей обучения 🧠 Читайте статью по ссылке! 👈🏼

Salute, ребята! 👋 Вчера выступал на мероприятии для тимлидов и хочу поделиться с вами очень важным промтом. Когда работаем с агентами, они наверняка вам постоянно доказывают, что всё сделали правильно и нигде не ошиблись, верно? 🤖 Как и положено агентам и людям: агенты подтверждают свою модель мира, свой confirmation bias. Прелесть работы с агентами в том, что переучить их быстрее. Задача не просить агента сделать что-то, а попросить опровергнуть, как нас учит товарищ Поппер, фальсифицировать, что агент сделал работу хорошо. 🧠 Правильно поставленный промт и задача дают агенту свободу, в которой он раздвигает вашу оптику и подсвечивает слепые зоны:

🎯 Промт, чтобы увидеть то, что не видно Используя Risk Assumption Test, фальсифицируй и опровергни мой роадмеп, план и приоритеты, чтобы у нас не было гепов между обещаниями и поставкой, чтобы мы не брали WIP (Work In Progress) больше, чем наша мощность, capacity. Покажи, каких компетенций и навыков может не хватить моей команде при реализации этого плана. Найди на гитхабе лучших агентов и скилы, чтобы усилить наши слабые компетенции в команде и учесть то, что мы не видим. Я хочу увидеть всё то, что я не вижу: гепы и разрывы, которые или сделают план очень рисковым, или долгим, или не выведут к цели. Чтобы упростить план, решая задачу с конца по методу прогрессивного JPEG'а, через маленькие релизы, каждый из которых позволяет получить обратную связь, провести демо и понять, что мы не учли.

✨ Также делюсь с вами своим скилом фальсификации. Пробуйте, пользуйтесь, давайте обратную связь. Пишите, что думаете, что получилось, что не получилось. 💬