OpenAI официально анонсировала Jalapeño — свой первый специализированный чип, разработанный для ускорения инференсiа (запуска) нейросетей. Устройство создавалось в партнерстве с Broadcom при активном участии собственных ИИ-моделей компании, что позволило сократить цикл разработки от дизайна до производства до 9 месяцев.

Чип демонстрирует значительное превосходство над актуальными ускорителями NVIDIA (GB200/GB300) по энергоэффективности и скорости отклика. Развертывание Jalapeño в дата-центрах OpenAI начнется до конца 2026 года, при этом компания продолжает использовать решения NVIDIA и уже ведет разработку второго и третьего поколений собственного «железа».

Полный разбор →

Apple представила новую версию Mac minii на процессоре M6i, назвав её усовершенствованием «лучшего компактного компьютера». Однако владельцы предыдущей модели отмечают, что реального повода для апгрейда нет: несмотря на новый чип, объём оперативной памяти в базовой конфигурации остался таким же, как у Mac mini M4.

Для задач локального инференсiа нейросетей это критично — производительность процессора упирается в потолок памяти: модель либо помещается в неё целиком, либо не работает вовсе, независимо от мощности чипа.

Полный разбор →

Nvidia объявила на конференции Hot Chips 2026 о начале серийного производства Groq 3 LPXi — специализированного ускорителя для инференса (вывода) ИИ-моделей, который дополняет флагманскую платформу Vera Rubini. Чип создан на основе технологий стартапа Groq, лицензированных Nvidia за $20 млрд.

Первым клиентом новинки стал неоклауд Nebius Аркадия Воложа, а флагманским заказчиком всей платформы Vera Rubin Nvidia назвала SpaceX. Это важно, потому что показывает, как Nvidia усиливает свои позиции в инференсе — быстрорастущем сегменте рынка, где раньше конкурировали специализированные стартапы вроде Groq и Cerebras.

Полный разбор →

Вышло второе поколение DFlash — техники спекулятивного декодирования для ускорения инференса больших языковых моделей. Первое поколение DFlash уже стало отраслевым стандартом, набрав 3,5 млн загрузок на Hugging Face. Суть подхода: маленькая модель быстро предсказывает кусок текста, а большая проверяет его одним проходом вместо того, чтобы генерировать по слову — итоговый текст полностью идентичен оригиналу, но выдаётся быстрее.

На практике это уже проверили с моделью Qwen3.8-27B: на ноутбуке она выдаёт 70 токенов/с вместо обычных ~15–20, а ускорение достигает 2.7–4.6 раз в зависимости от модели и настроек.

Полный разбор →

Исследователи из FlashML (Berkeley) представили FreeToken — систему для эффективного локального инференсiа больших MoE-моделей (Mixture of Experts) на потребительском железе. Проект позволяет запускать модели от 35B до 753B параметров на устройствах от ноутбуков до рабочих станций.

Ключевое преимущество системы заключается в динамическом распределении вычислений между GPU, CPU и RAM без фиксированной схемы выгрузки. Это позволяет оптимизировать работу с памятью и пропускной способностью шины PCIe, обеспечивая высокую скорость генерации токенов и минимальное время до первого токена (TTFTi) в агентных сценариях.

Полный разбор →

The Information со ссылкой на двух сотрудников Nvidia сообщила, что компания готовит для Китая специальный чип для инференса — не GPU семейства Blackwell или Hopper, а LPUi (Language Processing Unit), созданный на основе лицензированных технологий Groqi. Поставки должны начаться уже к концу 2026 года, несколько китайских клиентов уже разместили предзаказы.

Однако сама Nvidia опровергла эту информацию: представители компании заявили изданию Tom's Hardware, что у них нет специальных адаптаций LPU для Китая и подобных решений нет в планах. Таким образом источники расходятся в оценке того, существует ли проект в реальности.

Полный разбор →