OpenAI открыла всем разработчикам Decisions APIi — интерфейс на базе GPT-6 Luna для быстрых и недорогих решений с ограниченным форматом ответа. Он может выбрать вариант из списка, выдать вероятность или оценку; по заявлению компании, в таких задачах работает до десяти раз быстрее обращения к той же модели через Responses APIi.

API принимает текст, изображения и структурированные данные и позволяет отправить до 400 вопросов за запрос. Это может ускорить микрорешения в агентных процессах — например, сортировку документов, проверку снимков товаров или передачу звонка оператору.

Полный разбор →

HardenedVault выпустила SonicBoom — среду исполнения для локального запуска языковых моделей на потребительских процессорах и видеокартах. Движок написан на C++ и CUDA, не требует Python ни для работы, ни для сборки и предоставляет локальный сервер с API OpenAI.

В первых тестах на RTX 3050 SonicBoom быстрее llama.cpp на двух моделях при коротком контексте, но преимущество почти исчезает на глубине 512 токенов. Сторонний замер на RTX 4060 Ti показал результат ниже llama.cpp; сборка не была настроена под эту видеокарту.

Полный разбор →

20 октября DeepSeek опубликовала DeepInfer — движок, на котором запускает DeepSeek-V4.1-Flash в продакшене. Под лицензией Apache 2.0 его могут использовать другие разработчики и провайдеры; цель — ускорить генерацию и снизить вычислительные затраты.

Релиз раскрывает часть инфраструктуры DeepSeek, но пока не представляет готовую замену полноценной системе обслуживания моделей: поддерживаются одна модель и ограниченный набор ускорителей, а некоторые компоненты масштабирования отсутствуют.

Полный разбор →

По данным Bloomberg и FT, валовая маржа Anthropic в третьем квартале составила около 85%; другой источник оценивает её как более 80%. Однако этот показатель учитывает обслуживание запросов клиентов, но не обучение новых моделей и не долю облачных партнёров, поэтому сам по себе не отражает полную экономику бизнеса.

Компания получает около $100В годовой выручки при мощностях в 5 гигаватт, но, по данным одного из источников, лишь 25% ресурсов уходит на обслуживание клиентов, а остальные 75% — на обучение моделей и технические эксперименты. Это ставит высокую маржу в контекст значительных затрат на инфраструктуру и разработку.

Полный разбор →

В новой работе предложен метод сжатия нейросетей, который обучает ортогональные проекции на важные для целевой задачи подпространства. В отличие от подходов, опирающихся на приближение весов или прокси-метрики, метод напрямую оптимизирует разложение и распределяет ранги между слоями по расхождению с исходной моделью.

Авторы сообщают о результатах на OPT, Llama-2, Qwen3 и ViT: при сжатии до 50–70% качество оказалось лучше, чем у рассмотренных бейзлайнов, а ускорение инференса достигало 1,5×. При этом источник отмечает, что заметное ускорение всё ещё может сопровождаться серьёзным снижением качества.

ВыводДля слоя обучают ортогональную матрицу U; проектор задаётся как I − U Uᵀ.

Полный разбор →

Фонд a16zi в отчёте State of Markets опубликовал график: AI-агенты сейчас потребляют в 5 раз больше токенов, чем люди, и этот разрыв сформировался всего за полгода — ещё в феврале 2026 года люди тратили токенов больше, чем агенты. Первоисточник данных — Питер Волкер из OpenRouteri, шлюза, связывающего разработчиков с поставщиками моделей.

Цифра выглядит эффектно, но канал «Дизраптор» указывает на серьёзные ограничения: OpenRouter — это лишь около 1% мирового инференса, работает в основном с опенсорсными моделями, и данные не включают API Claude, ChatGPT и других проприетарных систем. К тому же сравнивались не люди и агенты в буквальном смысле, а автономные циклы задач против диалоговых запросов — если человек запускает из чат-бота масштабную агентную задачу, она засчитывается как «человеческие» токены.

ВыводЗа полгода потребление токенов у людей выросло почти в 3 раза, а у AI-агентов — в 14 раз

Полный разбор →

Intel анонсировала ускоритель D270, предназначенный исключительно для инференса ИИ-моделей, а не для игр. Из чипа физически убрали блоки 3D-рендеринга и трассировки лучей, отдав освободившуяся площадь под вычислительные ресурсы.

Карта построена на архитектуре Xe3Pi (кодовое имя проекта — Crescent Island), выдаёт до 1,3 Пфлопс в FP8i и поддерживает до 480 Гбайт памяти LPDDR5X, что делает её рассчитанной на модели от сотен миллиардов до триллиона с лишним параметров.

Полный разбор →

Microsoft анонсировала Maia 300iа)">i — третье поколение собственного чипа для инференса ИИ (использования уже обученной модели для решения задач). С 2027 года компания планирует масштабировать семейство Maia до развёртываний на несколько гигаватт и сделать его основной платформой инференса для своих сервисов вроде Teams и Copilot, снижая зависимость от процессоров Nvidia и AMD.

Главная метрика для Microsoft теперь — не пиковые терафлопсы, а токены на ваттi: от неё напрямую зависит себестоимость каждого ответа Copilot. По заявлению компании, Maia 300 выдаёт на 40% больше токенов на ватт, чем ведущие GPU-решения конкурентов при той же мощности. Это повторяет путь, пройденный ранее Google с чипами TPU и Amazon с Trainium.

Полный разбор →