оптимизацияСбросить фильтр ×

Обновление ИИ-оркестратора и оптимизация SOTA-паттернов

T@kryak_startupAI-инженер
3 мес

Fable Advisor: агентный подход к разработке через разделение ролей моделей

Р@researchoshnayaAI-инженер
3 мес

Совет по оптимизации базы автотестов

A@qachanellавтор про «it»
3 мес
Совет от тестировщика 40/∞ : Удаляйте мусор Не привязывайтесь к старым проверкам. Регулярно удаляйте неактуальные тесты, которые дублируются или проверяют фичи, отключенные год назад. Чистая база тестов это залог быстрого регресса. Не копите хлам.

Новая команда /checkup в Claude Code для оптимизации ИИ-агентов

N@notboring_techAI-инженер
3 мес
💣 Создатель Claude Code Борис Чёрный рассказал, что запустил новую команду для оптимизации ваших ИИ-агентов — /checkup. Что делает новая фича: → Удаляет неиспользуемые скиллы, плагины и MCP-серверы, чтобы сэкономить контекст; → Убирает бесполезные дубликаты в инструкциях CLAUDE.md для агентов; → Отключает медленные хуки и правит иерархию в файлах; → Разрешает агентам безопасные команды без подтверждения каждый раз; → Включает авто-режим по умолчанию, обновляет Claude Code до последней версии и многое другое. На скрине — то, как выглядит типичный чекап в Claude Code. Сохраняем, чтобы не потерять. @notboring_tech

Подход к архитектуре задач и самообучению

T@kryak_startupAI-инженер
3 мес
понял что любая задача должна начинаться с графово/векторной архитектуры с документацией + помещаю/обновляю кэш perplexity, чтобы быстрее искать новые оптимизации/SOTA. Иду теперь немного другим путем для эволюции / самообучения + смотрю на новые тренды

Создатель Bun переписал его с Zig на Rust силами AI-агентов за 11 дней

Jarred Sumner, создатель и ключевой мейнтейнер JS-инструмента Buni, полностью переписал кодовую базу с языка Zigi на Rust с помощью Claude Code и модели Fable 5i. Работа заняла 11 дней и стоила $165 тысяч по API-ценам — по оценке Sumner, вручную три инженера, хорошо знающих код Bun, потратили бы на это около года.

История показывает, что AI-агенты уже способны выполнять масштабные низкоуровневые переписывания архитектуры целых проектов, а не только веб-разработку. Это ставит под вопрос будущее нишевых языков без сильной экосистемы: Zig, судя по всему, будет заменён в Bun на Rust окончательно.

$165 000стоимость токенов на переезд Bun
11 днейсрок переписывания Bun на Rust
4 разаускорение WriteInt в MessagePack

Полный разбор →

Почему Flash Attention не ускоряет обработку промптов

T@extremecodeAI-инженер
3 мес
Эксперты из каментов, обьясните, какого фига flash attention нифига не убыстряет промпт процессинг. Или это работает только на экстремальных контекстах под лям токенов? Или я чето неправильно понял. Помогите выкупить, я не выкупаю 😤

Теорема о тормозах: почему медленный софт — это ошибка разработчика

К@ilyabirman_channelмедиа / агрегатор
3 мес

Исследование: чистота кода не влияет на успех ИИ-агентов, но заметно экономит токены

Новое исследование (arXiv 2605.20049, «Does code cleanliness affect coding agents? A controlled minimal-pair studyi») проверило, влияет ли качество кода на работу ИИ-кодинг-агентов. Для этого взяли 6 пар репозиториев — «чистую» версию в духе Роберта Мартина и «спагетти»-версию — и прогнали на них 33 задачи сотнями запусков Claude Codei на модели Sonnet 4.6i.

Главный вывод: сама успешность решения задач агентом от чистоты кода почти не зависит. Но чистый код заметно снижает «блуждания» агента и расход токенов — модели приходится меньше рассуждать, реже перечитывать уже открытые файлы и в итоге тратить меньше токенов на ту же задачу.

ВыводМетодология: минимальные пары репозиториев (чистый код vs «спагетти-код» от уволившегося коллеги), 6 пар, 33 задачи, сотни прогонов

7–8%меньше токенов на чистом коде
34%реже возврат к отредактированным файлам
33задачи в исследовании

Полный разбор →

Эволюция алгоритмов FlashAttention: от Hopper до Blackwell

D@deep_schoolAI-инженер
3 мес

Новый метод спекулятивного декодинга обгоняет DFlash на 24.7%

Команда опубликовала на архиве (arXiv) первый релиз своей разработки — метод спекулятивного декодинга для ускорения инференса языковых моделей. Заявлено ускорение в 4.37 раза по сравнению с обычным автогрессивным декодированием и превосходство над оптимизированным бейзлайном DFlashi на 24.7%.

Авторы называют результат state-of-the-art (SOTA), по крайней мере на модели Qwen3.6 — метод превосходит всё, что публично известно в этой области, включая DFlash. Тема значима для быстрого инференса на устройстве (on-device inference).

4.37-foldускорение декодирования
24.7%превосходство над DFlash

Полный разбор →

Оптимизация SwarmOS и фрактальных MAS на основе принципов Генри Форда

T@kryak_startupAI-инженер
3 мес

Stage.AI сжала Gemma-4 Edge в 6,4 раза

AI-редакция
3 источника · показать все· свернуть
разгоняется · 3обновлено 3 мес назад

Команда Stage.AI опубликовала блогпост о сжатии edge-моделей Gemma-4i почти в 6,4 раза при умеренной потере качества. Заявленная цель материала — 7-кратное уменьшение размера моделей для работы на устройствах с ограниченными ресурсами.

Ценность работы не в новом методе, а в комбинации: авторы соединили классические и свежие техники сжатия, чтобы найти лучший баланс между размером модели и качеством ответов.

6,4 разафактическая степень сжатия модели
7xзаявленная в заголовке кратность сжатия

Полный разбор →

Методы эффективного сжатия LLM для запуска на мобильных устройствах

К@quant_prune_distillAI-инженер
3 мес

«Яндекс Маркет» пересматривает структуру команд

v@vcnewsмедиа / агрегатор
3 мес
«Яндекс Маркет» на встрече с сотрудниками сообщил о планах сократить штат и бюджет, рассказал источник РБК. В компании отвергли информацию о сокращении штата, но отметили, что «пересматривают структуру команд, чтобы сосредоточить ресурсы на ключевых проектах» vc.ru/marketplace/3016901

pxpipe: как перевод контекста в PNG экономит до 70% токенов Fable 5

Разработчики нашли способ обойти дорогую текстовую тарификацию нейросети Fable 5 (Claude) от Anthropic: утилита pxpipei кодирует объёмный контекст — системные промпты, документацию инструментов и историю переписки — в PNG-картинки перед отправкой в Claude Code. Изображения тарифицируются по количеству пикселей, а не по числу символов, поэтому длинный контекст обходится заметно дешевле.

В тестах стоимость сессии упала с $42 до $6 — то есть в 7 раз, а по расчётам одного из авторов экономия составляет 59–70%. Fable 5 при этом почти без потерь распознаёт текст на картинках, но у других моделей (Opus 4.7, 4.8, GPT 5.5) метод даёт заметный процент ошибок.

59–70%снижение стоимости запроса к Fable 5
$42 → $6падение стоимости тестовой сессии
≈7%доля ошибок Opus 4.7/4.8 на картиночном контексте

Полный разбор →

Принцип нагрузки: почему системы работают на пределе возможностей

Д@evidencebasedmanмедиа / агрегатор
3 мес

Обзор ключевых докладов конференции ICML 2026 в Сеуле

Д@stuffyNLPAI-инженер
3 мес

Looper: инструмент для предотвращения бесконечных циклов ИИ-агентов

C@cyberyozh_officialAI-инженер
3 мес

OrbitQuant: метод калибровки без данных для квантования диффузионных моделей

Н@GreenNeuralRobotsAI-инженер
3 мес
OrbitQuant метод калибровки без данных (calibration‑free) для посттренировочной квантизации (PTQ) диффузионных генераторов изображений и видео • новая #SOTA на FLUX.1, Wan 2.1 и CogVideoX при W4A4 (4 бита для весов, 4 бита для активаций) • рабочие изображения на W2A4, где старые методы ломаются Код / веса не выложили пока #optimization #t2i #t2v #flux #wan21 #zimage

Плагин Caveman заставляет ИИ-агентов говорить «как пещерный человек» для экономии токенов — но независимая проверка нашла экономию в разы меньше заявленной

Разработчик Джулиус Брюсси (Julius Brussee) выложил на GitHub плагин Cavemani, который переписывает системные промпты Claude Code, Codex, Gemini и 30+ других ИИ-агентов так, чтобы модель отвечала телеграфным стилем без вежливости, приветствий и «воды» — например: «Баг найти. Исправить. Хороший код». Автор заявляет экономию до 65-75% токенов при сохранении технического смысла, и плагином, по данным источников, пользуются сотрудники Nvidia, GitHub и даже OpenAI.

Историю подхватило 404 Media, а независимые проверки дали противоречивые результаты: если 404 Media получили около 65% экономии, то оценка от JetBrains (проведённая автором канала Denis Sexy IT) показала лишь 8% — то есть заявленные цифры могут быть сильно преувеличены.

65-75%заявленная автором экономия токенов
8%реальная экономия по оценке JetBrains
80кзвёзд репозитория на GitHub

Полный разбор →

Результаты для рекурсивных MAS

T@kryak_startupAI-инженер
3 мес
вот результаты для рекурсивных MAS. Так как там оптимизации не только на отдельных агентов нужны, но и вся прослойка для ройя, кеширования всякие для AI API/CLI etc, много мест где можно еще экономить / ускорять. +1 уровень абстрации появился в виде рекурсивных роев (MAS). Поставьте какой-то emoji / смайл - если хотите чтобы архитектуру/blueprint/картинок накидал на эту тему понятных

Оптимизация Windows 11: удаление телеметрии и ИИ-функций

U@uxliveмедиа / агрегатор
3 мес
Ещё ↓