оптимизацияСбросить фильтр ×

Влияние 2-битной квантизации на поведение reasoning-моделей

К@quant_prune_distillAI-инженер
3 мес

Как экономить токены в Claude Code

Б@blognotAI-инженер
3 мес
Давно не писал в блог всякие статьи про Claude Code, но тут мне начали задавать вопросы "Как экономить токены?" и оказалось, что очень простые советы более чем актуальны. https://blognot.co/kak-eekonomit-tokeny-v-claude-code/

Оптимизация Wan 2.2 I2V: использование одного эксперта и FP4

Н@GreenNeuralRobotsAI-инженер
3 мес
Wan 2.2 I2V: One Expert, FP4, on a Single RTX 5090 Как вы помните, видеогенератор WAN 2.2 состоит из двух экспертов: low noise и high noise. Так вот, TheStage AI взяли low noise и дообучили ему лору на high noise. Получилось: 1 модель + лора Ну и сверху еще навалили ускорений: NVFP4 + FP4 attention На сайте два автора подписались - судя по фамилиям русские Первое видео - обычный low noise Второе - low noise с лорой HF ComfyUI #wan22 #optimization #nvfp4 #fp4 #lora

Выход обновления PiD v1.5 для диффузных моделей

Н@GreenNeuralRobotsAI-инженер
3 мес
PiD v1.5 Новая версия плаг энд плей декодера для диффузных картинкогенераторов от Nvidia В версии PiD v1.5 появились следующие улучшения: • улучшена точность передачи цветов • устранены артефакты в углах изображений • повышено качество деталей аниме и лиц На этот раз прикручено к Qwen-Image, FLUX.2, Z-Image, FLUX.1, Qwen-Image 2512 #t2i #optimization #qwenimage #flux2 #flux #qi2512

Cursor оптимизировала работу агентов, снизив стоимость в 8 раз

N@v_neuroAI-инженер
3 мес
📱 Cursor удешевила рой агентов в 8 раз Несколько моделей вместе переписали SQLite с нуля по документации. Результат один и тот же, а цена то 1339 $, то 10565 $. Что цепляет: ✧ Старый рой - 70К конфликтов слияния, а новый - меньше 1К ✧ Дорогая модель нужна только для планирования, дешёвая тянет 90% работы ✧ Код выложили в открытый доступ на GitHub Экономия в чёткой постановке задачи для дешёвой модели. 🔗 Как рой сам чинит свои конфликты и почему скачет цена #cursor Читайте нас в MAX

Избыточность мобильных приложений для простых задач

Х@habr_comмедиа / агрегатор
3 мес

Критика производительности нативного приложения Погода на macOS

К@ilyabirman_channelмедиа / агрегатор
3 мес
Снял вам кино, как запускается нативное приложеие погоды на Маке. Чисто чтобы увековечить это позорище. Не представляю, чтобы я такое дерьмо выпустил. А Эплу нормально.

Разработчик опубликовал Claudexor — открытый инструмент для объединения Claude Code, Codex и Cursor

Автор (публикуется одинаково в каналах AbstractDL и Love. Death. Transformers., 20 июля 2026) выложил в открытый доступ Claudexor — харнесс-агностикi CLI, приложение, набор плагинов и MCPi-сервер, который объединяет в одном инструменте Claude Code, Codex и Cursor. Можно подключать произвольное число харнессов и подписок, а система сама распределяет между ними нагрузку.

Главная идея — использовать все харнессы одновременно, а не переключаться между ними вручную, когда у одного из агентов заканчиваются лимиты. За счёт объединения нескольких подписок Claude Code, Codex и Cursor автор снизил свои расходы на токены с $15k до $1200 в месяц.

$15kпрежние расходы на токены в месяц
$1200новые расходы после объединения подписок
триподписки Claude Code, Codex и Cursor у автора

Полный разбор →

Использование FP4 квантования в продакшене

L@lovedeathtransformersAI-инженер
3 мес
Годный блогпостик про использование FP4 квантизации в проде от провайдера Spheron. В частности, оценивается стоимость инференса при аренде конкретной GPU с учетом максимально достижимого throughput при использовании данного типа данных, а также вопросы качества и доступности в инференсных фреймворках.

Алгоритм имитации отжига: теория и реализация

T@kryak_startupAI-инженер
3 мес
https://algorithmica.org/ru/annealing - оу, алгоритмы и структуры данных Кормен наконец пригодились

ИТ-холдинг Т1 планирует сократить расходы на 5,6 млрд рублей

v@vcnewsмедиа / агрегатор
3 мес
ИТ-холдинг Т1 запланировал провести «оптимизацию» на фоне снижения финансовых результатов, узнали «Ведомости». Компания собирается сократить расходы на «бэк-офис» на 5,6 млрд рублей. Часть функций сотрудников могут передать ИИ. Кого именно затронет «оптимизация», неясно. Речь может идти о подразделениях, не зарабатывающих напрямую — в ИТ-компаниях это обычно юристы, бухгалтерия, хозяйственные службы и администрация, отмечают эксперты vc.ru/money/3035739

Скилл i-have-adhd для оптимизации ответов ИИ

️@neyroseti_drAI-инженер
3 мес
Привет, друзья! Превращаем агентов в удобных для людей с СДВГ: вышел скилл i-have-adhd для Claude Code и Codex, который убирает из ответов ИИ всю воду и заставляет писать строго по существу Со скиллом модель перестанет растекаться мыслью и уходить в сторону от вопроса. Списки будут содержать максимум пять пунктов, а в финале ответа — только один следующий шаг. Пригодится и тем, у кого СДВГ нет #claude Нейросети: Волшебство ИИ

Вышел релиз DXVK 3.0.2

P@prohitecавтор про «tech»
3 мес
Вышла DXVK 3.0.2 с улучшениями для запуска Windows-игр на Linux В DXVK 3.0.2 улучшена производительность в ряде игр, включая Dying Light: The Beast, Overwatch, Halo CE и Splinter Cell: Chaos Theory. Также в релизе улучшены инструменты для отладки, которые теперь позволят получать расширенные логи при определенных ошибках в играх, чтобы проще и быстрее можно было вносить точечные исправления.

Оптимизация компактных моделей через доменное обучение и дистилляцию от Li Auto

3 мес

ICML 2026 в Сеуле: диффузионные модели, агентский харнесс и скандал с рецензентами-нарушителями

AI-редакция
2 источника · показать все· свернуть
собирается · 2обновлено 3 мес назад

В Сеуле прошла International Conference on Machine Learning (ICML) — одна из главных мировых конференций по машинному обучению. Команда Яндекса представила восемь статей и получила награду за лучшую статью на воркшопе Graph Foundation Models: A New Era for Graph Machine Learning. Руководитель отдела разработки ИИ-сервисов Яндекса Сергей Юдин рассказал о двух главных тенденциях конференции: сближении теории и практики в ИИ и быстром развитии агентских систем вместе с проблемами их надёжности и безопасности.

Главная интрига события — организаторы встроили в PDF-файлы статей скрытые промпт-инъекции, чтобы выявить рецензентов, которые нарушали запрет на использование LLM при оценке работ. Проверка вскрыла массовое нарушение правил и привела к отклонению почти 500 статей, связанных с нарушителями.

ВыводДве работы получили ICML 2026 Outstanding Paper Award, обе связаны с диффузионными моделями, одна — с dLLM (диффузионными языковыми моделями), способными параллельно генерировать несколько токенов на одном шаге и заметно сокращать время генерации.

8статей Яндекса на ICML
795рецензий с нарушением правил
497отклонённых статей

Полный разбор →

Анализ экономической эффективности модели Kimi

e@cryptoEssayAI-инженер
3 мес

Тренд на токен-минимизацию: как корпорации сокращают расходы на ИИ

М@mspiridonovмедиа / агрегатор
3 мес

Китайские разработчики ускорили нейросети в 149 раз

3@ru3dnewsмедиа / агрегатор
3 мес
Чудеса оптимизации: китайцы в 149 раз ускорили работу нейросетей без повышения производительности чипов Сейчас все гонятся за ИИ любой ценой, и в такой спешке про оптимизацию обычно забывают. Вспоминают о ней только тогда, когда железо, энергия и деньги начинают заканчиваться. Санкции США как раз загнали китайских разработчиков в такой ресурсный тупик. У них теперь нет выбора — приходится выжимать максимум из того, что есть. И вот тут оптимизация может превратиться не в проблему, а в точку настоящего технологического рывка. #нейросети #оптимизация #китайскиетехнологии 📎Подробнее 🔖 3DNews в TG | MAX | VK

Создатель Redis: проверять код, написанный AI, больше почти не имеет смысла

Сальваторе Санфилиппо (antirezi), создатель Redis и 20+ лет пишущий код руками, опубликовал статью на antirez.com/news/169, где заявил: построчная проверка AI-кода теряет смысл — AI генерирует тысячи строк в день, и человек физически не успевает всё вычитать. Вместо этого роль разработчика должна сместиться к тому, что antirez называет «контролировать идеи»: понимать архитектуру продукта, задавать AI вопросы вроде «объясни, как работает эта часть?» и тщательно тестировать результат, а не вычитывать каждую строку.

Это принципиально отличается от «вайб-кодингiа» (просто попросить AI сделать приложение и надеяться на лучшее) — нужно глубоко понимать замысел. Санфилиппо продолжает лично проверять код Redis, но признаёт: современные модели находят больше ошибок, чем он сам, и делает это лишь из уважения к людям, которые будут открывать эти файлы руками.

20+ летстаж ручного написания кода antirez
6 разразница в скорости ассемблера у эквивалентного кода

Полный разбор →

Почему документация кода избыточна при работе с LLM

С@svyatamestoAI-инженер
3 мес

RTK: CLI-прокси для оптимизации потребления токенов LLM

Н@GreenNeuralRobotsAI-инженер
3 мес
RTK (Rust Token Killer) CLI-прокси для существенного сокращения потребления токенов LLM при работе с командами разработки. Работает как единый бинарный файл на Rust без внешних зависимостей. • Сокращает потребление токенов на 60-90% для типовых команд разработки • Фильтрует и сжимает вывод команд перед отправкой в LLM • Поддерживает более 100 команд разработки • Задержка менее 10мс • Работает с Claude, Copilot, Gemini и другими ИИ-инструментами Экономия на типовых операциях: • ls/tree 80% • cat/read 70% • grep/rg 80% • git status 80% • git diff 75% • тесты и линтеры до 90% #optimization #coding

Гайд по исправлению графических багов в Black Flag Resynced

Б@vskobelevгеймдев
3 мес

Colibri: инструмент для запуска гигантской GLM-5.2 (744B) на домашнем ПК без видеокарты

Появилась тулза Colibrii, которая позволяет запускать модель GLM-5.2i с 744 миллиардами параметров на обычном домашнем компьютере — без GPU и всего с 21–25 ГБ оперативной памяти. Секрет в том, что модель (370 ГБ на диске) не грузится в RAM целиком: нужные блоки-«эксперты» подгружаются с SSD по мере необходимости и затем освобождаются.

Это не про скорость, а про сам факт возможности — гонять LLM топового масштаба «на картошке». Расплата за это — крайне низкая производительность, единицы или доли токена в секунду.

744Bпараметров у GLM-5.2
370 ГБразмер модели на диске
21-25 ГБтребуемая оперативная память

Полный разбор →

Результаты внедрения архитектуры CoALA и оптимизации маршрутизации LLM

T@kryak_startupAI-инженер
3 мес
Ещё ↓