vramСбросить фильтр ×

WanGP v17.00: оптимизация видеогенерации

Н@GreenNeuralRobotsAI-инженер
3 нед
WanGP v17.00 обновление #lowvram видеогенерации с движком MMGP v4 — заметная экономия VRAM и прирост скорости • 15 сек #minimaxH3 видео в 1080p: было 25 ГБ VRAM, стало 11 ГБ • 480p — 15 секунд влезает в 5-6 ГБ VRAM • Profile 4: до +25% скорости и до -50% VRAM на больших роликах • Profile 5 (фолбэк) стал до 50% быстрее • Новая вкладка Config → RAM/VRAM Management: MMGP Optimized Allocator и Smart Memory Pinning Дополнительно • Attention Head Split (Medium) — ещt -20% VRAM ценой до 10% скорости • Dynamic VRAM Preload — заполняет свободную память весами • Два новых апскейлера: LTX-2.5 Detail Refiner x2 и H3 VAE Upsampler x2 MAX

Intel обновила Linux-драйвер Xe с функцией изоляции сбойных участков VRAM

P@prohitecавтор про «tech»
1 мес
Intel обновила Linux-драйвер Xe с функцией изоляции сбойных участков VRAM

Qwen 3.8 Flash Next: модель на 125 млрд параметров запускают на 6 ГБ VRAM, но независимые тесты показывают разочаровывающий результат

AI-редакция
3 источника · показать все· свернуть
разгоняется · 3обновлено 1 мес назад

Alibaba выпустила Qwen 3.8 Flash Next — MoEi-модель на 125 млрд параметров с необычным механизмом n-gram embedding-таблицi, которые можно выгружать на диск или в оперативную память. Благодаря этому модель удалось запустить на обычной RTX 4090 с пиковым расходом всего 5,95 ГБ VRAMi — без квантизации и дистилляции, притом полный checkpoint, а не урезанная демо-версия.

Однако независимое тестирование показало противоречивую картину: блогер Галера Морева после 4 часов проверки не увидел разницы в интеллекте между Qwen 3.8 Flash Next и плотной моделью Qwen 3.8, при этом ресурсные требования у Flash Next оказались куда выше. По его словам, тест на роль «ассистента» модель не прошла.

125 млрдпараметров модели
5,95 ГБпиковый расход VRAM на RTX 4090
360 ГБразмер полного checkpoint в bf16

Полный разбор →

Ожидается сокращение поставок видеокарт и рост цен во втором полугодии

Р@remediaгеймдев
1 мес
⭐️Поставки видеокарт во второй половине года могут сократиться минимум на 20% (!) — китайские производители уже готовят очередное повышение цен. Сильнее всего дорожают доступные модели вроде RTX 5050, а также вернувшиеся в продажу RTX 3060. Причина: производители памяти и чипов всё больше ресурсов отдают под ИИ-системы, из-за чего обычным видеокартам достаётся меньше комплектующих. Плюс дорожает VRAM, и её стоимость уже перекладывают на покупателей. 😒😒😒
Ожидается сокращение поставок видеокарт и рост цен во втором полугодии

NVIDIA разрабатывает технологию расширения видеопамяти через SSD

Н@GreenNeuralRobotsAI-инженер
2 мес
По слухам, NVIDIA разрабатывает технологию использования SSD в качестве расширения видеопамяти. Это позволит запускать крупные нейросети на босяцких GPU Данные, не помещающиеся в основную GDDR7-память, будут храниться на SSD и подгружаться по требованию. Технология будет работать в связке с DirectStorage и RTX IO Энтузиасты уже создали подобный проект GreenBoost (на гитлабе адская процедура регистрации, я не осилил), который позволяет расширить память GPU за счёт SSD и RAM. Система автоматически распределяет данные: горячие слои остаются в VRAM, менее важные — в RAM, а самые редко используемые — на накопителе. #lowvram #gpu #news
NVIDIA разрабатывает технологию расширения видеопамяти через SSD

Снижение стоимости 32 ГБ VRAM до 73 евро

М@cgeventAI-инженер
2 мес
73 евро за 32 гига VRAM Понятно, что непонятно, что и как запустицца. Но я щас о том, что 4 года назад нужно было почку продать, чтобы купить такую шнягу - 19 200$. А нынче 73 евро. https://a.aliexpress.com/_EyP4l70 @cgevent
Снижение стоимости 32 ГБ VRAM до 73 евро

HWiNFO добавит мониторинг температуры каждого чипа VRAM

P@prohitecавтор про «tech»
2 мес
HWiNFO добавит мониторинг температуры каждого чипа VRAM

SteamOS 3.8.20: улучшенное управление видеопамятью

P@prohitecавтор про «tech»
3 мес
SteamOS получила более эффективное управление видеопамятью Valve выпустила бета-версию SteamOS 3.8.20 с одним из самых заметных изменений последних месяцев — значительно улучшено управление видеопамятью. Обновление должно уменьшить падение производительности и подтормаживания в играх при высокой загрузке VRAM, особенно на системах с дискретной графикой. Кроме того, SteamOS получила новую версию графического стека Mesa с улучшениями производительности трассировки лучей и другими оптимизациями.

Это всё на сейчас.