Крипто-карты Nvidia CMP HX170 получили вторую жизнь в инференсе
э@ai_newzAI-инженер
1 недМайнинговые карты Nvidia CMP HX170 взломаны: программные ограничения памяти и вычислений сняты, превращая их в бюджетные аналоги A100 для ИИ.
Это позволяет энтузиастам и небольшим проектам запускать нейросети на дешевом «железе», которое раньше считалось бесполезным.
- Майнинговые карты Nvidia CMP HX170 теперь могут использоваться для задач искусственного интеллекта.
- Программный взлом позволяет разблокировать скрытый объем памяти и вычислительные возможности чипов.
- Это создает альтернативу дорогостоящим профессиональным ускорителям для обучения и запуска моделей.
Крипто карты от Nvidia начали использовать для инференса
Ещё в 2021 году Nvidia наклепала для майнинга гору очень сильно урезанных карт CMP HX170, на основе чипа от А100. Номинально у них было по 8 или по 10 гигабайт и урезанные в 32 раза вычислительные мощности, но при этом полная пропускная способность памяти, которая и нужна для майнинга. После того как Ethereum перешёл на proof of stake алгоритм, все они превратились тыкву.
Так бы они и оставились тыквами, но в конце июня появился пейпер, в котором описывалось снятие части ограничений через уязвимость в новых драйверах Nvidia. Кода авторы не опубликовали, но через несколько недель уязвимость удалось независимо реплицировать, так появился cmpunlocker.
Карты на 10 гигабайт стали картами на 40(или даже 80) гигов, а карты на 8 гигов — картами на 64 гига. Дело в том, что убрать HBM чипы без урезания пропускной способности было нельзя, так что Nvidia просто заблокировали 80% памяти через софт. Хакерам удалось ещё и убрать ограничение на вычисления. Главная оставшаяся проблема — PCIe ограничен версией 2.0 и физически только x4, но ребята с паяльниками уже пытаются это починить.
В итоге, счастливчики, которые смогли купить карту до роста цен, за 100-200 долларов, получили уже чуть менее урезанную А100 за очень дёшево, особенно с учётом текущего кризиса. А сейчас цена выросла и за цену в 5-10 раз выше брать их уже вряд-ли стоит.
А есть ли владельцы таких карт среди подписчиков канала? Как впечатления?
cmpunlocker
@ai_newz
Кратко (AI)
Благодаря уязвимости в драйверах Nvidia, энтузиасты смогли снять программные ограничения с майнинговых карт CMP HX170. Это позволило разблокировать полный объем памяти и вычислительные мощности, превратив дешевые карты в доступные инструменты для инференса нейросетей.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖