← к ленте

Крипто-карты Nvidia CMP HX170 получили вторую жизнь в инференсе

э@ai_newzAI-инженер
1 нед

Майнинговые карты Nvidia CMP HX170 взломаны: программные ограничения памяти и вычислений сняты, превращая их в бюджетные аналоги A100 для ИИ.

Это позволяет энтузиастам и небольшим проектам запускать нейросети на дешевом «железе», которое раньше считалось бесполезным.

  • Майнинговые карты Nvidia CMP HX170 теперь могут использоваться для задач искусственного интеллекта.
  • Программный взлом позволяет разблокировать скрытый объем памяти и вычислительные возможности чипов.
  • Это создает альтернативу дорогостоящим профессиональным ускорителям для обучения и запуска моделей.
Крипто карты от Nvidia начали использовать для инференса Ещё в 2021 году Nvidia наклепала для майнинга гору очень сильно урезанных карт CMP HX170, на основе чипа от А100. Номинально у них было по 8 или по 10 гигабайт и урезанные в 32 раза вычислительные мощности, но при этом полная пропускная способность памяти, которая и нужна для майнинга. После того как Ethereum перешёл на proof of stake алгоритм, все они превратились тыкву. Так бы они и оставились тыквами, но в конце июня появился пейпер, в котором описывалось снятие части ограничений через уязвимость в новых драйверах Nvidia. Кода авторы не опубликовали, но через несколько недель уязвимость удалось независимо реплицировать, так появился cmpunlocker. Карты на 10 гигабайт стали картами на 40(или даже 80) гигов, а карты на 8 гигов — картами на 64 гига. Дело в том, что убрать HBM чипы без урезания пропускной способности было нельзя, так что Nvidia просто заблокировали 80% памяти через софт. Хакерам удалось ещё и убрать ограничение на вычисления. Главная оставшаяся проблема — PCIe ограничен версией 2.0 и физически только x4, но ребята с паяльниками уже пытаются это починить. В итоге, счастливчики, которые смогли купить карту до роста цен, за 100-200 долларов, получили уже чуть менее урезанную А100 за очень дёшево, особенно с учётом текущего кризиса. А сейчас цена выросла и за цену в 5-10 раз выше брать их уже вряд-ли стоит. А есть ли владельцы таких карт среди подписчиков канала? Как впечатления? cmpunlocker @ai_newz

Кратко (AI)

Благодаря уязвимости в драйверах Nvidia, энтузиасты смогли снять программные ограничения с майнинговых карт CMP HX170. Это позволило разблокировать полный объем памяти и вычислительные мощности, превратив дешевые карты в доступные инструменты для инференса нейросетей.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖