Xiaomi представила прототип AI Cube с собственными чипами
М@larchankaмедиа / агрегатор
4 днXiaomi анонсировала AI Cube Prototype — компактное решение для локального запуска ИИ с производительностью до 200 TOPS и поддержкой моделей до 120B.
Xiaomi выходит на рынок специализированного «железа» для локального запуска мощных нейросетей.
- Появление альтернативы решениям Nvidia и AMD в сегменте компактных ИИ-систем.
- Возможность запуска крупных языковых моделей (120B) локально без облачных вычислений.
- Высокая энергоэффективность (150W) при заявленной производительности может изменить рынок edge-вычислений.
Xiaomi показала прототип AI Cube Prototype, и, это серьезный конкурент мини-компьютеров для ИИ от Nvidia и AMD.
- 3 собственных читпа: Xring O3, O100, D100
- 200 TOPS NPU
- пропускная собобность памяти 1.22 TB/s
- До 160GB памяти
- Потребляемая мощность 150W
- 120B модели работают локально
Обещают до 330 токенов в секунду на самой мощной модели.
Надо тестировать, но обычное заявленные "топсы" можно получить на какой-нибудь маленькой пережатой модели. Так что буквально "надо проверять".
Что думаете, разберут?
Кратко (AI)
Xiaomi представила прототип компактного ИИ-компьютера AI Cube, оснащенного тремя собственными чипами серии Xring. Устройство обещает высокую производительность для локального запуска моделей до 120 миллиардов параметров при энергопотреблении 150 Вт.
Обсуждение
2160gb памяти и 150w при трех своих чипах - вот что цепляет, а не topsы эти. если 330 ток/с реально подтвердится хотя бы на 70b, а не только на урезанной модели для галочки, то nvidia и amd будет что обсудить
память с пропускной 1.22 TB/s и 150W и правда цепляет. но 330 ток/с на 70B без реальных тестов - это опять топсы на бумаге, только теперь про токены