Apple анонсировала процессор M5 Ultra
В@vitaly_kuliev_itAI-инженер
2 днApple представила процессор M5 Ultra с поддержкой до 512 ГБ объединенной памяти, ориентированный на задачи инференса.
Новый чип Apple может стать доступной альтернативой профессиональным GPU для запуска больших нейросетей.
- Поддержка до 512 ГБ памяти позволяет запускать крупные языковые модели локально.
- Улучшенная пропускная способность памяти ускоряет процесс генерации текста (decode).
- Решение ориентировано на индивидуальных разработчиков и исследователей, работающих с ИИ.
Apple анонсировала m5 ultra процессор и новый mac. На данный момент m3 ultra занимает узкую нишу инференса с большим объемом памяти, большой пропускной способностью и с относительно слабым чипом. В m5 ultra прокачали скорость чипа и пропускную способность памяти.
Другой конкурент - dgx spark от Nvidia. У него узкое место - пропускная способность памяти и соответственно слабый decode.
Вообщем m5 ultra - это хороший вариант инференса для единственного пользователя. Объем объединенной памяти до 512гб.
Стоимость на старшую модель не объявлена. С учетом дефицита памяти она будет стоить в районе 15к долларов за 512гб.
Более подробные даннные на скриншотах. Оценка prefil/decode дана для модели Qwen3.6-35b-a3b 8bit model, 8bit kv cache.
Кто-то решил брать себе такой?
Кратко (AI)
Apple анонсировала новый процессор M5 Ultra, который предлагает улучшенную пропускную способность памяти и вычислительную мощность. Устройство позиционируется как эффективное решение для инференса моделей, таких как Qwen3.6-35b-a3b, с поддержкой до 512 ГБ объединенной памяти.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖