Обзор Mac Studio на чипе M5 Ultra: производительность в локальных AI-задачах

Mac Studio на M5 Ultra – машина мечты для локальной разработки О, наконец-то результаты тестов нового Mac Studio. Федерико Витиччи из MacStories четыре дня гонял топовый Mac Studio M5 Ultra (256 ГБ) против прошлого M3 Ultra (512 ГБ) и игрового ПК с RTX 5090. По железу: – GPU на 80 ядер, в каждом нейроускоритель – до 4,5× пикового AI-компьюта к M3 Ultra – пропускная способность памяти 1,2 ТБ/с против 819 ГБ/с – версия на 512 ГБ обещана в конце октября На практике (Qwen3.8-Flash-Next, 4 бита, oMLX): – чтение промпта – ~2 700–2 900 ток/с против ~1 100, то есть в 2,5 раза быстрее – генерация – 108 ток/с против 70, код – 143 против 98 – промпт на 16K: первый токен через 5,6 с вместо 13,9 с – 256K контекста: ждать ~100 с вместо ~245 с, и дальше модель пишет 75 ток/с – быстрее, чем M3 Ultra на 4K – три параллельные сессии с субагентами: суммарно 81 ток/с против 40 RTX 5090 все еще быстрее: 3 031 против 1 701 ток/с на чтении, около +25% на генерации. Но у нее 32 ГБ VRAM – как только модель не влезает и начинается выгрузка в системную память через PCIe, скорость падает до 1,5–4,6 ток/с. Плюс шум и жара на всю комнату, а Mac на столе не слышно. При этом за стоимость такого железа (больше десятки Кбаксов) можно несколько лет оплачивать самую дорогую подписку Anthropic и получать модель умнее. Смысл появляется там, где агенты молотят 24/7, или где данные нельзя выносить наружу – банки, госы, документы. И тут уже появляется резон покупать коробочку. Короче, для оптимизированных под Mac вещей подойдет, но если нужна прям макс-производительность и многопользовательскость, то Nvidia все еще топ. https://www.macstories.net/stories/m5-ultra-mac-studio-review-the-dream-mac-for-local-ai-agents/