OpenAI и Anthropic используют Mac mini и Mac Studio для обучения RL-агентов
D@data_secretsAI-инженер
1 месOpenAI и Anthropic закупают и арендуют Mac mini и Mac Studio для обучения RL-агентов благодаря преимуществам унифицированной памяти Apple UMA.
Крупнейшие ИИ-лаборатории меняют подход к выбору «железа» для обучения моделей.
- Использование Mac mini и Mac Studio вместо GPU-кластеров позволяет оптимизировать работу с памятью при обучении RL-агентов.
- Архитектура унифицированной памяти Apple UMA снижает задержки при передаче данных между CPU, GPU и Neural Engine.
- Массовые закупки корпораций создают дефицит кастомных конфигураций Mac для обычных пользователей.
OpenAI закупает десятки тысяч Mac mini и Mac Studio для RL обучения агентов
Причина отхода от классических GPU – в унифицированной памяти Apple UMA, которая дает CPU, GPU и Neural Engine общий доступ к памяти. что снижает лишние перемещения данных и позволяет эффективнее гонять агентов на одной машине.
RL – это по сути инференс плюс взаимодействие со средой, поэтому вместо дорогих GPU-кластеров, заточенных под матричные вычисления, много компактных Mac с единой памятью действительно могут быть намного более выгодными.
Более того, журналисты пишут, что OpenAI такие не одни, и Anthropic тоже использует Mac mini, только не закупает их, а арендует у AWS.
Из-за такого спроса корпораций сроки поставки кастомных конфигураций Mac mini и Studio с большим объемом памяти уже растянулись до недель и месяцев.
Более того, есть догадки, что именно из-за этого ажиотажа M6, M5 Pro и все остальное в этом году вышло раньше срока.
Кратко (AI)
OpenAI и Anthropic начали использовать компьютеры Mac mini и Mac Studio для обучения RL-агентов, предпочитая их классическим GPU-кластерам. Основная причина заключается в архитектуре унифицированной памяти Apple UMA, которая повышает эффективность работы с данными. Высокий спрос со стороны корпораций привел к увеличению сроков поставок оборудования.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖