← к умной ленте

OpenAI и Anthropic скупают Mac mini и Mac Studio для обучения ИИ-агентов

OpenAI за последние месяцы закупила десятки тысяч Mac mini и Mac Studio для RLi-обучения ИИ-агентов, а Anthropic арендует такие же машины через Amazon Web Services — об этом со ссылкой на The Information пишут несколько источников. Спрос оказался неожиданным для Apple: у компании не было ни отдельной команды для корпоративных клиентов, ни полноценной ИИ-стратегии.

Причина отхода от классических GPU-кластеров — в унифицированной памяти Apple (UMAi), которая даёт CPU, GPU и Neural Engine общий доступ к памяти и снижает лишние перемещения данных. Для RL-обучения, которое по сути является инференсом плюс взаимодействием со средой, компактные Mac с единой памятью оказались выгоднее дорогих GPU-кластеров, заточенных под матричные вычисления.

десятки тысячMac mini и Mac Studio, закупленных OpenAI
  • Anthropic не покупает, а арендует Mac mini через AWS для тех же задач RL-обучения
  • Из-за ажиотажа корпоративных клиентов и глобального дефицита памяти сроки поставки кастомных конфигураций Mac mini и Mac Studio с большим объёмом памяти растянулись до недель и месяцев
  • Apple отказывает компаниям, запрашивающим доступ к Private Cloud Computei, и вместо этого полагается на партнёров WebAI и Mount Thor, предоставляющих ИИ-инструменты на её оборудовании
  • Некоторые компании из-за дефицита переходят на альтернативы, например Nvidia DGX Spark
  • Есть догадки, что именно из-за этого спроса чипы M6 и M5 Pro в этом году вышли раньше запланированного срока

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖