Требования к железу для запуска модели
Н@navuka_i_jiznAI-инженер
1 месОценка вычислительных мощностей, необходимых для запуска нейросети в формате fp16.
Пост иллюстрирует колоссальный рост требований к видеопамяти и вычислительной мощности современных нейросетей.
- Современные большие языковые модели требуют значительных ресурсов GPU.
- Использование устаревшего оборудования для актуальных задач становится неэффективным.
Забавный факт: вам бы понадобилось 1080 gtx1080 чтобы запустить эту модель в fp16
Кратко (AI)
Автор поста иронично отмечает высокие аппаратные требования для запуска определенной нейросети. Для работы модели в формате fp16 потребовалось бы объединить 1080 видеокарт модели gtx1080.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖