NVIDIA представила PAIR для объединения локальных устройств в ИИ-кластер

Инструмент PAIR от NVIDIA позволяет объединять компьютеры с RTX, DGX Spark и Mac в локальной сети для распределенного запуска ИИ-моделей.

Это позволяет запускать тяжелые ИИ-модели на домашних или офисных компьютерах, используя ресурсы всей локальной сети.

Позволяет объединить мощность нескольких видеокарт и компьютеров для выполнения сложных задач.
Обеспечивает конфиденциальность, так как все вычисления происходят локально.
Упрощает работу с Ollama и LM Studio за счет автоматического распределения нагрузки.

PAIR (Personal AI Router) Инструмент от NVIDIA объединяет компьютеры в локальной сети в один ИИ-кластер. Находит ПК с RTX, DGX Spark и Mac, решает, куда отправить запрос - на машину где сейчас свободны ресурсы - Распределяет нагрузку между ПК и Mac в локальной сети — одна карта не справляется, подключаются соседние - Несколько агентов параллельно: инференс раскидывается между видеокартами и компьютерами без ручного конфигурирования - Промпты, файлы и контекст не уходят во внешний мир - Поддерживает Ollama и LM Studio - Windows, Linux, macOS #router #tools VK | MAX

NVIDIA представила PAIR для объединения локальных устройств в ИИ-кластер

Кратко (AI)

NVIDIA выпустила инструмент PAIR, который объединяет компьютеры в локальной сети в единый вычислительный кластер для запуска ИИ. Система автоматически распределяет нагрузку между доступными устройствами, включая ПК с RTX, DGX Spark и Mac, обеспечивая приватность данных без отправки запросов во внешние облака.

NVIDIA представила PAIR для объединения локальных устройств в ИИ-кластер

Кратко (AI)

Обсуждение