NVIDIA представила Personal AI Router (PAIR) инструмент, который объединяет компьютеры в локальной сети в единый ИИ-кластер. Программа автоматически находит устройства с RTX, системы DGX Spark и даже поддерживаемые Mac, распределяя задачи на те машины, где в данный момент больше свободных ресурсов.
Фактически это домашний балансировщик нагрузки для ваших нейросетей. Система позволяет запускать несколько агентов параллельно, распределять инференс между разными видеокартами и работать в связке с Ollama или LM Studio. Главный плюс полная приватность, так как все промпты, файлы и контекст остаются исключительно внутри вашей сети.
Инструмент поддерживает Windows, Linux и macOS, а бета-версия уже доступна бесплатно и с открытым исходным кодом.
Комментарии
Комментариев пока нет. Будьте первым!