MWC 2018
2018
Computex
IFA 2018
Nvidia представила бесплатное ПО Personal AI Router (PAIR), которое связывает простаивающие домашние компьютеры в распределённый кластер для выполнения задач искусственного интеллекта. Инструмент позволяет задействовать ресурсы нескольких ПК и распределять между ними запросы к локальным ИИ без покупки дополнительного оборудования.
Источник изображений: Nvidia
Как уточняет The Verge, несмотря на слово «роутер» в названии, PAIR не является физическим сетевым устройством. Это программное обеспечение с открытым исходным кодом, которое автоматически обнаруживает совместимые компьютеры в локальной сети, связывает их и подготавливает к обработке запросов. Система поддерживает видеокарты GeForce RTX серии 20 и новее, профессиональные ускорители RTX Pro, системы DGX Spark, а также компьютеры Apple с чипами M4 и новее.
Главная особенность технологии заключается в интеллектуальном распределении нагрузки. PAIR направляет запросы инференса на доступные в данный момент компьютеры, позволяя нескольким устройствам параллельно обрабатывать разные задачи. При этом компьютеры остаются независимыми системами — их ресурсы не объединяются в единый виртуальный GPU. Такая схема особенно полезна для ИИ-агентов, которые разбивают сложные задания на множество более мелких операций.
PAIR старается использовать вычислительные мощности устройств тогда, когда они простаивают, чтобы не мешать основным задачам пользователя. Состав кластера может динамически меняться: например, если владелец настольного компьютера запускает ресурсоёмкую игру, PAIR перестаёт направлять на него запросы и использует другие доступные устройства.
Во время презентации менеджер по продуктам Nvidia Сет Шнайдер (Seth Schneider) привёл пример гипотетической семьи, владеющей целым набором мощной техники. В его сценарии отец использует ноутбук RTX Spark и настольный ПК DGX Spark, мать работает на ноутбуке с RTX 5090, дочь играет на игровом десктопе, а сын пользуется MacBook Pro. По оценке Шнайдера, совокупная вычислительная мощность такого необычно производительного домашнего парка составляет около 165 Тфлопс, значительная часть которых обычно простаивает. Представитель Nvidia назвал эту ситуацию «настоящим кладезем бесплатных токенов» даже с учётом расходов на электроэнергию в среднестатистическом американском доме.
Для подключения устройств используется шестизначный код, после чего канал связи защищается с помощью mTLS (Mutual Transport Layer Security). В результате между компьютерами создаётся зашифрованный канал с взаимной аутентификацией. При этом запросы, файлы и контекст ИИ-агентов остаются внутри домашней сети и не отправляются в облако. Для работы PAIR подключение к интернету не требуется — оно необходимо лишь для загрузки моделей.
Бета-версия Personal AI Router уже доступна для скачивания и поддерживает Windows, Linux и macOS. На старте PAIR совместим с популярными средствами локального запуска ИИ Ollama и LM Studio, предоставляя приложениям единую точку доступа к вычислительным ресурсам домашнего кластера.
Помимо запуска PAIR, Nvidia анонсировала упрощённую настройку локальных ИИ-агентов для трёх популярных приложений: Perplexity Portable Computer, Hermes Agent и OpenClaw. Новые инструменты позволят владельцам систем с видеокартами Nvidia под управлением Windows запускать локальных агентов всего за несколько кликов, избавляя от необходимости вручную настраивать сложное программное окружение.
При этом Nvidia не рассчитывает, что обычному пользователю PAIR понадобится целый парк дорогостоящих компьютеров из приведённого выше примера. По словам Шнайдера, типичная конфигурация может состоять всего из одного MacBook или ноутбука с Windows и одного игрового ПК.
Источник:
