Nvidia випустила софт, що об'єднує всі домашні відеокарти для задач AI

Компанія Nvidia презентувала відкритий інструмент PAIR (Personal AI Router) під ліцензією Apache 2.0, призначений для маршрутизації та балансування запитів до великих мовних моделей між комп'ютерами в єдиній домашній мережі.

Утиліта вирішує очевидну проблему простою заліза: доки основний ПК зайнятий переглядом відео або браузером, його потужна графіка здебільшого байдикує, як і відеокарта в старому робочому ноутбуці поруч. PAIR функціонує як мережевий проксі рівня L7, перехоплюючи стандартні REST-запити між клієнтськими мультиагентними програмами та локальними рушіями на зразок Ollama або LM Studio.

Проте на фанатів безкоштовного апгрейду чекає технічне розчарування: інструмент не об'єднує відеопам'ять кількох пристроїв у спільний масив. Запустити гігантську модель, яка не вміщується у VRAM однієї конкретної відеокарти, додаванням другого слабкого ПК не вийде.

Пошук пристроїв у локальній мережі відбувається автоматично через протокол mDNS, після чого вузли з'єднуються за шестизначним кодом і шифрують дані за допомогою mTLS. Оскільки між вузлами передаються лише вхідний текст та згенерована відповідь, високих вимог до мережевого обладнання немає — з головою вистачає звичайного домашнього Wi-Fi.

Планувальник завдань відстежує довжину черги, наявність завантаженої моделі в пам'яті та рівень поточного навантаження на процесори. Якщо на основному ПК запускається 3D-гра, роутер перенаправляє фонові завдання AI на вільний ноутбук, повертаючи навантаження назад лише після закриття гри.

Програма не потребує низькорівневих драйверів ядра і працює на Windows, Linux та macOS, підтримуючи як карти GeForce RTX, так і графіку від AMD, Intel чи Apple Silicon. Заводські тести підтвердили стабільну роботу мережі аж до 18 комп'ютерів одночасно, а час виконання сценарію з п'ятьма субагентами на двох RTX 5090 скоротився з 6:18 до 3:48.

Індустрія витратила мільярди на рекламу хмарних підписок, щоб у результаті прийти до перетворення домашнього парку вживаної техніки на локальний кластер. Доцільність постійного живлення трьох увімкнених систем у квартирі заради генерації дрібних відповідей бота залишається головною темою суперечок між ентузіастами та платниками за комуналку.

Джерело: Tom's Hardware