Nvidia представи безплатния софтуер Personal AI Router (PAIR), който свързва неизползваните домашни компютри в разпределен клъстер за изпълнение на задачи, свързани с изкуствен интелект. Инструментът позволява да се използват ресурсите на няколко компютъра и да се разпределят между тях заявките към локални AI системи, без да е необходимо закупуването на допълнително оборудване.
Както уточнява The Verge, въпреки думата „рутер“ в наименованието, PAIR не е физическо мрежово устройство. Това е софтуер с отворен код, който автоматично открива съвместими компютри в локалната мрежа, свързва ги и ги подготвя за обработка на заявки. Системата поддържа видеокарти от серията GeForce RTX 20 и по-нови, професионални видеокарти RTX Pro, системи DGX Spark, както и компютри на Apple с чипове M4 и по-нови.
Основната особеност на технологията се състои в интелигентното разпределение на натоварването. PAIR насочва заявките за инференс към компютрите, които са налични в дадения момент, като позволява на няколко устройства да обработват паралелно различни задачи. Компютрите остават независими системи – техните ресурси не се обединяват в единен виртуален GPU. Тази схема е особено полезна за AI агенти, които разбиват сложни задачи на множество по-малки операции.PAIR се стреми да използва изчислителната мощност на устройствата, когато те не се използват, за да не пречи на основните задачи на потребителя. Съставът на клъстера може да се променя динамично: например, ако собственикът на настолен компютър стартира игра, изискваща много ресурси, PAIR спира да изпраща заявки към него и използва други налични устройства.
По време на презентацията продуктовият мениджър на Nvidia Сет Шнайдер даде пример с хипотетично семейство, което притежава цял набор от мощна техника. В този сценарий бащата използва лаптоп с RTX Spark и настолен компютър с DGX Spark, майката работи на лаптоп с RTX 5090, дъщерята играе на геймърски настолен компютър, а синът използва MacBook Pro. Според оценката на Шнайдер общата изчислителна мощност на такъв необичайно производителен домашен парк възлиза на около 165 Tflops, значителна част от която обикновено остава неизползвана. Представителят на Nvidia нарече тази ситуация „истинска съкровищница от безплатни токени“, дори като се вземат предвид разходите за електроенергия в едно средностатистическо американско домакинство.
За свързване на устройствата се използва 6-цифрен код, след което каналът за връзка се защитава с помощта на mTLS (Mutual Transport Layer Security). В резултат между компютрите се създава криптиран канал с взаимна автентификация. Заявките, файловете и контекстът на AI агентите остават в рамките на домашната мрежа и не се изпращат в облака. За работата на PAIR не се изисква интернет връзка – тя е необходима само за изтегляне на AI моделите.
Бета-версията на Personal AI Router вече е достъпна за изтегляне и поддържа Windows, Linux и macOS. В начален етап PAIR е съвместим с популярните инструменти за локално стартиране на AI – Ollama и LM Studio, като предоставя на приложенията единна точка за достъп до изчислителните ресурси на домашния клъстер.
Освен пускането на PAIR, Nvidia обяви опростена настройка на локални AI агенти за три популярни приложения: Perplexity Portable Computer, Hermes Agent и OpenClaw. Новите инструменти ще позволят на собствениците на системи с видеокарти на Nvidia, работещи под Windows, да стартират локални агенти само с няколко клика, като им спестят необходимостта от ръчна настройка на сложна софтуерна среда. Nvidia не очаква, че на обикновения потребител на PAIR ще му е необходим цял парк от скъпи компютри, както в приведения по-горе пример. Според Шнайдер типичната конфигурация може да се състои само от един MacBook или лаптоп с Windows и един геймърски компютър.