Conform Mediafax: NVIDIA lansează PAIR, un sistem menit să optimizeze utilizarea resurselor de calcul din locuințe pentru inteligența artificială.
Soluția pentru PC-urile neutilizate
NVIDIA propune o nouă abordare pentru a valorifica potențialul latent al calculatoarelor personale. Estimând că peste jumătate din gospodăriile din Statele Unite dețin cel puțin două PC-uri, compania identifică o capacitate de procesare nefolosită. Sistemul denumit PAIR (Personal AI Router) vine să rezolve această problemă prin direcționarea inteligentă a sarcinilor de calcul. Un utilizator nu va mai fi nevoit să își consume toate resursele principalului calculator pentru a rula un agent AI, deoarece PAIR poate identifica și utiliza alte dispozitive compatibile din rețeaua locală.
Distribuirea inteligentă a sarcinilor AI
PAIR este conceput special pentru scenariile în care agenții AI trebuie să gestioneze sarcini complexe, împărțindu-le în sub-sarcini mai mici. De exemplu, un agent AI responsabil cu organizarea unei căsuțe de e-mail poate delega anumite operațiuni către subagenți. PAIR poate distribui apoi aceste sub-sarcini către calculatoarele disponibile în rețeaua locală. Astfel, un PC care nu este utilizat în acel moment poate contribui cu puterea sa de procesare, lăsând calculatorul principal liber pentru activități curente, cum ar fi munca sau jocurile.
Disponibilitate și compatibilitate
NVIDIA PAIR este compatibil cu platforme populare precum Ollama și LM Studio. Soluția este disponibilă în prezent într-o versiune beta pentru sistemele de operare Windows, macOS și Linux. Pentru a beneficia de PAIR, utilizatorii trebuie să dețină plăci grafice GeForce RTX începând cu seria RTX 20, anumite modele RTX PRO, sistemele DGX Spark sau calculatoarele Apple echipate cu cipuri M4 sau versiuni mai noi.
Această inițiativă face parte din strategia NVIDIA de a muta din ce în ce mai mult din procesarea AI de pe serverele din cloud direct pe dispozitivele utilizatorilor. Compania a anunțat la IFA 2026 și noi instrumente menite să simplifice rularea locală a agenților AI. De asemenea, au fost prezentate optimizări pentru llama.cpp și vLLM, care promit creșteri semnificative ale vitezei de inferență pe anumite configurații hardware.
Sursa: Mediafax
