An der IFA 2026 hat
Nvidia eine Open-Source-Software namens Personal AI Router (PAIR) angekündigt, mit der sich mehrere kompatible PCs zu einem Inferenzcluster verbinden lassen. Auf Basis lokal ausgeführter KI-Modelle kann PAIR aufwendige agentische Workflows bewältigen, die mit einem einzelnen Computer nicht möglich wären. Das Ganze funktioniert allerdings nicht mit beliebigen PCs, es müssen gewisse Grundvoraussetzungen erfüllt sein: Die beteiligten Geräte verfügen entweder über Geforce-GPUs (RTX 20, RTX Pro oder RTX Spark) oder über ein Apple-Silicon-SoC (M4 oder neuer).
Der Personal AI Router nutzt die Rechenleistung der GPUs dynamisch jeweils dann, wenn die Geräte nicht anderweitig beansprucht sind. Die Kommunikation zwischen den PCs erfolgt verschlüsselt und abgesichert durch einen sechsstelligen Code via mTLS (Mutual Transport Layer Security). Unterstützung für PAIR bieten die Agenten Openclaw, Hermes sowie Nvidias eigener Agent Nemoclaw. Eine Betaversion der Software ist ab sofort verfügbar, unterstützt werden Windows, Linux und MacOS.
Gleichzeitig mit PAIR stellt Nvidia verschiedene Verbesserungen für die lokale Ausführung von KI-Workloads in Aussicht. So sollen llama.cpp und vLLM in LM Studio respektive Ollama neu eine bis zu 1,9-fache lokale Inferenzleistung erbringen. Geräte mit Nvidias neuem "Superchip" RTX Spark kommen
laut einem Blogbeitrag von Nvidia ab Oktober 2026 auf den Markt, zuerst von Lenovo und Acer.
(ubi)