本地跑AI,最烦人的不是模型下载,而是算力闲置。一台Mac在摸鱼,旁边的RTX PC却在排队算任务。英伟达昨天(9月3日)以开源测试版形式推出的Personal AI Router(PAIR)软件,想解决的就是这个调度问题。
简单说,PAIR像一个局域网内的“任务调度员”。它自动发现已加入的电脑,把本地AI请求分配给空闲设备。兼容M4及更高版本的Mac、英伟达RTX PC和DGX Spark设备,为Ollama、LM Studio这类本地AI工具提供统一入口。用户不用再为每款AI应用分别配置每一台机器。
![]()
调度逻辑:谁闲着谁干活
PAIR的核心机制是自动发现与分配。当某台设备繁忙或不可用时,新请求会自动转向其他已配对设备。比如AI智能体同时审阅多份文档,可以把彼此独立的任务分给不同电脑并行处理。但要注意,这个机制面向并发负载分担,不意味着单个AI回复会因加入更多电脑而自动变快。
英伟达的演示数据很直观:在Hermes中使用Ollama与Qwen 3.6 35B A3B模型,把任务拆给5个AI子智能体后,RTX Spark笔记本单机平均完成时间18分钟;加入DGX Spark和RTX 5090后,平均时间缩短到8分48秒。
对普通用户意味着什么
这个方案的价值在于盘活存量设备。家里有台旧Mac、办公室有台空闲RTX PC,都能变成算力池的一部分。对于跑多智能体任务或批量处理场景,时间节省是实打实的。不过,如果只是单次对话,PAIR带来的提升有限——它优化的是并发,不是单点速度。
目前PAIR以开源测试版状态推出,意味着开发者可以提前试玩并反馈问题。英伟达选择这个时间点开源,显然是想在本地AI工具链里占据调度层的位置。毕竟,模型跑在哪台机器上,正在成为新的入口之争。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.