网易首页 > 网易号 > 正文 申请入驻

英伟达推出开源个人AI路由器PAIR 让家中多台电脑协同运行本地AI

0
分享至

英伟达近日在IFA 2026期间正式推出Personal AI Router(PAIR)测试版。这是一款免费的开源软件,并非传统意义上的网络硬件路由器,而是面向本地AI推理的“虚拟路由器”,能够自动发现同一局域网中的兼容电脑,将多台设备的闲置计算能力组织起来,为AI代理和本地大模型任务提供更加充足的推理资源。


随着AI代理开始同时执行越来越多的子任务,单台电脑上的GPU很容易成为性能瓶颈。一个复杂任务往往会被AI代理拆分成多个可以并行处理的工作,但如果所有请求都集中到同一块GPU上,任务就不得不排队等待。PAIR的核心作用,就是把这些彼此独立的推理请求分配给局域网中当前有可用计算能力的设备,从而缓解多代理和多子任务同时运行时的资源拥堵。

PAIR可以与用户已经熟悉的本地AI推理后端配合使用,目前支持Ollama和LM Studio。它本身并不会把多台电脑合并成一块虚拟GPU,也不会把不同设备上的显存简单“拼接”起来运行一个更大的模型,而是让各个设备分别承担独立的推理请求,再将结果返回给最初发起任务的应用。因此,用户无需修改现有AI代理的工作方式,也不需要重新设计代理框架,就可以利用网络中其他机器的闲置算力。

英伟达表示,PAIR能够动态适应设备状态。当新的电脑加入网络或者已有设备离开时,系统可以自动调整;路由过程会综合考虑节点是否准备就绪、推理引擎状态、模型是否已经存在以及GPU利用率等因素,然后选择合适的机器处理请求。整个过程并不要求搭建传统意义上的服务器集群,也不需要专用线缆、机架或复杂的集群配置。

在安全方面,加入PAIR集群的设备首先需要通过六位数字配对码完成配对,之后设备之间通过双向TLS(mTLS)建立加密通信通道,以确保参与设备之间的连接受到保护。英伟达强调,PAIR的设计目标之一就是让本地AI工作流保持在用户自己的网络中,提示词、文件以及AI代理上下文无需发送至云端推理服务。

目前PAIR测试版支持Windows、macOS和Linux。硬件方面,兼容范围包括NVIDIA GeForce RTX 20系列及更新型号、基于Turing架构及更新架构的NVIDIA RTX PRO工作站GPU、NVIDIA DGX Spark,以及搭载Apple M4或更新芯片的Mac设备。英伟达给出的系统要求还包括至少8GB内存,并建议准备20GB或以上磁盘空间;软件运行本身不要求互联网连接,但下载模型时仍然需要联网。

英伟达给出的演示显示,PAIR尤其适合多代理工作流。例如,用户可以要求Hermes Agent制定一个“周日重置”计划,对杂乱的邮箱进行整理,判断哪些邮件需要立即处理、哪些可以稍后处理以及哪些可以直接跳过。代理可以将任务拆分给多个子代理,而PAIR则把这些子代理产生的独立推理请求分散到家中不同电脑上,而不是让所有任务争抢同一块GPU。这样一来,多项任务可以并行进行,主电脑也可以在游戏、创作或者其他工作期间,将部分AI计算转移到其他设备。

英伟达公布的一项五子代理演示也体现了这种方式的效果。在使用Hermes Desktop和Ollama的情况下,一个由三台设备组成的PAIR集群完成任务耗时8分48秒,而单台RTX Spark笔记本则需要18分钟。英伟达认为,这说明将家庭网络中多个设备的空闲计算能力利用起来,可以明显提升本地多任务AI的吞吐能力。

PAIR背后的一个重要判断是,家庭用户往往已经拥有多台具备一定计算能力的电脑,只是这些设备的大部分时间处于闲置状态。英伟达援引的数据指出,美国超过一半的家庭拥有两台或更多电脑,因此大量GPU和其他计算资源在一天中的相当一部分时间里并没有被充分利用。对于拥有游戏电脑、笔记本电脑以及其他高性能设备的家庭来说,PAIR试图把这些原本相互独立的设备转变为一个能够共同服务本地AI的计算资源池。

英伟达技术团队甚至估算,在一个极端情况下,一户家庭内部可能存在约165 TFLOPS的闲置计算能力。相关负责人将这些尚未被充分利用的本地算力形容为“家中闲置的免费Token资源”。不过,英伟达预计真正适合PAIR的典型用户并不需要拥有如此夸张的设备规模,更现实的配置可能是一台MacBook或Windows笔记本,再加上一台游戏PC。

除了PAIR之外,英伟达此次还宣布进一步简化本地AI代理的部署体验,包括Perplexity Portable Computer、Hermes Agent和OpenClaw在内的三款AI代理软件都将针对NVIDIA GPU提供更加简单的本地配置方式。过去,用户往往需要自行选择模型、寻找兼容的推理服务器、调整量化参数并完成各种配置,而新的方案希望将这一过程压缩为几次点击。

其中,Perplexity Portable Computer此前已经可以在配备至少24GB显存的NVIDIA RTX GPU以及Linux系统上的DGX Spark上运行,Windows版本也正在推进。它允许用户将更多工作流保留在本地,并在需要额外搜索或更强推理能力时再选择使用云端模型;在将内容交给云端之前,系统会征得用户同意。

Hermes Agent由Nous Research开发,是一款通用型AI代理。Windows版本的本地配置将支持一键完成模型部署,软件可以自动识别NVIDIA GPU,并根据硬件选择合适的模型和配置,通过集成了NVIDIA优化的llama.cpp运行。Linux支持则将在后续推出。Hermes运行后可以调用工具、跨任务保持上下文、记忆不同会话的信息,并随着使用积累可复用的技能。

OpenClaw同样获得了针对Windows的简化部署方案。英伟达称,OpenClaw已经成为开放式AI代理生态中的重要项目,GitHub上的项目规模已经超过38万颗Star。新的Windows应用将降低本地模型配置门槛,使拥有至少24GB显存NVIDIA RTX GPU的用户更容易启动本地AI助手。

为了进一步提升本地AI代理的响应速度,英伟达还同步公布了针对llama.cpp和vLLM的推理优化。基于新的内核优化、更先进的投机解码以及更快的prefill处理,llama.cpp在GeForce RTX 5090上的吞吐量最高可提升至原来的1.9倍;vLLM在RTX PRO 6000 Blackwell Workstation Edition上的性能提升可达1.2倍,在两台DGX Spark组成的集群上最高可达1.4倍。这些优化已经可以通过相应推理后端使用,同时也能够在LM Studio和Ollama中获得。

英伟达此次还透露,搭载RTX Spark平台的新型Windows小型AI电脑预计将在10月陆续上市。随着这些面向本地AI的硬件、推理软件以及AI代理工具逐渐成熟,英伟达显然正在推动一种不同于传统云端AI的使用方式:用户无需把所有任务提交给远程数据中心,而是可以直接利用家中的GPU和其他设备构建属于自己的本地AI计算环境。

PAIR目前仍处于Beta阶段,项目已经以开源形式发布,开发者可以查看源代码、提交问题并参与改进。英伟达希望通过PAIR让本地AI从“单台高性能电脑运行一个模型”逐渐走向“多台家庭设备共同承担AI工作负载”,而这也可能成为本地AI代理进一步普及之后的一种新型计算模式。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
意外走红游客连日打卡,失独“葫芦娃爷爷”挂出休息牌,当地文旅:恳请大家多体谅,他不是网红,是可亲可爱的绍兴长者

意外走红游客连日打卡,失独“葫芦娃爷爷”挂出休息牌,当地文旅:恳请大家多体谅,他不是网红,是可亲可爱的绍兴长者

极目新闻
2026-09-05 00:28:51
1年350万美元!30岁西蒙斯加盟国王 重回NBA赛场开启第10季

1年350万美元!30岁西蒙斯加盟国王 重回NBA赛场开启第10季

罗说NBA
2026-09-04 21:45:39
专访|“中国政府给予我们的支持是全方位的!”——访尼泊尔外交部长希西尔

专访|“中国政府给予我们的支持是全方位的!”——访尼泊尔外交部长希西尔

新华社
2026-09-04 21:20:57
包揽前两名!张雪机车再创历史 德比斯:这一刻等了20年 冲第7冠

包揽前两名!张雪机车再创历史 德比斯:这一刻等了20年 冲第7冠

念洲
2026-09-05 06:51:55
10月1日高速通行费改革正式落地!广大车主出行费用将出现调整

10月1日高速通行费改革正式落地!广大车主出行费用将出现调整

趣味萌宠的日常
2026-09-05 06:11:20
皇马0‑1爆冷输球!赛后揪出三大“罪人”,真是一个比一个低迷!

皇马0‑1爆冷输球!赛后揪出三大“罪人”,真是一个比一个低迷!

田先生篮球
2026-09-05 06:57:22
俄外长话里有话,劝中方放下恩怨,再不争取印度,就要便宜西方了

俄外长话里有话,劝中方放下恩怨,再不争取印度,就要便宜西方了

共工之锚
2026-09-05 00:35:18
父亲用扁担送双胞胎姐妹上大学!俩人高考差3分,考入同一大学,住同一寝室

父亲用扁担送双胞胎姐妹上大学!俩人高考差3分,考入同一大学,住同一寝室

封面新闻
2026-09-04 23:39:05
河南一男子创业负债105万曾两次想轻生,学习胖东来理念将利润的50%分给员工后还清外债,购入30万新车想回馈胖东来

河南一男子创业负债105万曾两次想轻生,学习胖东来理念将利润的50%分给员工后还清外债,购入30万新车想回馈胖东来

潇湘晨报
2026-09-04 12:59:10
福建福鼎暴雨过后,街道上淤泥和杂物堆积,白茶重镇损失严重满街都是被水泡的茶叶

福建福鼎暴雨过后,街道上淤泥和杂物堆积,白茶重镇损失严重满街都是被水泡的茶叶

Mr王的饭后茶
2026-09-04 18:00:33
郑大一附院连续三任院长落马,此前还有原副院长王家祥被“双开”,原药学部主任受贿超2500万获刑11年

郑大一附院连续三任院长落马,此前还有原副院长王家祥被“双开”,原药学部主任受贿超2500万获刑11年

都市快报橙柿互动
2026-09-04 23:33:36
莆田暴雨洪灾直击:泥砖房连片倒塌,历经十多个小时救援队救出一对被困母女

莆田暴雨洪灾直击:泥砖房连片倒塌,历经十多个小时救援队救出一对被困母女

澎湃新闻
2026-09-05 09:08:27
绝平被吹!1-2主场惨遭逆转 13.6亿卫冕冠军惨遭爆冷开局3轮不胜

绝平被吹!1-2主场惨遭逆转 13.6亿卫冕冠军惨遭爆冷开局3轮不胜

狍子歪解体坛
2026-09-05 07:20:00
难以置信!86页PDF举报材料里,年薪百万的教授每月只给两个女儿5000元抚养费,还是女儿在领导开会时去哭闹才给的

难以置信!86页PDF举报材料里,年薪百万的教授每月只给两个女儿5000元抚养费,还是女儿在领导开会时去哭闹才给的

火山詩话
2026-09-04 12:47:10
泥石流灾害发生后,尼泊尔要求中美印提供气候赔偿,尼泊尔外长表态

泥石流灾害发生后,尼泊尔要求中美印提供气候赔偿,尼泊尔外长表态

麓谷隐士
2026-09-04 14:52:00
2亿姆巴佩遭对方门将贴脸嘲讽!评分全队最低:补时丢点 4次失良机

2亿姆巴佩遭对方门将贴脸嘲讽!评分全队最低:补时丢点 4次失良机

风过乡
2026-09-05 05:58:48
日本坐不住了!山本太郎质问高市早苗:不开战两个月损失53万亿日元

日本坐不住了!山本太郎质问高市早苗:不开战两个月损失53万亿日元

爱意随风起呀
2026-09-05 07:57:32
女子拉萨旅游花8万买藏刀,4年后重游店主见刀傻眼:这次竟要30万回收?

女子拉萨旅游花8万买藏刀,4年后重游店主见刀傻眼:这次竟要30万回收?

坠入二次元的海洋
2026-09-01 11:52:06
多次触及中国问题的“红线”,皇家马德里的傲慢没有下限?

多次触及中国问题的“红线”,皇家马德里的傲慢没有下限?

新民周刊
2026-09-03 20:52:42
西贝被曝拖欠离职补偿金!贾国龙:要相信公司,2028年才能给!

西贝被曝拖欠离职补偿金!贾国龙:要相信公司,2028年才能给!

品牌新
2026-09-04 19:23:40
2026-09-05 11:07:00
cnBeta.COM incentive-icons
cnBeta.COM
提供IT行业即时资讯
70927文章数 70281关注度
往期回顾 全部

科技要闻

华为何庭波,再次更新韬定律论文

头条要闻

新世界地图要来了 联合国:停止"小看"非洲

头条要闻

新世界地图要来了 联合国:停止"小看"非洲

体育要闻

小卡来去10首轮,快船7年彩礼一场空

娱乐要闻

郭麒麟瘦到全网认不出,为新剧塑形

财经要闻

姚洋:刺激消费要守住两个“大西瓜”

汽车要闻

搭载天枢领航Ultra 长安启源Q06预售14.79万元起

态度原创

本地
教育
亲子
房产
数码

本地新闻

扒完小作文,富豪们私藏的度假胜地有多绝

教育要闻

上海海事大学5名学生被退学,学校公布退学原因,令家长看清现实

亲子要闻

月子第9天,婆婆倒掉我的母乳换奶粉,我当场寒透心!

房产要闻

TOP10房企卖了350亿!海南楼市,最新榜单出炉!

数码要闻

DDR5太贵买不起!厂商推出0GB假内存:插满插槽还能亮RGB

无障碍浏览 进入关怀版