网易首页 > 网易号 > 正文 申请入驻

前DeepSeek作者开源Linger:12GB显卡跑125B模型是真的,但“零Token费”省下的钱,从内存条和电费里又花出去了

0
分享至

一块12GB显存的RTX 3060,跑125B参数的Qwen3.8-Flash-Next,45.5 tokens/秒,不按Token付费,数据不出本机。

这是Linger发布时被转得最多的一句话。前DeepSeek V1作者、DeepSeek-VL项目负责人张博(Tony Zhang)11月19日开源了这个本地个人Agent,GitHub星标几天内破三千。官方把它比作“个人电脑的诞生”——AI不该只活在数据中心里,按Token租给你,智能应该完全由你拥有。

我花了两天把它的文档、GitHub issue和几篇实测翻了一遍。“12GB跑125B”是真的,但它有一个官方没放在标题里的前提。而“零Token费”省下的钱,从另一个你没想到的地方又花出去了。



第一笔账:12GB是入场券,64GB内存才是账单

45.5 tokens/秒这台机器,插着64GB内存。

官方文档写得很清楚:125B模型跑在12GB显卡加64GB内存上,靠的是PolyStrata推理引擎——把模型最繁忙的专家留在GPU显存,其余专家放在系统内存或SSD,用到时再搬运进来。Qwen3.8-Flash-Next的2-bit量化文件约39GB,靠分层调度运行,不会一次性载入显存。

内存少一半,速度直接掉一个量级。 官方另一组硬件规划测试:12GB显卡配32GB内存的模拟配置下,同一个模型速度掉到21.3 tokens/秒,首字延迟约3分钟。有16GB显卡的用户实测后留了一句很直接的话:“他们只告诉你12G显存也能跑125B,但是没告诉你至少要拥有96G的内存”。

“12GB显卡”是一个精确的营销数字,但它不是完整的门槛。 一张二手3060 12GB大概千元出头,四根32GB DDR4内存才是真正让这台机器“跑得动”的东西。而且45.5 tokens/秒是2-bit量化下的稳态速度,官方没有给这一档的质量评分——量化损失多大,需要你自己拿任务去测。

省掉的是API账单,换来的是硬件、电费和“首字等三分钟”的耐心。



第二笔账:零Token费只对“本地那一半”成立,后台记忆任务永远跑在云端

Another Me是Linger最值得认真看的部分。它持续读你的收件箱、日历和Slack,每晚把邮件、聊天、会议整理成本地知识库,按紧急程度决定什么时候提醒你——客户周五要报价,它周三才提醒;会议时间一改,立刻通知。LoCoMo长期记忆基准95%,超过Mem0、MemOS。

但官方文档里有一句容易被跳过的话:后台记忆和Wiki生成,用的是Claude Code或Codex等运行时。 只要你挂着云订阅,每晚整理时读到的邮件和聊天,照样会发给那家服务商。Linger本身不带模型,只是一个壳,本地模型挂在Pi后面跑,单次问答不花钱;但后台记事这一步,并没有完全留在本地模型里。

还有几扇门也会把数据带出去:连接Gmail、Slack等应用调用Composio,语音识别调用Soniox,实时语音调用xAI,使用远程模型时提示词和上下文发给模型服务商。

“装进自己电脑”改变的是“资料存放在谁手里”,不是“数据绝对不出门”。 零Token费只对本地推理这一半成立;另一半夜里在跑,账单和数据流向都取决于你接的是谁。



第三笔账:没有沙箱,它拿的是你的系统权限

这是Linger最需要被认真对待的一条边界,官方自己写得很直白。

Linger没有沙箱隔离。 助理直接以你的系统权限执行任务,你已登录的邮箱、桌面文件和命令行它全都能碰。拦住误操作靠的是服务端校验和弹窗确认卡——读取类操作直接执行,发邮件等写入操作才弹确认。

“弹窗确认”不是“沙箱”。 沙箱是把程序关进一个受限环境里,它碰不到外面的东西;确认卡是在它伸手的时候问你一句“可以吗”。如果模型被诱导、或者你在疲劳时顺手点了“允许”,权限边界就消失了。有实测者给的建议很务实:先拿测试号和空文件夹跑一晚,别一上来就绑主力邮箱。

许可证也值得看一眼。Linger基于Apache 2.0加了商业限制:未经授权,其他企业不得把源码作为托管服务提供给外部用户,也不得删改前端Logo和版权信息。个人用、本地跑,没问题;想拿它做托管生意,得先谈授权。



它和OpenClaw、DS-Bot到底差在哪:张博自己给了答案

有网友在X上问它和OpenClaw、DeepSeek DS-Bot的区别,张博的回应很具体。

OpenClaw更侧重接入常用聊天软件,以及Bot和群组之间的协作;Linger更关注人与自己的Agent之间的协作,以及Agent对本地电脑环境的操作。

DS-Bot是基于DeepSeek Harness的插件,模型通过用户配置的API调用;Linger不绑定单一Harness,能接入Claude Code、Codex和Pi,也支持本地模型,重点是让模型与Harness共同优化。

一句话:DS-Bot是“在DeepSeek的框架里加一个Bot”,Linger是“在你的电脑上搭一个可以换引擎的壳”。 你想用本地模型省钱,可以;你想用已有的Claude Code订阅跑长任务,也可以。它不锁你,但也不替你选。



所以,“本地个人Agent的最后一公里”补上了吗

补上的那一公里: 它让“在自己电脑上跑一个能用的大模型Agent”从“极客折腾”变成了一个安装器就能完成的事。Model Autopilot会读你的显卡、内存和带宽,自动挑一个能装下64K上下文的模型,答对一道真题才算安装成功。Another Me的主动记忆和工作流,是云端Agent(Muse/Dots)给不了的那种“它真的知道我在干什么”的体感。

还没补上的那一公里: “本地”不等于“闭环”——后台记忆在云上,外部服务在云上,零Token费只覆盖一半;“无沙箱”意味着你需要自己扮演那道防火墙;“12GB跑125B”需要64GB内存和2-bit量化做前提,45.5 tokens/秒的体验,和云端Agent的即时响应不是一个量级。

它最适合的人: 对数据不出本机有强需求、有一张12GB以上显卡和至少64GB内存、愿意花一个晚上调配置、并且能接受“首字等一会儿”的开发者。它不适合的人: 想要开箱即用、依赖最新联网信息、或者不愿意为“本地”支付硬件和折腾成本的人。

Linger真正改变的不是“Token免不免费”,是“你终于可以自己决定哪一半留在硬盘、哪一半交给云”。 这个选择权,比“零Token费”值钱得多——但前提是,你得知道自己把哪一半交出去了。

声明:内容由AI生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
金价跌势凌厉,多家银行发布紧急提示

金价跌势凌厉,多家银行发布紧急提示

澎湃新闻
2026-11-22 08:47:03
默茨:德国累计援助乌克兰7347亿元,这将给德国带来多重红利,对德国经济也有积极影响

默茨:德国累计援助乌克兰7347亿元,这将给德国带来多重红利,对德国经济也有积极影响

阿尔卑斯瞭望
2026-11-21 17:51:51
口碑彻底崩塌,亏损超2亿,年度最惨电影诞生了

口碑彻底崩塌,亏损超2亿,年度最惨电影诞生了

影视高原说
2026-11-22 08:26:11
一回到美国,特朗普就说:中国也能生产芯片,要明白,如果我们不卖,他们会自己制造

一回到美国,特朗普就说:中国也能生产芯片,要明白,如果我们不卖,他们会自己制造

互联鱼
2026-11-22 00:10:10
继刘欢之后,66岁郎平也步入后尘,1周至少要做3次治疗,现状忧心

继刘欢之后,66岁郎平也步入后尘,1周至少要做3次治疗,现状忧心

往史过眼云烟
2026-11-21 11:30:59
特朗普连发30多张APEC会议相关照片,还晒出与普京的合影,称“My Friend”

特朗普连发30多张APEC会议相关照片,还晒出与普京的合影,称“My Friend”

南方都市报
2026-11-22 12:22:47
还有隐私吗?曝部分地区光猫里藏了一串代码,专门记用户看了哪些股票

还有隐私吗?曝部分地区光猫里藏了一串代码,专门记用户看了哪些股票

可达鸭面面观
2026-11-22 09:42:31
梅西罕见主动攻击对手!被激怒后拿球砸人脸部染黄 名记:该拿红牌

梅西罕见主动攻击对手!被激怒后拿球砸人脸部染黄 名记:该拿红牌

风过乡
2026-11-22 09:26:35
禁止全部中方外交官入境,不准中国统一,这个国家比美国还嚣张?

禁止全部中方外交官入境,不准中国统一,这个国家比美国还嚣张?

触摸史迹
2026-11-22 00:16:56
北电也建马院了:全国已经超过 2000 家,真正的考验才刚开始

北电也建马院了:全国已经超过 2000 家,真正的考验才刚开始

迷世书童
2026-11-22 11:54:48
特朗普:普京亲口告诉我,如果当年是我担任总统,俄乌战争根本不会爆发;目前谈判的一大困难,是普京与泽连斯基之间存在“深刻仇恨”

特朗普:普京亲口告诉我,如果当年是我担任总统,俄乌战争根本不会爆发;目前谈判的一大困难,是普京与泽连斯基之间存在“深刻仇恨”

大风新闻
2026-11-21 09:33:02
讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

翰飞观事
2026-11-22 09:55:49
震惊!武亮回母校演讲提出“吃屎的劲头”去奋斗,台下学生反问:要是拼到41岁人没了,一点福都没享到,这份奋斗还有啥意义?

震惊!武亮回母校演讲提出“吃屎的劲头”去奋斗,台下学生反问:要是拼到41岁人没了,一点福都没享到,这份奋斗还有啥意义?

火山詩话
2026-11-22 14:36:55
墨西哥总统迷上八段锦!返程航班还在练

墨西哥总统迷上八段锦!返程航班还在练

看看新闻Knews
2026-11-22 00:38:31
中国灵活就业人数达3.2亿人!占就业人口的44%,太恐惧了!

中国灵活就业人数达3.2亿人!占就业人口的44%,太恐惧了!

廖保平
2026-11-22 09:20:01
演员余文乐公布病情

演员余文乐公布病情

情感大头说说
2026-11-22 12:26:14
越扒疑点越多!普林斯顿华人女博士谢怡机场被 ICE 带走,不只是签证过期那么简单,导师紧急发声,知情者:她早就有前科!

越扒疑点越多!普林斯顿华人女博士谢怡机场被 ICE 带走,不只是签证过期那么简单,导师紧急发声,知情者:她早就有前科!

秋风妃
2026-11-22 13:17:48
中国民航飞行员过剩:9万本执照,4000架飞机,有的已经在开网约车!

中国民航飞行员过剩:9万本执照,4000架飞机,有的已经在开网约车!

城事堂
2026-11-22 14:48:00
一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

可达鸭面面观
2026-11-22 00:02:18
8万人狂欢!63岁穆帅2次搏命神换人:皇马2-1豪取9连胜 创4年纪录

8万人狂欢!63岁穆帅2次搏命神换人:皇马2-1豪取9连胜 创4年纪录

风过乡
2026-11-22 06:53:50
2026-11-22 18:39:00
阿鑫讲ai
阿鑫讲ai
专门讲解现阶段高热度的AI
134文章数 16关注度
往期回顾 全部

数码要闻

三星的内存产能至2029年已几乎全部预订一空 客户正寻求直至2031年的供货协议

头条要闻

主播私闯果园带货糟蹋一千多斤苹果:切开后全扔地上

头条要闻

主播私闯果园带货糟蹋一千多斤苹果:切开后全扔地上

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

时尚
手机
旅游
数码
本地

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

手机要闻

消息称三星正为One UI 9.5引入新版实时通知

旅游要闻

青海西宁冬春文旅推介会走进成都 5条周末精品线路+12条周边游亮相

数码要闻

Clicks Communicator实体键盘手机因零部件供应短缺推迟交付

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

无障碍浏览 进入关怀版