网易首页 > 网易号 > 正文 申请入驻

前DeepSeek作者开源Linger:12GB显卡跑125B模型是真的,但“零Token费”省下的钱,从内存条和电费里又花出去了

0
分享至

一块12GB显存的RTX 3060,跑125B参数的Qwen3.8-Flash-Next,45.5 tokens/秒,不按Token付费,数据不出本机。

这是Linger发布时被转得最多的一句话。前DeepSeek V1作者、DeepSeek-VL项目负责人张博(Tony Zhang)11月19日开源了这个本地个人Agent,GitHub星标几天内破三千。官方把它比作“个人电脑的诞生”——AI不该只活在数据中心里,按Token租给你,智能应该完全由你拥有。

我花了两天把它的文档、GitHub issue和几篇实测翻了一遍。“12GB跑125B”是真的,但它有一个官方没放在标题里的前提。而“零Token费”省下的钱,从另一个你没想到的地方又花出去了。



第一笔账:12GB是入场券,64GB内存才是账单

45.5 tokens/秒这台机器,插着64GB内存。

官方文档写得很清楚:125B模型跑在12GB显卡加64GB内存上,靠的是PolyStrata推理引擎——把模型最繁忙的专家留在GPU显存,其余专家放在系统内存或SSD,用到时再搬运进来。Qwen3.8-Flash-Next的2-bit量化文件约39GB,靠分层调度运行,不会一次性载入显存。

内存少一半,速度直接掉一个量级。 官方另一组硬件规划测试:12GB显卡配32GB内存的模拟配置下,同一个模型速度掉到21.3 tokens/秒,首字延迟约3分钟。有16GB显卡的用户实测后留了一句很直接的话:“他们只告诉你12G显存也能跑125B,但是没告诉你至少要拥有96G的内存”。

“12GB显卡”是一个精确的营销数字,但它不是完整的门槛。 一张二手3060 12GB大概千元出头,四根32GB DDR4内存才是真正让这台机器“跑得动”的东西。而且45.5 tokens/秒是2-bit量化下的稳态速度,官方没有给这一档的质量评分——量化损失多大,需要你自己拿任务去测。

省掉的是API账单,换来的是硬件、电费和“首字等三分钟”的耐心。



第二笔账:零Token费只对“本地那一半”成立,后台记忆任务永远跑在云端

Another Me是Linger最值得认真看的部分。它持续读你的收件箱、日历和Slack,每晚把邮件、聊天、会议整理成本地知识库,按紧急程度决定什么时候提醒你——客户周五要报价,它周三才提醒;会议时间一改,立刻通知。LoCoMo长期记忆基准95%,超过Mem0、MemOS。

但官方文档里有一句容易被跳过的话:后台记忆和Wiki生成,用的是Claude Code或Codex等运行时。 只要你挂着云订阅,每晚整理时读到的邮件和聊天,照样会发给那家服务商。Linger本身不带模型,只是一个壳,本地模型挂在Pi后面跑,单次问答不花钱;但后台记事这一步,并没有完全留在本地模型里。

还有几扇门也会把数据带出去:连接Gmail、Slack等应用调用Composio,语音识别调用Soniox,实时语音调用xAI,使用远程模型时提示词和上下文发给模型服务商。

“装进自己电脑”改变的是“资料存放在谁手里”,不是“数据绝对不出门”。 零Token费只对本地推理这一半成立;另一半夜里在跑,账单和数据流向都取决于你接的是谁。



第三笔账:没有沙箱,它拿的是你的系统权限

这是Linger最需要被认真对待的一条边界,官方自己写得很直白。

Linger没有沙箱隔离。 助理直接以你的系统权限执行任务,你已登录的邮箱、桌面文件和命令行它全都能碰。拦住误操作靠的是服务端校验和弹窗确认卡——读取类操作直接执行,发邮件等写入操作才弹确认。

“弹窗确认”不是“沙箱”。 沙箱是把程序关进一个受限环境里,它碰不到外面的东西;确认卡是在它伸手的时候问你一句“可以吗”。如果模型被诱导、或者你在疲劳时顺手点了“允许”,权限边界就消失了。有实测者给的建议很务实:先拿测试号和空文件夹跑一晚,别一上来就绑主力邮箱。

许可证也值得看一眼。Linger基于Apache 2.0加了商业限制:未经授权,其他企业不得把源码作为托管服务提供给外部用户,也不得删改前端Logo和版权信息。个人用、本地跑,没问题;想拿它做托管生意,得先谈授权。



它和OpenClaw、DS-Bot到底差在哪:张博自己给了答案

有网友在X上问它和OpenClaw、DeepSeek DS-Bot的区别,张博的回应很具体。

OpenClaw更侧重接入常用聊天软件,以及Bot和群组之间的协作;Linger更关注人与自己的Agent之间的协作,以及Agent对本地电脑环境的操作。

DS-Bot是基于DeepSeek Harness的插件,模型通过用户配置的API调用;Linger不绑定单一Harness,能接入Claude Code、Codex和Pi,也支持本地模型,重点是让模型与Harness共同优化。

一句话:DS-Bot是“在DeepSeek的框架里加一个Bot”,Linger是“在你的电脑上搭一个可以换引擎的壳”。 你想用本地模型省钱,可以;你想用已有的Claude Code订阅跑长任务,也可以。它不锁你,但也不替你选。



所以,“本地个人Agent的最后一公里”补上了吗

补上的那一公里: 它让“在自己电脑上跑一个能用的大模型Agent”从“极客折腾”变成了一个安装器就能完成的事。Model Autopilot会读你的显卡、内存和带宽,自动挑一个能装下64K上下文的模型,答对一道真题才算安装成功。Another Me的主动记忆和工作流,是云端Agent(Muse/Dots)给不了的那种“它真的知道我在干什么”的体感。

还没补上的那一公里: “本地”不等于“闭环”——后台记忆在云上,外部服务在云上,零Token费只覆盖一半;“无沙箱”意味着你需要自己扮演那道防火墙;“12GB跑125B”需要64GB内存和2-bit量化做前提,45.5 tokens/秒的体验,和云端Agent的即时响应不是一个量级。

它最适合的人: 对数据不出本机有强需求、有一张12GB以上显卡和至少64GB内存、愿意花一个晚上调配置、并且能接受“首字等一会儿”的开发者。它不适合的人: 想要开箱即用、依赖最新联网信息、或者不愿意为“本地”支付硬件和折腾成本的人。

Linger真正改变的不是“Token免不免费”,是“你终于可以自己决定哪一半留在硬盘、哪一半交给云”。 这个选择权,比“零Token费”值钱得多——但前提是,你得知道自己把哪一半交出去了。

声明:内容由AI生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
武汉一男孩意外身亡,母亲将孩子生前使用的手机放进棺木随他下葬。一次思念成疾拨通该号码,本以为是空号,谁知电话那头传来熟悉的声音

武汉一男孩意外身亡,母亲将孩子生前使用的手机放进棺木随他下葬。一次思念成疾拨通该号码,本以为是空号,谁知电话那头传来熟悉的声音

扶苏聊历史
2026-11-22 11:20:08
27岁庞众望完成博士论文答辩,即将从清华毕业,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

27岁庞众望完成博士论文答辩,即将从清华毕业,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

极目新闻
2026-11-20 16:53:20
大瓜!币圈人士徐可指控孙宇晨“恐艾”,和感染HIV女网红有关,孙宇晨回应,有网友提醒景甜

大瓜!币圈人士徐可指控孙宇晨“恐艾”,和感染HIV女网红有关,孙宇晨回应,有网友提醒景甜

火山詩话
2026-11-22 09:07:07
复婚已真相大白!李亚鹏:本以为债务解决已够幸运,今幸福又升级

复婚已真相大白!李亚鹏:本以为债务解决已够幸运,今幸福又升级

叨唠
2026-11-22 05:15:07
不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

扶苏聊历史
2026-11-18 15:55:59
万万没想到!普京回国之后,用中国常用的一句话,对全体乌克兰人发出号召,引发舆论热议!

万万没想到!普京回国之后,用中国常用的一句话,对全体乌克兰人发出号召,引发舆论热议!

林杰论事
2026-11-22 03:23:10
丹麦驱逐俄罗斯外交官!特朗普发图“我的朋友”,俄罗斯人“有福了”

丹麦驱逐俄罗斯外交官!特朗普发图“我的朋友”,俄罗斯人“有福了”

鹰眼Defence
2026-11-22 16:50:11
伺候宋美龄大半辈子的老佣人,临死之际才肯吐露:她能活到106岁,凭借的哪里是那些补品,真正见效莫过于这件事!

伺候宋美龄大半辈子的老佣人,临死之际才肯吐露:她能活到106岁,凭借的哪里是那些补品,真正见效莫过于这件事!

扶苏聊历史
2026-11-21 17:42:04
抗战期间有个不成文的规矩:每次打完仗,搜日本军用地图比枪炮还重要

抗战期间有个不成文的规矩:每次打完仗,搜日本军用地图比枪炮还重要

言过于诚
2026-11-21 20:57:59
曝85花想复婚被拒绝,靠着孩子拿捏前夫,重回顶流之位难如登天!

曝85花想复婚被拒绝,靠着孩子拿捏前夫,重回顶流之位难如登天!

嘴角上翘的弧度
2026-11-22 01:51:42
下一个库蒂尼奥!利物浦 1.2 亿水货完美逆袭!伊劳拉挖到宝了

下一个库蒂尼奥!利物浦 1.2 亿水货完美逆袭!伊劳拉挖到宝了

澜归序
2026-11-22 10:47:44
潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

LULU生活家
2026-11-21 14:45:18
不匹配的高度,配得上谁?

不匹配的高度,配得上谁?

薇微笑语
2026-11-20 16:13:00
普京向乌克兰军人“喊话”

普京向乌克兰军人“喊话”

参考消息
2026-11-21 15:58:07
妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

千秋文化
2026-07-14 19:32:44
连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

兵国大事
2026-11-20 16:37:56
11月21日,大家期盼已久的2026年养老金,究竟涨还是不涨?

11月21日,大家期盼已久的2026年养老金,究竟涨还是不涨?

虎哥闲聊
2026-11-21 21:35:58
全面战争五年来,乌克兰无人机可能首次袭击俄罗斯飞地加里宁格勒

全面战争五年来,乌克兰无人机可能首次袭击俄罗斯飞地加里宁格勒

山河路口
2026-11-22 14:09:18
文革中的傅崇碧,老实到令人心酸

文革中的傅崇碧,老实到令人心酸

特例的猫
2026-11-22 14:12:10
A股:周末两大重磅利好,不出意外的话,行情要走出关键一步!

A股:周末两大重磅利好,不出意外的话,行情要走出关键一步!

云鹏叙事
2026-11-22 13:54:17
2026-11-22 18:32:49
阿鑫讲ai
阿鑫讲ai
专门讲解现阶段高热度的AI
134文章数 16关注度
往期回顾 全部

数码要闻

三星的内存产能至2029年已几乎全部预订一空 客户正寻求直至2031年的供货协议

头条要闻

老板闭店前给学生写信:不要删我 想看你们幸福过一生

头条要闻

老板闭店前给学生写信:不要删我 想看你们幸福过一生

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

游戏
时尚
健康
艺术
军事航空

实战最佳?GTA6女NPC清一色梨形身材:老美都这样

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

《岳阳楼记》人人会背,但范仲淹的书法您见过吗?让人眼前一亮!

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版