网易首页 > 网易号 > 正文 申请入驻

前DeepSeek作者开源Linger:12GB显卡跑125B模型是真的,但“零Token费”省下的钱,从内存条和电费里又花出去了

0
分享至

一块12GB显存的RTX 3060,跑125B参数的Qwen3.8-Flash-Next,45.5 tokens/秒,不按Token付费,数据不出本机。

这是Linger发布时被转得最多的一句话。前DeepSeek V1作者、DeepSeek-VL项目负责人张博(Tony Zhang)11月19日开源了这个本地个人Agent,GitHub星标几天内破三千。官方把它比作“个人电脑的诞生”——AI不该只活在数据中心里,按Token租给你,智能应该完全由你拥有。

我花了两天把它的文档、GitHub issue和几篇实测翻了一遍。“12GB跑125B”是真的,但它有一个官方没放在标题里的前提。而“零Token费”省下的钱,从另一个你没想到的地方又花出去了。



第一笔账:12GB是入场券,64GB内存才是账单

45.5 tokens/秒这台机器,插着64GB内存。

官方文档写得很清楚:125B模型跑在12GB显卡加64GB内存上,靠的是PolyStrata推理引擎——把模型最繁忙的专家留在GPU显存,其余专家放在系统内存或SSD,用到时再搬运进来。Qwen3.8-Flash-Next的2-bit量化文件约39GB,靠分层调度运行,不会一次性载入显存。

内存少一半,速度直接掉一个量级。 官方另一组硬件规划测试:12GB显卡配32GB内存的模拟配置下,同一个模型速度掉到21.3 tokens/秒,首字延迟约3分钟。有16GB显卡的用户实测后留了一句很直接的话:“他们只告诉你12G显存也能跑125B,但是没告诉你至少要拥有96G的内存”。

“12GB显卡”是一个精确的营销数字,但它不是完整的门槛。 一张二手3060 12GB大概千元出头,四根32GB DDR4内存才是真正让这台机器“跑得动”的东西。而且45.5 tokens/秒是2-bit量化下的稳态速度,官方没有给这一档的质量评分——量化损失多大,需要你自己拿任务去测。

省掉的是API账单,换来的是硬件、电费和“首字等三分钟”的耐心。



第二笔账:零Token费只对“本地那一半”成立,后台记忆任务永远跑在云端

Another Me是Linger最值得认真看的部分。它持续读你的收件箱、日历和Slack,每晚把邮件、聊天、会议整理成本地知识库,按紧急程度决定什么时候提醒你——客户周五要报价,它周三才提醒;会议时间一改,立刻通知。LoCoMo长期记忆基准95%,超过Mem0、MemOS。

但官方文档里有一句容易被跳过的话:后台记忆和Wiki生成,用的是Claude Code或Codex等运行时。 只要你挂着云订阅,每晚整理时读到的邮件和聊天,照样会发给那家服务商。Linger本身不带模型,只是一个壳,本地模型挂在Pi后面跑,单次问答不花钱;但后台记事这一步,并没有完全留在本地模型里。

还有几扇门也会把数据带出去:连接Gmail、Slack等应用调用Composio,语音识别调用Soniox,实时语音调用xAI,使用远程模型时提示词和上下文发给模型服务商。

“装进自己电脑”改变的是“资料存放在谁手里”,不是“数据绝对不出门”。 零Token费只对本地推理这一半成立;另一半夜里在跑,账单和数据流向都取决于你接的是谁。



第三笔账:没有沙箱,它拿的是你的系统权限

这是Linger最需要被认真对待的一条边界,官方自己写得很直白。

Linger没有沙箱隔离。 助理直接以你的系统权限执行任务,你已登录的邮箱、桌面文件和命令行它全都能碰。拦住误操作靠的是服务端校验和弹窗确认卡——读取类操作直接执行,发邮件等写入操作才弹确认。

“弹窗确认”不是“沙箱”。 沙箱是把程序关进一个受限环境里,它碰不到外面的东西;确认卡是在它伸手的时候问你一句“可以吗”。如果模型被诱导、或者你在疲劳时顺手点了“允许”,权限边界就消失了。有实测者给的建议很务实:先拿测试号和空文件夹跑一晚,别一上来就绑主力邮箱。

许可证也值得看一眼。Linger基于Apache 2.0加了商业限制:未经授权,其他企业不得把源码作为托管服务提供给外部用户,也不得删改前端Logo和版权信息。个人用、本地跑,没问题;想拿它做托管生意,得先谈授权。



它和OpenClaw、DS-Bot到底差在哪:张博自己给了答案

有网友在X上问它和OpenClaw、DeepSeek DS-Bot的区别,张博的回应很具体。

OpenClaw更侧重接入常用聊天软件,以及Bot和群组之间的协作;Linger更关注人与自己的Agent之间的协作,以及Agent对本地电脑环境的操作。

DS-Bot是基于DeepSeek Harness的插件,模型通过用户配置的API调用;Linger不绑定单一Harness,能接入Claude Code、Codex和Pi,也支持本地模型,重点是让模型与Harness共同优化。

一句话:DS-Bot是“在DeepSeek的框架里加一个Bot”,Linger是“在你的电脑上搭一个可以换引擎的壳”。 你想用本地模型省钱,可以;你想用已有的Claude Code订阅跑长任务,也可以。它不锁你,但也不替你选。



所以,“本地个人Agent的最后一公里”补上了吗

补上的那一公里: 它让“在自己电脑上跑一个能用的大模型Agent”从“极客折腾”变成了一个安装器就能完成的事。Model Autopilot会读你的显卡、内存和带宽,自动挑一个能装下64K上下文的模型,答对一道真题才算安装成功。Another Me的主动记忆和工作流,是云端Agent(Muse/Dots)给不了的那种“它真的知道我在干什么”的体感。

还没补上的那一公里: “本地”不等于“闭环”——后台记忆在云上,外部服务在云上,零Token费只覆盖一半;“无沙箱”意味着你需要自己扮演那道防火墙;“12GB跑125B”需要64GB内存和2-bit量化做前提,45.5 tokens/秒的体验,和云端Agent的即时响应不是一个量级。

它最适合的人: 对数据不出本机有强需求、有一张12GB以上显卡和至少64GB内存、愿意花一个晚上调配置、并且能接受“首字等一会儿”的开发者。它不适合的人: 想要开箱即用、依赖最新联网信息、或者不愿意为“本地”支付硬件和折腾成本的人。

Linger真正改变的不是“Token免不免费”,是“你终于可以自己决定哪一半留在硬盘、哪一半交给云”。 这个选择权,比“零Token费”值钱得多——但前提是,你得知道自己把哪一半交出去了。

声明:内容由AI生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一日3喜?郑丽文乐开花!国民党2人太给力,蒋万安憋了个“大招”

一日3喜?郑丽文乐开花!国民党2人太给力,蒋万安憋了个“大招”

越过海面
2026-11-22 07:33:41
国米盯上阿森纳22岁中卫,身价估3500万镑出场却不足400分钟

国米盯上阿森纳22岁中卫,身价估3500万镑出场却不足400分钟

赛场名场面
2026-11-22 18:21:54
春妮现状:把父母从上海接到北京孝敬,已经济自由,和刚强很恩爱

春妮现状:把父母从上海接到北京孝敬,已经济自由,和刚强很恩爱

一娱三分地
2026-11-22 17:15:06
大家早做准备!今年小雪起,六七十岁的老人可能面临三个现实问题

大家早做准备!今年小雪起,六七十岁的老人可能面临三个现实问题

神牛
2026-11-21 22:00:50
宴会结束,高市早苗登机回国!中方招待一切正常,日本感到很满意

宴会结束,高市早苗登机回国!中方招待一切正常,日本感到很满意

一口娱乐
2026-11-22 17:13:24
湖南永州一饭店免费为货车司机提供饭菜,老板:坚持半年,已接待八百多位司机

湖南永州一饭店免费为货车司机提供饭菜,老板:坚持半年,已接待八百多位司机

潇湘晨报
2026-11-22 16:42:11
1970年西哈努克被推翻流亡北京,五年间生活优渥甚至想迎娶女演员,回国后亲人接连遇难,他为何没有选择复仇

1970年西哈努克被推翻流亡北京,五年间生活优渥甚至想迎娶女演员,回国后亲人接连遇难,他为何没有选择复仇

唠叨说历史
2026-11-10 19:55:18
曹洪:伊朗战争让中国措手不及!中国根本没见识过这等打法!

曹洪:伊朗战争让中国措手不及!中国根本没见识过这等打法!

揽星戈
2026-11-21 02:54:51
“头部和腹部中枪”,以媒:东耶路撒冷一男孩上学途中遭枪击身亡

“头部和腹部中枪”,以媒:东耶路撒冷一男孩上学途中遭枪击身亡

环球网资讯
2026-11-22 14:12:09
第2局连得5分终结!王祉怡打破8个月冠军荒:5个2-0到手,横扫李美妙夺冠,国羽2金1银收官!

第2局连得5分终结!王祉怡打破8个月冠军荒:5个2-0到手,横扫李美妙夺冠,国羽2金1银收官!

刘姚尧的文字城堡
2026-11-22 15:16:42
刚刚,Anthropic攻下黎曼猜想,DeepSeek和国产模型在卖API

刚刚,Anthropic攻下黎曼猜想,DeepSeek和国产模型在卖API

智能纪元AGI
2026-11-21 21:13:06
宁夏大学原校长彭志科辞去宁夏回族自治区党委委员职务,曾担任过上海交通大学机械与动力工程学院院长

宁夏大学原校长彭志科辞去宁夏回族自治区党委委员职务,曾担任过上海交通大学机械与动力工程学院院长

台州交通广播
2026-11-22 14:08:38
上海一家三口频繁咳嗽生病!卧室墙皮“酥得掉渣”、霉菌遍布……爸爸崩溃

上海一家三口频繁咳嗽生病!卧室墙皮“酥得掉渣”、霉菌遍布……爸爸崩溃

上观新闻
2026-11-22 11:23:24
中国首富张一鸣建议公司员工,不要住在城乡结合部,应该全部住在北京市区,哪怕房子小点,省下的时间可以健身读书看电影!

中国首富张一鸣建议公司员工,不要住在城乡结合部,应该全部住在北京市区,哪怕房子小点,省下的时间可以健身读书看电影!

财经要参
2026-11-09 12:00:05
CBA杯八强定4席:浙江双杀山东,北京大胜深圳,山西、青岛晋级

CBA杯八强定4席:浙江双杀山东,北京大胜深圳,山西、青岛晋级

乒桢泳球
2026-11-22 17:36:52
越南一把手很忧虑:和中国一对比,才知道原来我们落后了这么多

越南一把手很忧虑:和中国一对比,才知道原来我们落后了这么多

觉慧梦吟
2026-11-20 23:31:13
精壮身材、高冷气场!7位当兵后更有魅力的韩星!

精壮身材、高冷气场!7位当兵后更有魅力的韩星!

ChicMyGeek
2026-11-22 11:08:10
A股:周末两大重磅利好,不出意外的话,行情要走出关键一步!

A股:周末两大重磅利好,不出意外的话,行情要走出关键一步!

云鹏叙事
2026-11-22 13:54:17
U17世界杯疯狂一夜!国足惨败却等来出线希望

U17世界杯疯狂一夜!国足惨败却等来出线希望

林子说事
2026-11-22 15:25:36
湖人内讧:东契奇公开指责队友不防守,詹姆斯从来没有这么干过

湖人内讧:东契奇公开指责队友不防守,詹姆斯从来没有这么干过

姜大叔侃球
2026-11-22 12:13:45
2026-11-22 18:47:00
阿鑫讲ai
阿鑫讲ai
专门讲解现阶段高热度的AI
134文章数 16关注度
往期回顾 全部

数码要闻

三星的内存产能至2029年已几乎全部预订一空 客户正寻求直至2031年的供货协议

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

本地
时尚
教育
旅游
公开课

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

旅游要闻

喀什旅游的游客因清廷中唯一的维吾尔族妃子的故事而奔赴这里参观

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版