网易首页 > 网易号 > 正文 申请入驻

TML开源新模型,循环Transformer架构,笔记本就能跑

0
分享至

编辑|Panda

昨晚,黎曼猜想的一份 AI 证明声明,把大模型的推理能力再次推到聚光灯下。Anthropic 数学家 Levent Alpöge 宣称,自己与 Claude 合作找到了证明,并公布了形式化材料。虽然这项声明仍待独立核验,但已经让人们重新追问:AI 究竟能完成多复杂的工作?

而刚刚,Thinking Machines Lab(TML)发布并开放了Inkling 2 Mini的权重。



这是一个总参数 26B 的多模态模型,采用循环 Transformer(looped transformer)架构,支持文本和图像输入,最大上下文窗口为 100 万 token。权重已按 Apache 2.0 许可发布,开发者可以下载部署,也能通过 Tinker 进行推理和微调。

  • 模型卡与权重:https://huggingface.co/thinkingmachines/Inkling-2-Mini
  • 官方博客:https://thinkingmachines.ai/news/inkling-2-mini/

官方宣称能在笔记本上运行,并且能胜任智能体工作。看起来,它要展示的是个人电脑上的模型能做到哪一步。

在 TML 公布的演示中,研究人员带着一台 MacBook Pro 登上飞机,断开网络,让 Inkling 2 Mini 在几分钟内写出了一个可玩的飞行模拟器。演示使用的是配备 48GB 内存的 M5 Pro 机型,推理在本地完成。



视频链接:https://mp.weixin.qq.com/s/L1uJr_0iFFGn2jZ3qNRRow

他们还构建了一个由 Inkling 2 Mini 搭建的微型像素小镇 Thinkyville。其中,同一模型在一台离线 MacBook 上驱动全部 20 位村民。他们规划一天的生活、闲聊八卦、举办烘焙比赛,还会回复你留在他们门上的便条。



视频链接:https://mp.weixin.qq.com/s/L1uJr_0iFFGn2jZ3qNRRow

模型发布后,社区反映非常热烈。有人将其接入了 DeepSeek Harness,跑出了飞快的速度。



还有人让它玩通了一个电子游戏,并且发现它还能反复游玩并优化策略,并学会速通。



生成动画 MV 也没有问题:



让同一组权重,多算几轮

Inkling 2 Mini 的技术看点,在于它采用了循环 Transformer架构。

普通 Transformer 在生成每个 token 时,会让信息依次经过一组固定的网络层。Inkling 2 Mini 则把中间一段网络重复利用:全模型共 24 层,最前和最后的 6 层各运行一次,中间 12 层运行三次。后续轮次还会读取上一轮传来的信息。



因此,模型只需存储 24 层权重,就能为每个 token 完成 48 次层计算。增加的内部计算,为需要连续推导的任务提供了更多处理空间,同时控制了权重体积。

它还采用了混合专家(MoE)架构,每个 token 只调用部分专家参与计算。模型的激活参数约为 3.4B;将循环中的重复计算计入后,有效参数激活量约为 5.4B。



https://vllm-project.github.io/2026/11/20/inkling2-mini.html

编程表现

从 TML 公布的评测看,Inkling 2 Mini 的长处集中在智能体编程、搜索和工具使用上。

在 DeepSWE v1.1 上,它的任务解决率为48.2%,对比的 Qwen3.8-27B 为 42.2%;在 SWE-bench Verified 上,两者分别为79.2%和 77.8%。



要把这样的模型放进笔记本,权重的存储方式也很关键。Inkling 2 Mini 的专家层主要使用 NVFP4 低精度格式,最后 4 层采用 MXFP8。它在训练中就使用了相应精度,并以同样的精度部署,减少了交付时再次转换精度的环节。

发布的检查点约为 20GB。官方支持在至少配备 32GB 内存的 Apple 芯片设备上运行,其他 GPU 平台建议至少提供 32GB 显存;本地推理已有 Ollama、vLLM、SGLang 等工具支持。

更短的思维链

循环计算还有一层值得关注的含义:模型可以在输出文字之前,完成更多内部处理。于是,研究者需要继续检验,写出来的思维链能在多大程度上帮助人们理解和监督模型。

为此,TML 同步开放了TML-d24-varloop-research。与固定循环三次的 Inkling 2 Mini 不同,这个研究版本允许在推理时调整循环次数,方便研究者在同一组权重上比较增加计算的影响。官方明确将它定位为研究模型,实际产品应用仍推荐使用 Inkling 2 Mini。

链接:https://thinkingmachines.ai/model-card/tml-d24-varloop-research/

Inkling 2 Mini 也有明确的能力边界。按照 TML 的说明,它在多轮对话和多重约束指令上仍有短板,复杂推理表现与更大模型存在差距;增加循环次数,也不会直接扩大权重中储存的事实知识。

这次发布值得关注的地方,是在有限的权重体积里增加推理计算,并把模型交给开发者在自己的设备上运行。对于希望搭建本地编程助手或长期运行智能体的人,Inkling 2 Mini 算是一个值得一试的新选择。

更多细节请访问官方博客与仓库。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国公司将特斯拉Model 3爆改成MPV,超充、OTA、辅助驾驶都能用

美国公司将特斯拉Model 3爆改成MPV,超充、OTA、辅助驾驶都能用

IT之家
2026-11-21 18:55:05
法国作家Vincent Crouzet胡说八道:所有在法国居住的华人、华侨或者有中国背景的人都是间谍

法国作家Vincent Crouzet胡说八道:所有在法国居住的华人、华侨或者有中国背景的人都是间谍

小徐讲八卦
2026-11-22 08:09:49
重选一百次,状元也只能是我!四大天选状元,詹姆斯勉强上榜

重选一百次,状元也只能是我!四大天选状元,詹姆斯勉强上榜

曼巴体育6
2026-11-22 18:14:53
《GTA6》女主上身正面裸露BUG曝光 特殊触发方法

《GTA6》女主上身正面裸露BUG曝光 特殊触发方法

游民星空
2026-11-22 12:11:17
四川一卤肉饭大叔闭店前给学生们写信:不要删叔叔,叔叔看你们顺利毕业,幸福过一生,我会偷偷点赞;发闭店通知后爆单,一夜没睡坚持做完

四川一卤肉饭大叔闭店前给学生们写信:不要删叔叔,叔叔看你们顺利毕业,幸福过一生,我会偷偷点赞;发闭店通知后爆单,一夜没睡坚持做完

农民日报
2026-11-21 19:13:51
这是毛主席在泰安的旧照,27岁时穷游泰山鞋子竟被贼偷走!

这是毛主席在泰安的旧照,27岁时穷游泰山鞋子竟被贼偷走!

老钱道古今
2026-11-22 08:50:30
媒体造神,从删掉"交易额"开始

媒体造神,从删掉"交易额"开始

鲁先生的笔
2026-11-21 21:51:20
玻璃瓶更干净?法国科学家的意外发现:玻璃瓶里的微塑料反而更多

玻璃瓶更干净?法国科学家的意外发现:玻璃瓶里的微塑料反而更多

抽象派大师
2026-11-22 01:39:07
潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

LULU生活家
2026-11-21 14:45:18
普京向乌克兰军人“喊话”

普京向乌克兰军人“喊话”

参考消息
2026-11-21 15:58:07
美军收到情报,台海一旦开战,解放军600枚超导,让美军有来无回

美军收到情报,台海一旦开战,解放军600枚超导,让美军有来无回

遁走的两轮
2026-11-22 14:00:37
178元一瓶,“APEC晚宴荔枝酒”卖断货,员工:干冒烟了,加班费让人开心

178元一瓶,“APEC晚宴荔枝酒”卖断货,员工:干冒烟了,加班费让人开心

江山挥笔
2026-11-21 11:30:34
“大不了就去送外卖”——年薪50万的高管被裁后真去跑了半年,才发现低处早就人满为患

“大不了就去送外卖”——年薪50万的高管被裁后真去跑了半年,才发现低处早就人满为患

一丝不苟的法律人
2026-11-20 11:43:40
2027年冬天,可能是最近60年最反常的冬天,有三大特点,大家一定要注意

2027年冬天,可能是最近60年最反常的冬天,有三大特点,大家一定要注意

笑谈文史
2026-10-18 20:35:15
妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

妻子升处长后跟我离婚,领完证后我拨通了省纪委电话,她脸色煞白

千秋文化
2026-07-14 19:32:44
连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

兵国大事
2026-11-20 16:37:56
一个月打完,詹姆斯188分,库里278分,文班458分,东契奇太夸张

一个月打完,詹姆斯188分,库里278分,文班458分,东契奇太夸张

大西体育
2026-11-21 21:46:18
A股:全体股民做好心理准备了,明天11.23,A股可能再次历史重演吗

A股:全体股民做好心理准备了,明天11.23,A股可能再次历史重演吗

股侠指北针
2026-11-22 17:56:35
H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

H200停售,海外AI算力又被掐断,国产AI芯片迎来“泼天富贵”!

互联网.乱侃秀
2026-11-21 11:23:44
11月21日,大家期盼已久的2026年养老金,究竟涨还是不涨?

11月21日,大家期盼已久的2026年养老金,究竟涨还是不涨?

虎哥闲聊
2026-11-21 21:35:58
2026-11-22 18:51:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14533文章数 142763关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

教育
手机
艺术
数码
公开课

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

手机要闻

星芒OSTA O1 Pro新机确认支持华为自研Wi-Fi 7+芯片级协同技术

艺术要闻

世界十大著名宫殿盘点:中国独占两席

数码要闻

内存价格暴涨下,华硕考虑将中低端PC内存由16GB降至8GB

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版