网易首页 > 网易号 > 正文 申请入驻

400 Token/s,原生多模态,阶跃星辰 Step 3.7 Flash 开源

0
分享至

阶跃星辰

今天,阶跃星辰开源了他们的新模型:Step 3.7 Flash,支持视觉理解,为 Agent 工作进行了全面优化,MoE 架构,196B 总参数,11B 激活

https://github.com/stepfun-ai/Step-3.7-Flash

除多模态外,在我看来,这模型还有一个优势:快至 400 token/s

我自己测试了下,有 300+ token/s,感受一下

我自己的实录,感受一下速度

这个速度,应是最快的常规模型了

在生成内容的时候,这个模型的输出速度能到 400 TPS 左右,大概是....当你读完这句话的时候,这篇文章就生成完了(啊不是...这篇文章是手敲的,不是生成的...)

这个速度大致上也符合我对 Flash 模型的理解:在一目十行扫过上一页内容的时候,下一页已经生成了

下面,让我们先看一下跑分,然后再聊聊模型本身的特点

BenchMark

模型跑分可以先看下面这个图,Step 3.7 Flash 对比于 3.5 Flash、DeepSeek V4 Flash,以及海外御三家(Gemini、GPT、Claude)


Step 3.7 Flash Bench

简而言之:

  • 对比海外御两家,算了,反正大家都还有一些差距....诶....御两家??

  • 对比 DeepSeek,部分 bench 里有所胜出;

  • 对比上一代模型,大幅提升

  • 在速度 bench 上... 遥遥领先(aa 榜单最快的是 gpt-5.3,100+)

几个 case

这里给大家看几个 demo,我觉得创造了一种叫做 *Realtime-UI 的范式,因为足够快,所以可以以实时的方式,在你的屏幕上渲染出各种交互界面,并与你交互

*你可能对 Realtime-UI 的这个概念不熟,没关系,这是我瞎编的

这些东西都是同时基于【Agent 能力构建】【视觉理解能力处理】,并且在【高 TPS】下才能做到的,再度划重点:高 TPS

画面实时解读先看第一个例子,通过 flash-3.7 来进行多模态信息的实时理解

上传一张飞机驾驶舱的照片后,鼠标指向过去,模型就在【秒级以内】快速的识别区域内的物品,并给出具体的细致讲解;由于生成速度确实很不错,还可以通过 function call 的方式,在非常短的时间里生成交互框,做出来一种 Realtime UI 的感觉

Pinterest 设计分析我们也可以把同一套视觉能力,搬到浏览网页的场景里

在 Pinterest 的瀑布流里里,鼠标停在哪张图上,底部就可以实时弹出交互框,对那张海报的构图、字体和视觉概念进行解读,做到完全与操作进行同步

Blender 三维软件除了图片、网页之外,这玩意儿也可以对复杂软件的界面进行理解

以 blender 为例(这真算相当复杂了),鼠标移动到哪,就能识别出尝尽力的面板和对象信息,并顺着指令告诉你接下来应该怎么操作

其实我真觉得...这玩意儿应该做成一个给家里老人用的工具,很多时候我需要远程给他们操作电脑,如果有了这个就会方便很多(甚至最好我在远程给他们说:点这个,然后家里的电脑要被点击的地方酒亮一下)

发票批量处理发票这个场景就太值得一提了

记账的时候,把各种票据丢进去,模型可以通过 fucntion call 的方式,快速抽取到商户、类别、金额、税额...等等各类信息,然后做成表格

智能体集群在实际业务过程中,这些能力还可以影分身着来用

比如生成 40 个不同身份的 agent,让他们进行投票...诶...巧了不是,今天 claude code 新出了动态工作流,是不是可以搭配着用上:

快速搭知识图谱既然这么快,那么搭建一个图谱,也即是几秒钟的事儿

给一个主题,比如「大语言模型」,模型就能几秒钟内,快速铺开一张概念图,节点连成网络,从基础定义一路连到 Transformer 架构

模型特点

在我看来,Step 3.7 Flash 这个模型的两大核心优势:多模态理解 + 快

要知道,同级别的开源模型,大多开源模型,不具备多模态能力

还要知道,在非特别的推理加速下,绝绝绝绝大多数的模型,推理速度在 100 tps(tokens/s) 以下,主流则在 30 tps 左右


上面这个是 AA 的速度天梯,此前最快的是 gpt-5.3

Step 3.7 Flash 在支持多模态的前提下,把速度拉到了 400 tps,也不知道是上了什么神奇魔法

我去看了下文档,这个里面的图片&视频理解是原生支持的,并且在推理过程中还可以使用一个叫 Visual Python Tool的工具,对于看不清楚的地方,模型会自主对图片做 crop、zoom、re-read...换句话说,看不清就放大再看一遍,看完有疑问就去搜,尽可能的准确、高效的把事情搞定

同样的,搜索也是用这种方法进行循环:搜玩了如果觉得信息不够,那就再搜、再推,belike...


至于其他信息,这个模型的默认上下文是 256K,支持推理强度的手动调节:low / medium / high,可以根据需求,具体的更改参数

多少钱

这个模型可以自己部署,也可以通过官方平台或者第三方 MaaS 进行调用,价格如下:

输入 · 缓存命中 0.27 元

输入 · 缓存未命中 1.35 元

输出 8.1 元

Agent 场景下,缓存命中还是很高的

单看这个价格,是稍高于 DeepSeek v4 Flash的(输入1元/输出2元),但如果横比一下支持多模态的高速模型,那就很有优势了

然后这个模型也可以在海外平台调用,按美元计价,输入命中 $0.04、未命中 $0.20、输出 $1.15 每百万 token

模型使用

step-3.7-flash 同时兼容两套协议:OpenAI 家的,以及 Anthropic 家的

也可以直接用 Anthropic SDK,魔改下 endpoint 来用。在 Coding 和 Agent 工具上,对 Claude Code、OpenClaw、Cline、Roo Code、Kilo Code、Open Code 也都是支持的

这个模型今天上线,支持的 MaaS 包括:阶跃官方平台(国内 platform.stepfun.com,海外 platform.stepfun.ai)、OpenRouter、NVIDIA NIM;而 DeepInfra、Fireworks、Modal 也在接入中,很快就上了


https://platform.stepfun.com/docs/zh/guides/models/step-3.7-flash

当然,作为开源模型,你也可以自己跑:196B/A11B,算一下的话反正 128G 的机器量化着能跑

在 HuggingFace 上,放了 BF16、FP8、NVFP4、GGUF 四种权重,丰俭由人,vLLM、SGLang、Hugging Face Transformers、llama.cpp 均以支持


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
大补之物吃多了都有啥后果?网友:我吃了两口鹿肉,一个星期都感觉血液在身体里奔腾

大补之物吃多了都有啥后果?网友:我吃了两口鹿肉,一个星期都感觉血液在身体里奔腾

解读热点事件
2026-09-06 01:23:20
太子奶创始人李途纯去世,其子回应:或突发心梗,事发时无人在其身边

太子奶创始人李途纯去世,其子回应:或突发心梗,事发时无人在其身边

红星资本局
2026-09-08 16:48:05
上海赛车事件持续发酵!网传工作人员打不开灭火器,扔下就跑,网友:60元一天的大爷,是真没能力打开灭火器,更别谈救人了

上海赛车事件持续发酵!网传工作人员打不开灭火器,扔下就跑,网友:60元一天的大爷,是真没能力打开灭火器,更别谈救人了

火山詩话
2026-09-08 08:42:24
中秋国庆假期运输火车票9月9日起开始发售

中秋国庆假期运输火车票9月9日起开始发售

新京报
2026-09-09 11:13:24
泰国方面总结5天战果:憋了200多天的林肯号水兵,人均花了4300块

泰国方面总结5天战果:憋了200多天的林肯号水兵,人均花了4300块

影孖看世界
2026-09-08 23:25:40
不掉落的比基尼,挂脖的最稳当!

不掉落的比基尼,挂脖的最稳当!

飛尚日记
2026-09-07 09:08:17
决裂41年后李政道公开表示:我和杨振宁分裂,是中华民族一大悲剧

决裂41年后李政道公开表示:我和杨振宁分裂,是中华民族一大悲剧

浩渺青史
2026-09-08 01:16:10
这个污蔑中国的恶毒谣言,被粉碎!

这个污蔑中国的恶毒谣言,被粉碎!

海外网
2026-09-08 14:35:07
李某偷拍亲密视频要挟某局长,竟意外牵出受贿案,最终双双入狱

李某偷拍亲密视频要挟某局长,竟意外牵出受贿案,最终双双入狱

齐鲁壹点
2026-09-09 07:57:09
“我说你们都回来,往上爬,我们等救援”,尼泊尔获救中国公民陆海涛更多回忆曝光

“我说你们都回来,往上爬,我们等救援”,尼泊尔获救中国公民陆海涛更多回忆曝光

环球时报国际
2026-09-08 16:23:49
不查不知道,一查吓一跳,身价上亿的郭德纲,私下的生活壕到离谱

不查不知道,一查吓一跳,身价上亿的郭德纲,私下的生活壕到离谱

一些小事
2026-09-09 08:59:44
保利集团董事长贺平的人生颇具传奇色彩:他娶了邓小平的女儿为妻,还曾低调斥资3000万元收回三件国宝

保利集团董事长贺平的人生颇具传奇色彩:他娶了邓小平的女儿为妻,还曾低调斥资3000万元收回三件国宝

z千年历史老号
2026-09-07 11:43:45
教师行业迎来最强倒查,这4类行为将严格处理!

教师行业迎来最强倒查,这4类行为将严格处理!

细说职场
2026-09-09 10:51:09
“4岁男童被指摸臀事件”当事女子账号已被禁止关注;此前回应“蹭流量”称干自媒体需要流量;伊能静发声:建议家长都更有法律意识

“4岁男童被指摸臀事件”当事女子账号已被禁止关注;此前回应“蹭流量”称干自媒体需要流量;伊能静发声:建议家长都更有法律意识

极目新闻
2026-09-08 18:26:30
闰土太阳女主持和女歌手的瓜!

闰土太阳女主持和女歌手的瓜!

八卦疯叔
2026-09-09 09:10:03
WTT澳门冠军赛:黄友政首局5-3被逆转!美国1哥赢4分,1-0领先!

WTT澳门冠军赛:黄友政首局5-3被逆转!美国1哥赢4分,1-0领先!

刘姚尧的文字城堡
2026-09-09 12:04:28
郭德纲改编红歌事件罚单下发!网友:郭德纲宁愿德云社直接被罚,50多万是小钱,没人敢请才是大问题

郭德纲改编红歌事件罚单下发!网友:郭德纲宁愿德云社直接被罚,50多万是小钱,没人敢请才是大问题

火山詩话
2026-09-08 06:34:34
侵吞上亿善款?官方发文,宣布54岁韩红新身份,这次终于扬眉吐气

侵吞上亿善款?官方发文,宣布54岁韩红新身份,这次终于扬眉吐气

冰语历史
2026-09-08 09:48:06
足坛奇观!连续4届欧洲金童全员失业,昔日顶级天才为何集体陨落

足坛奇观!连续4届欧洲金童全员失业,昔日顶级天才为何集体陨落

体坛老球迷
2026-09-09 08:53:51
嚣张跋扈尝到苦果了!一家三口被遣返,上海飞洛杉矶飞机上打人事件结局舒适,评论区炸锅

嚣张跋扈尝到苦果了!一家三口被遣返,上海飞洛杉矶飞机上打人事件结局舒适,评论区炸锅

火山詩话
2026-09-08 10:33:51
2026-09-09 13:28:49
赛博禅心
赛博禅心
拜AI古佛,修赛博禅心
551文章数 58关注度
往期回顾 全部

科技要闻

AI重大突破!OpenAI称解开近百年数学难题

头条要闻

4岁男童被指摸臀 父亲发声:无法接受出具书面道歉要求

头条要闻

4岁男童被指摸臀 父亲发声:无法接受出具书面道歉要求

体育要闻

16年后再破门,被皇马放弃的少年没认输

娱乐要闻

郭麒麟最便宜贵公子争议,本人未回应

财经要闻

8月CPI同比涨0.8% PPI环比由降转涨

汽车要闻

坦克700申报信息曝光 长轴距版轴距增150mm/首搭6座

态度原创

教育
房产
旅游
游戏
数码

教育要闻

盘点高考日语老师眼中印象深刻的学生逆袭成长案例?

房产要闻

砸388亿+首个方案出炉!三亚,又一片区要起飞!

旅游要闻

上海旅游节大巡游花车阵容抢先看 外滩交通有变

《女神异闻录6》主角团名曝光 舞台确认 还有新机制

数码要闻

OWC发布双HDMI 2.1雷电5扩展坞、1.5m雷电5 USB-C线材

无障碍浏览 进入关怀版